Problems with Floor()

Problems with Floor() - Сообщения

#1 Опубликовано: 23.05.2018 12:35:43
Arie

Arie

93 сообщений из 285 понравились пользователям.

Группа: User

Can anyone explain what is going on here?

Why is the Floor() function producing a 3 in the following example?

Untitled.png
logrange.sm (9 КиБ) скачан 38 раз(а).

Edit: The .sm shows it, but I am in 0.99.6671.
Feel free to join the SMath Studio Users Discord Channel: https://discord.gg/PayZpJW
#2 Опубликовано: 23.05.2018 12:49:10
Arie

Arie

93 сообщений из 285 понравились пользователям.

Группа: User

This appears to be more of an issue with the log() function perhaps?

Файл не найден.Файл не найден.
Feel free to join the SMath Studio Users Discord Channel: https://discord.gg/PayZpJW
#3 Опубликовано: 23.05.2018 13:34:07
Jean Giraud

Jean Giraud

983 сообщений из 6866 понравились пользователям.

Группа: User

Wrote

Can anyone explain what is going on here?



like this: all maths functions are numerical approximations.
log(100000) does not come out exactly 4 [3 ± some epsilon]
just put log(10000.00000001) and get Floor [4]

floor(log(9999.999999999999))=4 [Mathcad]
floor(log(9999.999999999990))=3 [Mathcad]
floor(log(10000.00000001))=4 [Smath]
1 пользователям понравился этот пост
Arie 23.05.2018 14:04:00
  • Новые сообщения Новые сообщения
  • Нет новых сообщений Нет новых сообщений