Помогите разобраться

Помогите разобраться - Messages

#1 Posted: 11/11/2011 8:28:10 PM
Dezmond

Dezmond

0 likes in 2 posts.

Group: User

прога не хочет считать значение переменной выдает ошибку "Значение вышло за пределы максимально-допустимого числа". что это означает?
вроде как прога не создает переменную, хотя со следующими переменными никаких проблем нет.
может ли быть это связано с тем что формула большая и содержит много переменных?
#2 Posted: 11/11/2011 11:44:40 PM
build_your_web

build_your_web

4 likes in 127 posts.

Group: User

Разделите эту большую формулу на формулы поменьше, из которых она состоит.
Посмотрите промежуточные значения, которые выдают эти небольшие формулы. Подумайте в каком месте математические операции над этими переменными выдадут значение больше 2 000 000 000. Придумайте как сделать так, чтобы программа не доходила до этого значения.

Не уверен, что ограничение установлено в 2^32, но думаю, что так оно и есть. В любом случае не думаю, что требуется такая высокая точность, чтобы оперировать такими разрядами.
1 users liked this post
Dezmond 11/15/2011 12:19:00 PM
#3 Posted: 11/14/2011 2:27:56 PM
Dezmond

Dezmond

0 likes in 2 posts.

Group: User

все значения переменных не превышают 10^7 (2^24).
если уменьшить формул до минимума (2 слогаемых с переменными),
ошибка "Значение вышло за пределы максимально-допустимого числа" все равно появляется
Расчеты.rar (5 KiB) downloaded 67 time(s).
#4 Posted: 11/14/2011 11:20:12 PM
Fridel Selitsky

Fridel Selitsky

256 likes in 225 posts.

Group: Moderator

Вместо Ray:="выражение" напишите
Ray:=eval(выражение)
Метод расчета рычажных механизмов : http://www.exponenta.ru/educat/systemat/selitskiy-ivanov/index.asp
1 users liked this post
Dezmond 11/15/2011 12:19:00 PM
  • New Posts New Posts
  • No New Posts No New Posts