1 Pages (4 items)
Помогите разобраться - Messages
#1 Posted: 11/11/2011 8:28:10 PM
прога не хочет считать значение переменной выдает ошибку "Значение вышло за пределы максимально-допустимого числа". что это означает?
вроде как прога не создает переменную, хотя со следующими переменными никаких проблем нет.
может ли быть это связано с тем что формула большая и содержит много переменных?
вроде как прога не создает переменную, хотя со следующими переменными никаких проблем нет.
может ли быть это связано с тем что формула большая и содержит много переменных?
#2 Posted: 11/11/2011 11:44:40 PM
Разделите эту большую формулу на формулы поменьше, из которых она состоит.
Посмотрите промежуточные значения, которые выдают эти небольшие формулы. Подумайте в каком месте математические операции над этими переменными выдадут значение больше 2 000 000 000. Придумайте как сделать так, чтобы программа не доходила до этого значения.
Не уверен, что ограничение установлено в 2^32, но думаю, что так оно и есть. В любом случае не думаю, что требуется такая высокая точность, чтобы оперировать такими разрядами.
Посмотрите промежуточные значения, которые выдают эти небольшие формулы. Подумайте в каком месте математические операции над этими переменными выдадут значение больше 2 000 000 000. Придумайте как сделать так, чтобы программа не доходила до этого значения.
Не уверен, что ограничение установлено в 2^32, но думаю, что так оно и есть. В любом случае не думаю, что требуется такая высокая точность, чтобы оперировать такими разрядами.
1 users liked this post
Dezmond 11/15/2011 12:19:00 PM
#3 Posted: 11/14/2011 2:27:56 PM
все значения переменных не превышают 10^7 (2^24).
если уменьшить формул до минимума (2 слогаемых с переменными),
ошибка "Значение вышло за пределы максимально-допустимого числа" все равно появляется
Расчеты.rar (5 KiB) downloaded 67 time(s).
если уменьшить формул до минимума (2 слогаемых с переменными),
ошибка "Значение вышло за пределы максимально-допустимого числа" все равно появляется
Расчеты.rar (5 KiB) downloaded 67 time(s).
1 Pages (4 items)
-
New Posts
-
No New Posts