1 страниц (4 вхождений)
    
Помогите разобраться - Сообщения
                #1 Опубликовано: 11.11.2011 20:28:10
            
        прога не хочет считать значение переменной выдает ошибку "Значение вышло за пределы максимально-допустимого числа". что это означает?
вроде как прога не создает переменную, хотя со следующими переменными никаких проблем нет.
может ли быть это связано с тем что формула большая и содержит много переменных?
            вроде как прога не создает переменную, хотя со следующими переменными никаких проблем нет.
может ли быть это связано с тем что формула большая и содержит много переменных?
                #2 Опубликовано: 11.11.2011 23:44:40
            
        Разделите эту большую формулу на формулы поменьше, из которых она состоит.
Посмотрите промежуточные значения, которые выдают эти небольшие формулы. Подумайте в каком месте математические операции над этими переменными выдадут значение больше 2 000 000 000. Придумайте как сделать так, чтобы программа не доходила до этого значения.
Не уверен, что ограничение установлено в 2^32, но думаю, что так оно и есть. В любом случае не думаю, что требуется такая высокая точность, чтобы оперировать такими разрядами.
            Посмотрите промежуточные значения, которые выдают эти небольшие формулы. Подумайте в каком месте математические операции над этими переменными выдадут значение больше 2 000 000 000. Придумайте как сделать так, чтобы программа не доходила до этого значения.
Не уверен, что ограничение установлено в 2^32, но думаю, что так оно и есть. В любом случае не думаю, что требуется такая высокая точность, чтобы оперировать такими разрядами.
1 пользователям понравился этот пост
Dezmond 15.11.2011 12:19:00
                #3 Опубликовано: 14.11.2011 14:27:56
            
        все значения переменных не превышают 10^7 (2^24).
если уменьшить формул до минимума (2 слогаемых с переменными),
ошибка "Значение вышло за пределы максимально-допустимого числа" все равно появляется
Расчеты.rar (5,6 КиБ) скачан 146 раз(а).
            если уменьшить формул до минимума (2 слогаемых с переменными),
ошибка "Значение вышло за пределы максимально-допустимого числа" все равно появляется
Расчеты.rar (5,6 КиБ) скачан 146 раз(а).
        1 страниц (4 вхождений)
    
- Новые сообщения
 - Нет новых сообщений