Поиск  Пользователи  Правила 
Закрыть
Логин:
Пароль:
Забыли свой пароль?
Регистрация
Войти
 
Страницы: 1
RSS
Почему сумма положительных и отрицательных значений не равна нулю?
 
Помогите, пожалуйста, разобраться почему неверно суммируется столбец P
В столбец Q вписал значения вручную, для проверки, и их сумма в Q49 верная - она равна 0
Почему же в P49 результат суммы равен -9,09494701772928E-13
 
Ошибка стандарта вчислений с плавающим рзделителем. Возникает в 15 знаке. Округляйте сумму до нужной точности (до 2-х знаков после запятой)
 
IEEE 754 - стандарт двоичной арифметики с плавающей точкой
 
vikttur, Hugo, большое спасибо
Изменено: Alex - 2 Авг 2020 08:06:28
 
Цитата
vikttur написал:
Ошибка стандарта вчислений с плавающим рзделителем.
Добрый день! Хочу очередной раз заступиться за авторов многострадального стандарта - нет в нем ошибок, более того, стандарт просто описывает то, что было уже с первых версий Фортрана.

Ошибка - в непонимании специфики приближенных вычислений (да еще в двоичной системе счисления).
Изменено: sokol92 - 3 Авг 2020 14:10:04
Владимир
Страницы: 1
Читают тему (гостей: 1)
Наверх