Почему сумма положительных и отрицательных значений не равна нулю?

Пользователь

Сообщений: 3 Регистрация: 01.08.2020

01.08.2020 22:58:06

Помогите, пожалуйста, разобраться почему неверно суммируется столбец P
В столбец Q вписал значения вручную, для проверки, и их сумма в Q49 верная - она равна 0
Почему же в P49 результат суммы равен -9,09494701772928E-13

Прикрепленные файлы

error.xlsx (21.01 КБ)

vikttur Пользователь Сообщений: 47199 Регистрация: 15.09.2012	#2 01.08.2020 23:02:28 Ошибка стандарта вчислений с плавающим рзделителем. Возникает в 15 знаке. Округляйте сумму до нужной точности (до 2-х знаков после запятой)

Hugo Пользователь Сообщений: 23799 Регистрация: 22.12.2012	#3 01.08.2020 23:02:42 IEEE 754 - стандарт двоичной арифметики с плавающей точкой

Alex Пользователь Сообщений: 3 Регистрация: 01.08.2020	#4 02.08.2020 08:06:02 vikttur, Hugo, большое спасибо Изменено: Alex - 02.08.2020 08:06:28

sokol92

Пользователь

Сообщений: 4660 Регистрация: 10.09.2017

03.08.2020 14:04:03

Цитата
vikttur написал: Ошибка стандарта вчислений с плавающим рзделителем.

Добрый день! Хочу очередной раз заступиться за авторов многострадального стандарта - нет в нем ошибок, более того, стандарт просто описывает то, что было уже с первых версий Фортрана.

Ошибка - в непонимании специфики приближенных вычислений (да еще в двоичной системе счисления).

Изменено: sokol92 - 03.08.2020 14:10:04

Владимир