Страницы: 1
RSS
Excel самопроизвольно добавляет цифры начиная с седьмого знака после запятой
 
Столкнулся с казалось бы безобидной ошибкой Excel. При подсчете суммы выскочила ошибка в шестом знаке. Стал проверять - всё введено правильно. Стало интересно - результат исследования приложен:
1. в столбце A - исходные данные (две значащие цифры после запятой). В сумме появилась единичка в шестом знаке.
2. в столбце B - проверка, не пропустил ли где-то неокругленное число. Видно, что не пропустил
3. в столбце С  - сумма накопленным итогом (тот же результат дают СУММ, СУММЕСЛИ, ПРОМЕЖУТОЧНЫЕ.ИТОГИ). Видно, что начиная с 273 строки в 6 знаке появляется единичка. Причем ТОЛЬКО в шестом знаке!
4. в столбце D - проверка аналогично п. 2. Неожиданно в 271 строке начиная с 7 знака появляются значащие цифры. Причем не 1 в шестом знаке, а именно дробная часть этой единички, начиная с седьмого. Сумма накопленным итогом  при этом почему-то все это безобразие округляет до шестого знака!
5. скопировал столбец A в F и отсортировал. Ошибка пропала!
Что это было?
Изменено: vikttur - 11.06.2021 11:44:57
 
Ошибка в названии темы. Читайте правила, предлагайте название. Заменят модераторы
 
https://docs.microsoft.com/ru-ru/office/troubleshoot/excel/floating-point-arithmetic-inaccurate-result
https://habr.com/ru/post/309812/
https://www.softelectro.ru/ieee754.html

Если коротко, то ошибка возникает в результате обратной конвертации чисел из двоичного кода, записанного в машинной мантиссе, в десятичный код.
P.S. Тема наверное: Ошибки двоичной арифметики при работе с числами с плавающей точкой
Изменено: New - 11.06.2021 11:57:39
Страницы: 1
Читают тему (гостей: 1)
Наверх