Столкнулся с казалось бы безобидной ошибкой Excel. При подсчете суммы выскочила ошибка в шестом знаке. Стал проверять - всё введено правильно. Стало интересно - результат исследования приложен: 1. в столбце A - исходные данные (две значащие цифры после запятой). В сумме появилась единичка в шестом знаке. 2. в столбце B - проверка, не пропустил ли где-то неокругленное число. Видно, что не пропустил 3. в столбце С - сумма накопленным итогом (тот же результат дают СУММ, СУММЕСЛИ, ПРОМЕЖУТОЧНЫЕ.ИТОГИ). Видно, что начиная с 273 строки в 6 знаке появляется единичка. Причем ТОЛЬКО в шестом знаке! 4. в столбце D - проверка аналогично п. 2. Неожиданно в 271 строке начиная с 7 знака появляются значащие цифры. Причем не 1 в шестом знаке, а именно дробная часть этой единички, начиная с седьмого. Сумма накопленным итогом при этом почему-то все это безобразие округляет до шестого знака! 5. скопировал столбец A в F и отсортировал. Ошибка пропала! Что это было?
Если коротко, то ошибка возникает в результате обратной конвертации чисел из двоичного кода, записанного в машинной мантиссе, в десятичный код. P.S. Тема наверное: Ошибки двоичной арифметики при работе с числами с плавающей точкой