Страницы: 1
RSS
Представление длинных чисел в Excel
 
Всем привет.
При построении формулы вычитания (аналогично и для суммы SUM(A1,-B1) и тд) чисел, обнаружил неожиданное округление значения в результирующей колонке.
А именно, при увеличении количества знаков после запятой до 14.
Детали на картинке во вложении.
Как видно - такие числа уже использовать в дальнейших операция нельзя.

Я почитал, что это может быть связано с размером памяти, выделяемой под каждую ячейку.
Сталкивался ли кто-то с подобной ситуацией и есть ли ее решения

?

Спасибо
 
Excel производит вычисления с числами не более 15 знаков.
См. тему о "длинных" вычислениях.
 
на примере этих чисел, для 13-ти знаков после запятой результат считается правильно. Но если увеличить до 14 (вроде как Excel хранит отдельно числа после запятой) получаю вместо 0.0000370000000 уже 0.00003699999999

PS. Спасибо за ссылку
Изменено: ivann1 - 26.01.2017 12:16:51
 
Причём, представление целых и дробный чисел отличается. Если целое число (Long int, 15 цифр) 1234567891123456 будет преобразовано в 1234567891123450, то дробное с 14-ю знаками после запятой будет преобразовано из  0.0000370000000 в 0.00003699999999

Как так?
Страницы: 1
Наверх