Страницы: 1
RSS
Волшебная цифра
 
необходимо в ячейку ввести константу 37869,598. Но последняя после запятой восьмерка превращается в 79999999. Как такое автоматическое исправление убрать из Excel-я? Спасибо!
 
скорее всего дело в формате ячейки.
без файла - гадание на кавовой гуще.
 
=ОКРУГЛ(37869,598;3)
... Упс, не работает )-:
Изменено: Ёксель-моксель - 09.09.2013 16:43:56
Удивление есть начало познания © Surprise me!
И да пребудет с нами сила ВПР.
 
Dima S, просто скопировать из сообщения #1 "37869,598" и вставить в ячейку Excel - и вот оно "37869,5979999999"! Ничего себе!!!
Удивление есть начало познания © Surprise me!
И да пребудет с нами сила ВПР.
 
да-да-да.... причем в любой версии Excel!!!
 
Прикольно! Экс показывает похоже, в  IEEE 754, но vba решает по своему:
Код
Public Sub www()
    [a1] = 37869.598
    Stop
    Debug.Print [a1]
End Sub
Я сам - дурнее всякого примера! ...
 
Не ломайте мне мои основы! Как такое может быть?! |-8

Причём увеличивая отображение разрядности числа "37869,598" до 9-ти получаем "37869,598000000".
А увеличим до 10-ти получаем уже "37869,5979999999"!

И в строке формул правка "вручную" не даёт ничего...
Изменено: Ёксель-моксель - 09.09.2013 17:25:01
Удивление есть начало познания © Surprise me!
И да пребудет с нами сила ВПР.
 
сама в шоке!  :o
 
Библиотека Excel при вычислениях формул пользуется не 64-битным, а 80-битным представлением, но результат все равно возвращает не более, чем в 64-битном представлении. Поэтому возможны расхождения в результатах вычислений как формулы целиком, так и отдельных частей. Думаю, что тоже самое и с числами - обрабатывает в 80 битах, а результат пытается интерпретировать в 64.
Даже самый простой вопрос можно превратить в огромную проблему. Достаточно не уметь формулировать вопросы...
 
Как говорится: не верь глазам своим.
При том, что отображается в строке формул 37869,5979999999 по факту там 37869,598, что можно проверить дальнейшим расчетом с этим числом.
 
Таких "волшебных" чисел очень много, для трех знаков после запятой они начинаются с числа 32768,098 с шагом 0,125 (возможно и раньше, лень было проверять):
32768,098; 32768,223; 32768,348; 32768,473; 32768,598; 32768,723; 32768,848; 32768,973; 32769,098; 32769,223; 32769,348; 32769,473; 32769,598; 32769,723; 32769,848; 32769,973; 32770,098; 32770,223; 32770,348; 32770,473; 32770,598; 32770,723; 32770,848
и т.д.
Изменено: MCH - 09.09.2013 18:27:32
 
Я скопировал и всё нормально как в общем так и в цифровом фроматах.
Изменено: jakim - 09.09.2013 18:49:20 (дополнить)
 
Шалит представление в double-формате
Изменено: ZVI - 09.09.2013 19:20:04
Страницы: 1
Наверх