Страницы: 1
RSS
Ошибочное увеличение разрядов дробной части результата вычитания (разности)
 
Добрый день.
Подскажите пожалуйста, почему при вычитании одного числа с 3 знаками после запятой из другого тоже с 3 знаками, результат получается с 12 знаками после запятой?
Понятно, что результат можно округлять до требуемой точности (напрмер до тех же 3 знаков) формулой.
Но, тем не менее хочу узнать, как этого можно избежать или отключит в работе с Экселем?
Пример прилагаю.

Спасибо
 
Стандарт вычислений с плавающей запятой. Ошибка в 15-16 знаке после запятой. Если интересно, первое предложение этого сообщения - в поиск
Как избежать - только округление.
 
rehotka,  попробуйте поставить формат ячеек общий
Не бойтесь совершенства. Вам его не достичь.
 
a.i.mershik, формат не изменит значение. И как я понял, формат специально такой - чтобы показать несоответствие.
 
Я вот тему прочел, думал надо при вычитании точность повысить :-) .
По вопросам из тем форума, личку не читаю.
 
Подправил название.
 
Всем спасибо за комментарии )
Страницы: 1
Наверх