Страницы: 1
RSS
Вычитание дробных чисел
 
Почему при вычитании 0,800-0,8 получается число -0,000000000000000444089209850063
 
у вас установлен формат ячеек для слагаемых с округлением, так и установитье такой же для суммы(разности)
Живи и дай жить..
 
Причиной является стандарт двоичной арифметики с плавающей точкой - IEEE 754

Попробуйте в ячейке написать формулу:
=0,1+4-4-0,1
Какой результат получается?
 
Чтобы исправить, впишите в F2 формулу =ОКРУГЛ(B2+C2+D2-E2;3)
 
ZVI: Ваша формула не помогает
MCH: И с этим ничего нельзя сделать?
 
Цитата
ZVI: Ваша формула не помогает
У меня работает
 
Иван, спасибо, что подтвердили примером, у меня тоже так же.
Данияр, у Вас, наверное какие-то другие данные или вычисления
Главное здесь понять смысл: ошибка возникает примерно в 15-й значащей цифре результата, поэтому нужно дополнительно округлять в критических местах расчетов, а эти места определяйте уже самостоятельно.
Приложите пример, где не получается.
Изменено: ZVI - 09.12.2013 19:19:59
 
Извиняюсь, формула работает правильно. С толку сбило число в другом столбце моего файла.
Большое спасибо.
 
так все таки просто скопировать формат ячейки не попробовали? видимый эффект тот же самый, что от предложенной формулы
Живи и дай жить..
 
Мне не очень понятно о чем вы говорите
Страницы: 1
Наверх