Почему при вычитании 0,800-0,8 получается число -0,000000000000000444089209850063
Вычитание дробных чисел
09.12.2013 15:12:13
|
|
|
|
09.12.2013 15:18:19
у вас установлен формат ячеек для слагаемых с округлением, так и установитье такой же для суммы(разности)
Живи и дай жить..
|
|
|
|
09.12.2013 16:46:02
Причиной является стандарт двоичной арифметики с плавающей точкой - IEEE 754
Попробуйте в ячейке написать формулу: =0,1+4-4-0,1 Какой результат получается? |
|
|
|
09.12.2013 17:28:44
Чтобы исправить, впишите в F2 формулу =ОКРУГЛ(B2+C2+D2-E2;3)
|
|
|
|
09.12.2013 18:29:47
ZVI: Ваша формула не помогает
MCH: И с этим ничего нельзя сделать? |
|
|
|
09.12.2013 18:38:59
|
|||
|
|
09.12.2013 19:17:48
Иван, спасибо, что подтвердили примером, у меня тоже так же.
Данияр, у Вас, наверное какие-то другие данные или вычисления Главное здесь понять смысл: ошибка возникает примерно в 15-й значащей цифре результата, поэтому нужно дополнительно округлять в критических местах расчетов, а эти места определяйте уже самостоятельно. Приложите пример, где не получается.
Изменено: |
|
|
|
12.12.2013 14:20:43
Извиняюсь, формула работает правильно. С толку сбило число в другом столбце моего файла.
Большое спасибо. |
|
|
|
12.12.2013 16:02:26
так все таки просто скопировать формат ячейки не попробовали? видимый эффект тот же самый, что от предложенной формулы
Живи и дай жить..
|
|
|
|
13.12.2013 07:11:19
Мне не очень понятно о чем вы говорите
|
||||
|
|
|||