Поиск  Пользователи  Правила 
Закрыть
Логин:
Пароль:
Забыли свой пароль?
Регистрация
Войти
 
Страницы: 1
RSS
Откуда ошибка в элементарном сравнении?
 
Добрый день!
Есть элементарная функция, которая сравнивает два числа. Почему-то там где должно быть равенство показывается ЛОЖЬ. См. скрин http://prntscr.com/nrucgm
Или вложенный файл.
Дело в формате ячеек или еще в чем-то другом?
Заранее спасибо!
 
A22-B22 = 0,799999999999997
IEEE 754 - стандарт двоичной арифметики с плавающей точкой. Параграф 9
Его ошибка.
 
JohnyLee, для понимания того что скинул вам vikttur,
см. вложение

В вашей таблице результат вычеслений 70,8-70 написан в 3 столбце руками а не формулой. а в функции если вы вычисляете итог формулой.
Изменено: Wild.Godlike - 22 Май 2019 14:30:56
 
Спасибо! Тогда буду перед сравнением округлять.
А вообще, с этой проблемой я столкнулся, работая с достаточного крупными суммами. И такие "приколы" - как нож в спину, для обычных пользователей. :)
Изменено: JohnyLee - 22 Май 2019 14:47:22
 
Цитата
vikttur написал:
Его ошибка.
ошибка описанная в документации называется уже не ошибкой, а особенностью эксплуатации системы
Программисты - это люди, решающие проблемы, о существовании которых Вы не подозревали, методами, которых Вы не понимаете!
 
JohnyLee, здравствуйте! Доступно
«Тот, кто несет фонарь, спотыкается чаще, чем тот, кто идет следом.»
Иоганн Пауль Фридрих Рихтер
 
Цитата
vikttur написал:
Его ошибка.
Это не ошибка, а следствие того, что все числа, не являющиеся целыми и не представимые в виде дроби, числитель и знаменатель которой целые числа и знаменатель не является степенью двойки, хранятся в памяти процессора приближенно. Например, одна десятая. Естественно, когда вы над ними производите алгебраические операции, то может возникнуть погрешность. Поэтому на всех языках программирования (и во всех операционных системах) числа типа double (не целые) надо сравнивать так:
Код
ABS(a-b)<EPS

где погрешность EPS подбирается, исходя из специфики задачи. Для сумм в любой валюте можно, например, можно взять 1E-4.
Владимир
 
OFF
Ігор Гончаренко, sokol92, господа-буквоеды, ну камон — понятно же, что vikttur имел ввиду  :D
Если уж на то пошло, то 10,8-10,7 = 0,1. А если Excel считает, что это не так (а, например, 0,100000000000001), то это неправильно, погрешность инструмента, если угодно, но всё-равно ОШИБКА. На контрольной не прокатит  :D

Цитата
sokol92: надо сравнивать так
мне нравится такая визуализация - спасибо  :)
Изменено: Jack Famous - 23 Май 2019 08:43:16
«Тот, кто несет фонарь, спотыкается чаще, чем тот, кто идет следом.»
Иоганн Пауль Фридрих Рихтер
 
Алексей, еще пару слов после прочтения сегодняшного анекдота.

Предположим, что у Вас есть калькулятор с двумя десятичными знаками после запятой. В нем число 1/3 будет записано как 0,33. Вас нисколько не удивляет погрешность в последнем знаке после умножения на 3, так как Вы знаете, что 1/3 нельзя представить в виде десятичной дроби с конечным числом знаков после запятой (и, тем более, с двумя).

Точно так же, 1/10 не может быть представлена точно в типе double (как как раскладывается в бесконечную периодическую дробь в двоичной системе счисления). Всё, точка, мы перешли в мир приближенных вычислений. Это тоже комфортный мир, если знаешь правила проживания.
Равенство чисел означает в этом мире равенство с учетом возможной погрешности округления (пример из #7). Хотите, чтобы Excel показывал Вам числа без учета округлений в последних разрядах - применяйте "числовой" формат ячеек. Общий формат ячеек не очень подходит для дробных чисел - Excel не знает, а вдруг для Вас крайне важна последняя 1 после запятой в примере из #8.

Когда Вы в Excel и/или VBA применяете функцию Round и округляете число до какого-то числа знаков после десятичной запятой, то Вы получаете не точное значение, а приближенное с минимально возможной для типа double погрешностью (кроме дробей со знаменателем, равным степени 2).

Поэтому не в стандартах дело, а в приближенных вычислениях...
Владимир
 
sokol92, анекдот хороший)))
Насчёт ошибка или нет - я не про алгоритм, а про результаты его работы на практике. Я считаю, что рядовой пользователь совершенно не обязан знать алгоритмы двоичной арифметики, чтобы отнять 2 числа с 1 знаком после запятой или, как сказал Дима: «Хочется верить, что хоть когда-нибудь описанную особенность стандарта IEEE754 Microsoft сможет победить или хотя бы сделать заплатку, которая будет производить простые вычисления не хуже 50-рублевого калькулятора :)»
«Тот, кто несет фонарь, спотыкается чаще, чем тот, кто идет следом.»
Иоганн Пауль Фридрих Рихтер
 
Цитата
Jack Famous написал:
сможет победить
Не нужно воевать, применяйте числовые форматы ячеек и наслаждайтесь жизнью Excel.
Изменено: sokol92 - 24 Май 2019 16:21:55
Владимир
Страницы: 1
Читают тему (гостей: 1)
Наверх