Добрый день! Уважаемые специалисты, если вам не затруднит то посмотрите мой прикрепленный файлик. Там поиск значения с помощью функции ПРОСМОТР. Однако результат получается разный если просматриваемый вектор составлен из отрицательных и положительных чисел. Почему то при поиске в векторе из отрицательных чисел значение из вектора результатов соответствует соседнему и более отрицательному аргументу. При поиске в векторе положительных чисел все ищется корректно. Как избавиться от этого недоразумения? (Просматриваемые векторы отсортированы по возрастанию).
Поиск значения при отрицительных и положительных числах
11.03.2015 10:14:25
|
|
|
|
11.03.2015 10:33:55
Дело не в положительных и отрицательных, а в точности представления дробных чисел.
Да, на вид ячейки равны, и если написать формулу =E3-D11, она вернет 0 даже в экспоненциальном формате. НО если написать формулу =E3-D11=0, она вернет ЛОЖЬ, а =E3-D11<0 вернет ИСТИНА! То есть D11 все-таки больше E3, поэтому ПРОСМОТР находит предыдущую строку. В окне Immediate
Как бороться - округлять, например задать в Параметрах "точность как на экране".
Изменено: |
|||
|
|
11.03.2015 10:34:56
Добрый день
У вас числа отличаются на очень малую величину (2,1316282072803E-14 ) и вот эта разница и не дает корректно работать функции |
|
|
|
11.03.2015 10:44:59
Казанский, webley, вот как. Спасибо. Поясню. Столбец С с положительными числами создан вручную (температура в Кельвинах), а D методом вычитания из столбца C 273,15. Таким образом получается что Excel неточно вычисляет разницу и использовать такой столбец данных (результат вычитания) не совсем корректно? Можно его как то натурализовать быстро или тоже вручную (автозаполнением) прийдется заполнять?
Кстати, если написать "=E3<D11" или "=E3>D11" и в том и другом случае получаем ложь, а "=E3=D11" получаем истина, но в то же время "E3-D11=0" получаем ложь. Какие то квантовые эффекты получаются..
Изменено: |
|
|
|
11.03.2015 10:50:46
Евгений, вам же сказали - применять функцию округления:
|
|||
|
|
11.03.2015 10:53:43
Михаил С.,Сообщение редактировали. Изначально про округление ничего не было.
Спасибо за помощь, господа. Учту этот опыт в последующей деятельности. |
|
|
|
11.03.2015 12:21:04
только учтите, что "точность как на экране" затрагивает все открытые книги, ЕМНИП
F1 творит чудеса
|
||||
|
|
|||