Страницы: 1
RSS
Некорретная работа формулы СТАНДОТКЛОН, Расчёт СКО при определенных исходных данных некорректен
 
Добрый день. Подскажите с чем может быть связано, что формулы СТАНДОТКЛОН И СТАНДОТКЛОН.В при значения выборки 0,003; 0,003; 0,003 (ссылается на три ячейки со значением  0,003) получают в результате не 0, а очень близкое к нулю число 5*10-19.
На других исходных данных отрабатывает корректно - при одинаковых значениях результат должен быть ровно 0. Конечно, проблема не критичная, и может быть решена округлением результата, в итоге получится 0, но просто интересно.
 
Цитата
Danil1992 написал:
в результате не 0
вбейте в поисковик (можно даже на этом сайте) IEEE 754 и узнаете причину
 
Ну тогда офтоп, где комментарии интереснее сабжа )
 
nilske,
Спасибо за ссылку, почитал, повеселился...
Страницы: 1
Читают тему
Наверх