Страницы: 1 2 След.
Поиск
Помогите: Как сконвертировать из 10-ой системы в ieee 754 ?
... .html 'https://numeral-systems.com/ieee-754-converter/ 'https://youtu.be/K5Y4 ...
Изменен: 19.08.2024
Читать сообщение на форуме или сайте.
почему эти числа не равны?
... стандарта IEEE 754 . Особенно с разделом "заключение": "Стандарт IEEE 754 широко ... и представлений данных по стандарту IEEE 754. "Вы можете прочитать об ...
Изменен: 25.01.2014
Читать сообщение на форуме или сайте.
косяк в программе или так было задумано?
... "заключение". Цитирую:Стандарт IEEE 754 широко применяется в технике и ... и представлений данных по стандарту IEEE 754. Вы можете прочитать об этом ...
Изменен: 02.11.2012
Читать сообщение на форуме или сайте.
Неверное вычисление десятичных дробей
Автор: JeyCi. точно помню IEEE цифры всё время забываю :) оказывается 754  IEEE 754
Изменен: 10.08.2016
Читать сообщение на форуме или сайте.
Глюк Екселя или я чего-то не понимаю...
... , то все, соответствующие требованиям стандарта IEEE 754. Кроме специализированных, типа Windows-калькулятора ...
Изменен: 25.02.2010
Читать сообщение на форуме или сайте.
Некорректно считает
Автор: vikttur. Наберите в поиске по сайту: "стандарт вычислений" или "стандарт IEEE 754"
Изменен: 04.09.2012
Читать сообщение на форуме или сайте.
Не могу понять откуда милионные копейки
Автор: ikki. это особенность стандарта IEEE 754 (стандарт формата представления чисел с плавающей точкой), на котором основаны вычисления в Excel используйте ОКРУГЛ(...;2)
Изменен: 16.04.2012
Читать сообщение на форуме или сайте.
Значение со считанное Excel отличаются от значений со считанных на калькуляторе...
Автор: MCH. Это особенность стандарта IEEE 754 (стандарт формата представления чисел с ...
Изменен: 22.12.2011
Читать сообщение на форуме или сайте.
Почему 0.15 не равно 4.3 - 4.15 в пятнадцатом знаке?
Автор: sam2011. {quote}{login=}{date=05.10.2011 11:31}{thema=}{post}Проблема в стандарте IEEE 754 - представления чисел с плавающей точкой{/post}{/quote} Спасибо за ответ! А методы борьбы с этим злом для указанного выше примера? Методом двойного округления? ОКРУГЛ(ОКРУГЛ()) или что-то еще можно придумать?
Изменен: 05.10.2011
Читать сообщение на форуме или сайте.
Число частично прописью
Автор: MCH. {quote}{login=Виноградов С.}{date=16.09.2011 01:30}{thema=Re: }{post}Например 127,14 - пишет нормально, а вот 128,14 пишет что копеек 13.{/post}{/quote} Стандарт IEEE 754 дает о себе знать пришлось округлять
Изменен: 16.09.2011
Читать сообщение на форуме или сайте.
Ошибка без округления
... ) получается -2,22045E-16. Стандарт IEEE 754 дает о себе знать. Удивительно ...
Изменен: 01.09.2011
Читать сообщение на форуме или сайте.
БАГ Excel
Автор: bigorq. "SkArMuSt написал: хотя бы ссылку на объяснение" жмете поиск вводите IEEE 754 и выбираете где описание понятнее для вас
Изменен: 18.06.2025
Читать сообщение на форуме или сайте.
При копировании ячейки (с формулой) и последующей вставкой значения, искажается сумма и точность
Автор: Hugo. deftvk, потому что такое там и есть значение: https://i.imgur.com/AvQKK9Z.png И это такая фишка, нужно учитывать. Гуглить IEEE 754
Изменен: 28.02.2025
Читать сообщение на форуме или сайте.
Неправильно просчитывает время
Автор: bigorq. " написал: Какая-то эксельная мистика." скорее всего IEEE 754
Изменен: 23.01.2025
Читать сообщение на форуме или сайте.
Округляет 5 в меньшую сторону
Автор: bigorq. saney, оказывается я математику не знаю :( , вычитал, что при округлении знак минуса не учитывается. Ну тогда во всем виноват IEEE-754
Изменен: 27.11.2024
Читать сообщение на форуме или сайте.
Ошибка Экселя в функции СУММ - откуда она берется?
... хранит аналогично и использует стандарт IEEE 754. Непонятно другое: почему в большинстве ...
Изменен: 13.09.2024
Читать сообщение на форуме или сайте.
Странный результат (9,09495E-13) при "обычном" вычитании чисел
... плавающей точкой, характерное для стандарта  IEEE 754-1985" Если бы я ...
Изменен: 14.08.2024
Читать сообщение на форуме или сайте.
Найти и выделить соответствия учитывая дату
Автор: Msi2102. Не знаю в чем прикол, может опять IEEE 754, но немного исправил формулу и всё встало на место =СУММПРОИЗВ(($E$2:$E$444=$B2)*(ОТБР($F$2:$F$444)=ОТБР($C2)))
Изменен: 25.06.2025
Читать сообщение на форуме или сайте.
Равные ячейки не равны
Автор: _Boroda_. "pimply написал: Файл пока, к сожалению выложить не могу" Почему?  Секреты всякие нам не нужны, оставьте только нужные данные Прочитайте про спецификацию IEEE 754 https://support.microsoft.com/ru-ru/kb/78113
Изменен: 22.08.2017
Читать сообщение на форуме или сайте.
Установка точности как на экране не решает проблему с округлением. Подскажите пути решения.
Автор: stfio. "The_Prist," почитать то я почитала IEEE 754, а вот что сделать - не поняла. ни округл, ни точность как на экране мне не помогают получать похожие результаты. че делать то))
Изменен: 26.06.2017
Читать сообщение на форуме или сайте.
неправильно считает ЦЕЛОЕ()
Автор: walle. "vikttur написал: Введите текст цитаты в поиск" благодарю, изучил стандарт IEEE 754  ;)  Можно тему закрывать/удалять, спасибо!
Изменен: 05.05.2017
Читать сообщение на форуме или сайте.
Уйти от округления чисел VBA
... точность в Эксе ограничена стандартом IEEE 754, и если "докторам" ...
Изменен: 29.04.2017
Читать сообщение на форуме или сайте.
Поиск ошибки в округлении исходных данных
Автор: Сергей. "The_Prist написал: поищите в поисковике: спецификация IEEE 754" поискали? почитали?
Изменен: 09.03.2017
Читать сообщение на форуме или сайте.
Ошибка при сравнении разницы дробных чисел с 0
Автор: Wiss. Попытался читать стандарт IEEE 754 и и статейку на Хабаре ...
Изменен: 08.11.2016
Читать сообщение на форуме или сайте.
Критерий функции СУММЕСЛИ не видит значение ячейки.
Автор: vikttur. IEEE 754 - стандарт двоичной арифметики с плавающей точкой. Его ошибка. Подробнее - читайте, в сети море информации.
Изменен: 07.09.2016
Читать сообщение на форуме или сайте.
Лишние знаки после запятой в результате операции вычитания
Автор: Сергей. наберите в поисковике стандарт вычислений IEEE 754
Изменен: 31.08.2016
Читать сообщение на форуме или сайте.
1/10 десять раз не равна 1
Автор: vikttur. IEEE 754 - стандарт двоичной арифметики с плавающей ...
Изменен: 18.03.2016
Читать сообщение на форуме или сайте.
Неверные вычисления
Автор: kuklp. Никаких чудес. Ищем: IEEE 754
Изменен: 17.03.2016
Читать сообщение на форуме или сайте.
Записать значение в ячейку Excel с помощью win api
... и число 555 в стандарте IEEE 754, чтобы при вычислениях не преобразовывать ...
Изменен: 17.02.2016
Читать сообщение на форуме или сайте.
Ошибка в расчете промежуточном итоге
Автор: vikttur. Не более 100 кБ По поводу вычислений: ознакомьтесь с информацией о вычислениях с плавающей запятой (IEEE 754 - стандарт двоичной арифметики). Коротко - ошибка стандарта вычислений,, применяемого в вычислительной технике.
Изменен: 01.02.2016
Читать сообщение на форуме или сайте.
Страницы: 1 2 След.
Наверх