Страницы: 1
RSS
Откуда взялся излишек?
 
Добрый день

пытаюсь построить формулу корректно конвертирующую географические координаты из формата градусы с десятичными долями в формат градусы/минуты/секунды с десятичными долями, когда использую формулу [=I23-ОТБР(I23)] дробная часть числа отображается корректно, а когда добавляю туда значок градуса [=(I23-ОТБР(I23))&"°"] результат получается вот такой 0,566836000000002°

вот у меня и вопрос - откуда взялись это 2 хз каких...???
 
Отсюда (см. параграф 9)
 
я бы так написал =I23-ОТБР(I23;-6)&"°"      где "-6" это количество отображаемых значений после запятой  
 
А Вот и ответ - "откуда взялись это 2 хз каких...???" :
в I26 лежит 0,56683600000000200000000 если подкрутить формат ячейки.
скрин
Изменено: Hugo - 12.12.2019 17:03:12
 
Hugo, ну как бы да и как бы нет) автор наверно эксперементировал чтото и забыл удалить, по формуле он обращается к I23
 
lastforonee, пока что Ваши комментарии-предложения мало попадают в точку...
 
ну я на лавры не претендую, а попадают в точку или нет зависит больше от автора.
 
Цитата
CD_Zenit написал:
когда использую формулу [=I23-ОТБР(I23)] дробная часть числа отображается корректно,
- я лишь показал что эта двойка есть уже на этом этапе (но можно конечно форматом её спрятать), последующий градус совершенно не при чём.
 
Всем большое спасибо, как я понимаю, ответ все же в комментарии vikttur... , Hugo спасибо за замечание, в самом деле - эта мелкая зараза не всегда отображаеться, но тем не менее присутствует... все-таки попробую написать формулу, а потом сравню результаты ее работы с результатами конвертера координат, думаю всетаки подобная мелочь на сотых долях секунды не скажется. Еще раз всем спасибо.
Изменено: CD_Zenit - 12.12.2019 18:58:51
 
Если считаете например стоимость чего-то - полезно сразу округлять до сотых при каждом действии деления, иначе в итоге сумма может заметно не сойтись
 
Off
Цитата
Hugo написал:
Если считаете например стоимость чего-то - полезно сразу округлять до сотых
Банковское округление

Судья:

- Назначить Бухгалтеру Иванову наказание в виде лишения свободы сроком на 3,5 года. Используя правила бухгалтерского округления считать срок 4 года. Срок 6,5 месяцев, отбытый в СИЗО округлить по такой же методике и считать за 5 месяцев. Чтобы знал, сука, как людей на...ть со своими правилами округления.

По вопросам из тем форума, личку не читаю.
 
По какой это методике можно округлить 6.5 до 5? По кратности 5? Так это можно любое жилаемое число так посчитать, выбирая кратность.
Изменено: bedvit - 12.12.2019 19:57:32
«Бритва Оккама» или «Принцип Калашникова»?
 
bedvit, Виталий, ну это ж все ж шутка.
По вопросам из тем форума, личку не читаю.
 
БМВ, Вы сделали мой день.  :D  Под стол соскальзываю.
Мастерство программиста не в том, чтобы писать программы, работающие без ошибок.
А в том, чтобы писать программы, работающие при любом количестве ошибок.
Страницы: 1
Наверх