[Sven]

Создал простейший расчет в екселе - перевод градусов из десятичных долей в минуты и секунды. Все считает, кроме градусов с десятой долью 8 (например 10.8). Проблема состоит в том, что до угла 31,8 градуса - все ок, при угле 32,8 и больше расчет ведется неверно - выдает 60 секунд, вместо того, чтобы увеличить количество минут на единицу. Никак не могу разобраться в чем дело.
Файл прилагается. Заранее спасибо.
[ATTACH]1174638409.rar[/ATTACH]

[Mercury]

Сообщение от Sven Создал простейший расчет в екселе - перевод градусов из десятичных долей в минуты и секунды. Все считает, кроме градусов с десятой долью 8 (например 10.8). Проблема состоит в том, что до угла 31,8 градуса - все ок, при угле 32,8 и больше расчет ведется неверно - выдает 60 секунд, вместо того, чтобы увеличить количество минут на единицу. Никак не могу разобраться в чем дело. Файл прилагается. Заранее спасибо. [ATTACH]1174638409.rar[/ATTACH]

Это из за погрешности которая увеличивается от числа, уточни формат ячеек и округляй результаты правильно..или макрос напиши.
Других причин не вижу.

[Sven]

вот и я не вижу. :cry: формат ячеек стоит "числовой". округление - средствами екселя. макрос написать - можно, конечно, но почему ексель сам не считает? ведь это просто умножение и деление.

[Jeka]

Функция "целое" округляет в меньшую сторону. Разрядность при вычислении дает например 0,9*60=53,9999999... Поэтому и округляет до 53. Смотри что будет если поставить 22 знака после запятой.
[ATTACH]1174640448.rar[/ATTACH]

[Sven]

то есть получается, что внутренний расчет ведется с гораздо большей точностью, чем потом отображается в ячейках :shock: Вернее, даже не точностью, а погрешностью. И какой может быть из этого выход?

[Mercury]

Сообщение от Sven то есть получается, что внутренний расчет ведется с гораздо большей точностью, чем потом отображается в ячейках :shock: Вернее, даже не точностью, а погрешностью. И какой может быть из этого выход?

Щас я выложу. Почти готово.

[Sven]

"Уж полночь близится, а Германа все нет..."
Видать не судьба ...

[Кулик Алексей aka kpblc]

Ну полночь не полночь, а выкрутиться можно.
[ATTACH]1174886588.rar[/ATTACH]

[Sven]

Спасибо!
Алексей - а пробовал в своем расчете задавать углы с сотыми и тысячными долями. Посмотри, там че-то не то получается. Вообще, стоит наверное, письмо Б. Гейтсу написать офис - лицензия

[Кулик Алексей aka kpblc]

Не будет беспокоить Билли по пустякам
[ATTACH]1174888226.rar[/ATTACH]

[Sven]

ага - а теперь опять вернемся к углу 32,8 :?

[Mercury]

Сообщение от Sven ага - а теперь опять вернемся к углу 32,8 :?

Дело втом что тут замкнутый круг, всегда выскакивает угол который некорректно считается, я несколько часов мучался, таких формул понакручивал ужас, но всеравно появляется угол который зараза не так считается. Тут надо программировать на VBA/

[Sven]

ну да, та же самая фигня - замкнутый круг. Извините, что загрузил на несколько часов. Просто интересная проблема возникла - на пустом месте

[Sven]

те-же самые формулы в Mapple 11 считают корректно. Видимо - глюк екселя

[Sven]

Проблема решилась.

"Корень проблемы — в ограниченной точности машинного представления величин. Исключение составляют, например, целые числа. Следует понимать, что ВСЕ числа, вводимые в клетки электронной таблицы, во внутреннем представлении EXCEL хранятся в формате Double (число двойной точности - 8 байт). То, что при отображении результатов, используется округление, является лишь вопросом удобства (интерфейса с человеком). "

Вот пример демонстрирующий данную проблему.
[ATTACH]1174973754.rar[/ATTACH]

[Mercury]

[Кулик Алексей aka kpblc]

Ну а если попробовать на VBA?

Код:

[Выделить все]

Function AngDegrees(Ang As Double) As Long
  AngDegrees = Fix(Ang)
End Function

Function AngMinutes(Ang As Double) As Long
  AngMinutes = Round((Ang - AngDegrees(Ang)) * 60)
End Function

Function AngSeconds(Ang As Double) As Double
  AngSeconds = Round((((Ang - AngDegrees(Ang)) * 60 - AngMinutes(Ang)) * 60), 4)
End Function

Function AngResult(Ang) As String
  AngResult = CStr(AngDegrees(Ang)) & " " & CStr(AngMinutes(Ang)) & "'" & _
    CStr(AngSeconds(Ang)) & "''"
End Function

P.S. Что самое прикольное, так это то, что "проблемный" файл в OO Calc'e нормально работает без подобных глюков.

[Sven]

Спасибо, Алексей. Вопрос решился функциями Excel. Файл прилагаю. Решение простое - округлять промежуточные результаты вычислений.
Или переходить на MathCAD, Maple и тп.
[ATTACH]1174983256.rar[/ATTACH]