Команда fix , неверно работает?
| Правила | Регистрация | Пользователи | Сообщения за день |  Справка по форуму | Файлообменник |

Вернуться   Форум DWG.RU > Программное обеспечение > Программирование > Команда fix , неверно работает?

Команда fix , неверно работает?

Ответ
Поиск в этой теме
Непрочитано 15.04.2009, 20:21 #1
Команда fix , неверно работает?
Neo_
 
матрица
 
Регистрация: 06.04.2006
Сообщений: 401

Мучаюсь неделю пытаюсь отрегулировать лисп по разбивке размера на шаги, все получилось только одно место не выходит


(setq text (cdr (assoc 42 dim)))


(setq text1 (/ text 200)); разбивка на 200мм
(setq text1 (fix text1))

И вот тут начинаются парадоксы, при пошаговом отладчике , если размер абсолютно кратен 200 то (fix text1), при text1 = 5.0 ,например, дает 4???, что за глюк непонятно, при этом если в командной строке ввести (fix 5.0)
выдаст 5.
Просмотров: 2938
 
Непрочитано 15.04.2009, 22:22
#2
Александр Ривилис

программист, рыцарь ObjectARX
 
Регистрация: 09.05.2005
Киев
Сообщений: 2,413
Отправить сообщение для Александр Ривилис с помощью Skype™


А может все-таки text1 = 4.999999.... ?
Не используй для округления fix. Лучше уж (atoi (rtos text1 2 0)) или (fix (+ text 1e-6))
Александр Ривилис вне форума  
 
Автор темы   Непрочитано 16.04.2009, 23:27
#3
Neo_

матрица
 
Регистрация: 06.04.2006
Сообщений: 401


Цитата:
Сообщение от Александр Ривилис Посмотреть сообщение
А может все-таки text1 = 4.999999.... ?
Не используй для округления fix. Лучше уж (atoi (rtos text1 2 0)) или (fix (+ text 1e-6))
СПАСИБО!
действительно, увеличил точность до 0,000000, сразу оказался размер 999,999997 ну и 4,999999985
Neo_ вне форума  
Ответ
Вернуться   Форум DWG.RU > Программное обеспечение > Программирование > Команда fix , неверно работает?



Похожие темы
Тема Автор Раздел Ответов Последнее сообщение
Не работает команда "вытягивание" в А2007 Cleric005 AutoCAD 7 19.03.2015 09:16
Не работает команда свойства в автокаде 2007 Avatar AutoCAD 7 09.06.2008 22:49
команда boundary не работает со сплайнами? Jоhnny AutoCAD 9 14.05.2008 14:32
Не работает команда _Properties aydarka AutoCAD 3 28.05.2007 10:24
Не работает команда matcprop bobis Разное 2 03.04.2007 21:11