AutoLISP. Точность вычисления - 6 значащих цифр?
| Правила | Регистрация | Пользователи | Сообщения за день |  Справка по форуму | Файлообменник |

Вернуться   Форум DWG.RU > Программное обеспечение > Программирование > LISP > AutoLISP. Точность вычисления - 6 значащих цифр?

AutoLISP. Точность вычисления - 6 значащих цифр?

Ответ
Поиск в этой теме
Непрочитано 14.11.2010, 17:15 #1
AutoLISP. Точность вычисления - 6 значащих цифр?
Do$
 
AutoCAD/Civil3D LISP/C#
 
Санкт-Петербург
Регистрация: 15.08.2008
Сообщений: 1,701

Вот такой неприятный для меня сюрприз обнаружил в функции умножения:
Код:
[Выделить все]
(* 1258.456 1)
->1258.46

(* 125800.1 1)
->125800.0

(* 1258.15 125.4567)
->157843.0
Так и должно быть? Может я что-то не учел?
Просмотров: 2743
 
Непрочитано 14.11.2010, 17:44
#2
TararykovDG

Программист-энтузиаст
 
Регистрация: 17.07.2009
Воронеж
Сообщений: 575


Do$, может это прояснит ситуацию. Книга Полещук Н. Н. Лоскутов П. В. "AutoLisp и VisualLisp в среде AutoCAD" стр.8-9
Миниатюры
Нажмите на изображение для увеличения
Название: 1.jpg
Просмотров: 231
Размер:	75.9 Кб
ID:	48154  
__________________
cadtools
TararykovDG вне форума  
 
Непрочитано 14.11.2010, 18:52
#3
Li6-D


 
Регистрация: 03.05.2009
Сообщений: 112


Команда: (setq d (* 1258.15 125.4567))
157843.0

Команда: (rtos d 2 15)
"157843.347105" - Как на калькуляторе
Li6-D вне форума  
 
Автор темы   Непрочитано 14.11.2010, 19:53
#4
Do$

AutoCAD/Civil3D LISP/C#
 
Регистрация: 15.08.2008
Санкт-Петербург
Сообщений: 1,701
Отправить сообщение для Do$ с помощью Skype™


Вот я -
TararykovDG, Li6-D, спасибо!
Do$ вне форума  
 
Непрочитано 29.08.2011, 19:30
#5
baaba

архитектор
 
Регистрация: 07.07.2007
Москва
Сообщений: 664
<phrase 1= Отправить сообщение для baaba с помощью Skype™


Код:
[Выделить все]
 Command: (rtos 3.34454534 2 3)
"3.345"
Command: (rtos 3.3 2 3)
"3.3"
А мне надо 3.300, как сделать?

Ужас, читаю мануал (AlispRef.pdf), раздел rtos, должно быть так:
Код:
[Выделить все]
 
Command: (setq x 17.5)
17.5
Command: (setq fmval (rtos x 2 2))
"17.50"
А у меня "17.5" это баг?

ООпс помогло изменение DIMZIN, где то третья ссылка в google rtos site:http://forum.dwg.ru

Последний раз редактировалось baaba, 29.08.2011 в 19:53. Причина: вопрос снят.
baaba вне форума  
Ответ
Вернуться   Форум DWG.RU > Программное обеспечение > Программирование > LISP > AutoLISP. Точность вычисления - 6 значащих цифр?



Похожие темы
Тема Автор Раздел Ответов Последнее сообщение
точность вычисления, штангельциркуль baaba Программирование 3 01.12.2009 08:23