AutoLISP. Точность вычисления - 6 значащих цифр?

Do$ · 14.11.2010, 17:15

Вот такой неприятный для меня сюрприз обнаружил в функции умножения:

Код:

(* 1258.456 1)
->1258.46

(* 125800.1 1)
->125800.0

(* 1258.15 125.4567)
->157843.0

Так и должно быть? Может я что-то не учел?

TararykovDG · 14.11.2010, 17:44

Do$, может это прояснит ситуацию. Книга Полещук Н. Н. Лоскутов П. В. "AutoLisp и VisualLisp в среде AutoCAD" стр.8-9

Li6-D · 14.11.2010, 18:52

Команда: (setq d (* 1258.15 125.4567))
157843.0

Команда: (rtos d 2 15)
"157843.347105" - Как на калькуляторе

Do$ · 14.11.2010, 19:53

Вот я -

TararykovDG, Li6-D, спасибо!

baaba · 29.08.2011, 19:30

Код:

 Command: (rtos 3.34454534 2 3)
"3.345"
Command: (rtos 3.3 2 3)
"3.3"

А мне надо 3.300, как сделать?

Ужас, читаю мануал (AlispRef.pdf), раздел rtos, должно быть так:

Код:

 
Command: (setq x 17.5)
17.5
Command: (setq fmval (rtos x 2 2))
"17.50"

А у меня "17.5" это баг?

ООпс помогло изменение DIMZIN, где то третья ссылка в google rtos site:http://forum.dwg.ru

14.11.2010, 17:15		#1
AutoLISP. Точность вычисления - 6 значащих цифр? Do$ AutoCAD/Civil3D LISP/C# Санкт-Петербург Регистрация: 15.08.2008 Сообщений: 1,701 Вот такой неприятный для меня сюрприз обнаружил в функции умножения: Код: [Выделить все] (* 1258.456 1) ->1258.46 (* 125800.1 1) ->125800.0 (* 1258.15 125.4567) ->157843.0 Так и должно быть? Может я что-то не учел?
Просмотров: 2744

Похожие темы
Тема	Автор	Раздел	Ответов	Последнее сообщение
точность вычисления, штангельциркуль	baaba	Программирование	3	01.12.2009 08:23

Опции темы	Поиск в этой теме
	Поиск в этой теме: Расширенный поиск