| Правила | Регистрация | Пользователи | Сообщения за день |  Справка по форуму | Файлообменник |

Вернуться   Форум DWG.RU > Программное обеспечение > Программирование > LISP > Проблема с конвертацией длинного вещественного чила из текстового вида в числовой

Проблема с конвертацией длинного вещественного чила из текстового вида в числовой

Ответ
Поиск в этой теме
Непрочитано 07.01.2020, 23:55 #1
Проблема с конвертацией длинного вещественного чила из текстового вида в числовой
akaman
 
Регистрация: 07.01.2020
Сообщений: 2

AutoCAD-2019 русский. VisualLisp.
Помогите, столкнулся с проблемой конвертации длинного числа из текстового вида в числовой вещественный.
Обрезает (округляет) число, что недопустимо, т.к. это координаты.

(distof "12345678.123" 2) выдаёт 1.23457e+07 , а нужно 12345678.123.

Как победить?
Системные переменные Lunits=2 Luprec=3
Нужно 3 знака после запятой.
Просмотров: 824
 
Непрочитано 08.01.2020, 02:33
#2
Сергей812


 
Регистрация: 10.08.2013
Сообщений: 11,048


никак, потому что вывод на экран и хранение в вещественной переменной - это две связанные, но не обязательно идентичные вещи. Попробуйте простейший код
Код:
[Выделить все]
 (defun c:TT( / r1 r2)
  (setq r1 (distof "12345678.123" 2))
  (setq r2 (distof "12345678.124" 2))
  (- r2 r1)
)
если бы преобразование шло с ошибкой, то разница между ними была бы отлична от 0.001
Сергей812 вне форума  
 
Автор темы   Непрочитано 08.01.2020, 09:37
#3
akaman


 
Регистрация: 07.01.2020
Сообщений: 2


Большое спасибо. Сняли груз с моих плеч. Оказалось, что дело лишь в представлении информации на экране )).
В дальнейшем эти координаты будут использоваться для построения полилинии с помощью entmake.
Надеюсь, что представление координат в виде (10 1.23457e+07 1.23457e+07) не повлияет на результат.
akaman вне форума  
Ответ
Вернуться   Форум DWG.RU > Программное обеспечение > Программирование > LISP > Проблема с конвертацией длинного вещественного чила из текстового вида в числовой

Размещение рекламы


Похожие темы
Тема Автор Раздел Ответов Последнее сообщение
Проблема с Удлиннением отрезка rtyu AutoCAD 24 24.07.2012 16:28
AutoCAD 2008: Проблема при печати файла с неизвестным форматом листа Fredyk AutoCAD 3 12.07.2012 12:26
Редактор блоков, проблема при двойном клике Klim007 AutoCAD 4 22.11.2011 16:43
Проблема с регистром текста. Все время исключительно верхний. AutoCAD 2010 red-white19 AutoCAD 1 12.03.2011 13:52
Проблема с ксероксом Canon PC860 _Oleg_ Разное 5 26.12.2007 10:18