| Правила | Регистрация | Пользователи | Поиск | Сообщения за день | Все разделы прочитаны |  Справка по форуму | Файлообменник |

Вернуться   Форум DWG.RU > Программное обеспечение > Программирование > LISP > Необъяснимое поведение fix

Необъяснимое поведение fix

Ответ
Поиск в этой теме
Непрочитано 25.09.2018, 11:41
Необъяснимое поведение fix
a-karlson
 
Регистрация: 06.06.2009
Сообщений: 19

Господа, доброго времени суток!
Не может ли кто-нибудь рассказать, почему fix при округлении вычитает единицу?
т.е. мы имеем число 3550.0, желаем превратить его в int и ждем, что получится 3550, но fix выдает 3449
Просмотров: 8668
 
Непрочитано 18.11.2018, 09:37
#41
Кулик Алексей aka kpblc
Moderator

LISP, C# (ACAD 200[9,12,13,14])
 
Регистрация: 25.08.2003
С.-Петербург
Сообщений: 39,787


И какое из них - val или tt - "неправильное"?
__________________
Моя библиотека lisp-функций
---
Обращение ко мне - на "ты".
Все, что сказано - личное мнение.
Кулик Алексей aka kpblc вне форума  
 
Автор темы   Непрочитано 25.11.2018, 09:10
#42
a-karlson


 
Регистрация: 06.06.2009
Сообщений: 19


Цитата:
Сообщение от Кулик Алексей aka kpblc Посмотреть сообщение
И какое из них - val или tt - "неправильное"?
вот честно не понял, в каком смысле "неправильное", если в том смысле, что значения неожиданные, то это любые, отличные (после первой итерации) от 9160(.0), для данного примера
a-karlson вне форума  
Ответ
Вернуться   Форум DWG.RU > Программное обеспечение > Программирование > LISP > Необъяснимое поведение fix

Размещение рекламы
Опции темы Поиск в этой теме
Поиск в этой теме:

Расширенный поиск


Похожие темы
Тема Автор Раздел Ответов Последнее сообщение
Посоветуйте, пожалуйста, литературу по проектированию фундаментов на основаниях, содержащих слой сильновыветрелого грунта (рухляка) или поведение рухляка под нагрузкой Zvezdaneba Поиск литературы, чертежей, моделей и прочих материалов 5 28.07.2016 15:11
Странное поведение функции GetPoint krok64 Программирование 3 15.06.2016 08:01
Непонятное поведение цикла по списку swkx Программирование 33 28.03.2012 15:39
Поведение AutoCAD 2005 после установки 2006 Кулик Алексей aka kpblc AutoCAD 12 10.08.2005 08:49