Поведение функций RTOS и ATOF.
| Правила | Регистрация | Пользователи | Сообщения за день |  Справка по форуму | Файлообменник |

Вернуться   Форум DWG.RU > Программное обеспечение > Программирование > Поведение функций RTOS и ATOF.

Поведение функций RTOS и ATOF.

Ответ
Поиск в этой теме
Непрочитано 23.03.2009, 02:49 #1
Поведение функций RTOS и ATOF.
KAI
 
геологоразведка, строительство
 
Магадан
Регистрация: 14.10.2003
Сообщений: 311

А нам нужны эти лишние девятки и уменьшение числа?

_$ (setq i 0 str "9.123456" )
(repeat 9 (progn (print (rtos (atof (strcat str (itoa i))) 2 16))) (setq i (1+ i)))
"9.123456"

"9.123455999999999"
"9.123456100000000"
"9.123456199999999"
"9.123456300000000"
"9.123456400000000"
"9.123456499999999"
"9.123456600000000"
"9.123456700000000"
"9.123456799999999" 9
_$

Мораль: сравненивайте числа не по функциям < и > а с применением EQUAL.

Сам недавно в очередной раз наступил на эти грабли и полдня искал причину неверной работы программы.
__________________
Лень - великий двигатель прогресса!
Просмотров: 2749
 
Непрочитано 23.03.2009, 09:52
#2
zamtmn

КИПиА
 
Регистрация: 21.03.2005
Tyumen
Сообщений: 1,352
<phrase 1=


это не функции виноваты. это обычное поведенние чисел с плавающей запятой - учитывать нужно всегда

Последний раз редактировалось zamtmn, 23.03.2009 в 11:40.
zamtmn вне форума  
 
Непрочитано 23.03.2009, 12:14
#3
Sleekka

-
 
Регистрация: 24.07.2005
Москва
Сообщений: 1,335


недавно Shaggydoc выкладывал аналог rtos и еще много всего там проскакивало.
Sleekka вне форума  
 
Непрочитано 23.03.2009, 15:13
#4
ShaggyDoc

Thượng Tá Quân Đội Nhân Dân Việt Nam
 
Регистрация: 14.03.2005
44d32'44"С, 33d26'51"В
Сообщений: 13,372


Да KAI не про функции конверсии, а про методику сравнения. Он прав - надо знать, когда использовать eq, когда equal, когда = < >.

zamtmn правильно добавил - про обычное поведение чисел с плавающей запятой (вернее, точкой) и вернее, не "поведение чисел" , а особенности внутреннего представления вещественных чисел в современных вычислительных системах.
ShaggyDoc вне форума  
Ответ
Вернуться   Форум DWG.RU > Программное обеспечение > Программирование > Поведение функций RTOS и ATOF.



Похожие темы
Тема Автор Раздел Ответов Последнее сообщение
Сбой функции Rtos в 2008 и 2009 Автокаде 480725 Программирование 1 20.02.2009 10:17
3D Konstruktor для проектировщиков КМ. Дима_ Готовые программы 17 10.07.2008 10:03
Странности функции rtos FWA Программирование 2 16.02.2005 11:37