| Правила | Регистрация | Пользователи | Сообщения за день | | Поиск | | Справка по форуму | Файлообменник | |
|
Поиск в этой теме |
|
||||
ребята, может кто знает как решить подобную ситуацию: когда прописываю формулу и привожу значения к одним единицам измерения, некоторые значения при переводе после запятой могут содержать до 20 знаков. как можно сделать так, чтобы после запятой, например, оставалось лишь несколько знаков. либо чтобы цифры округлялись в большую или меньшую сторону. пример привожу ниже
|
||||
|
||||
расчёты Регистрация: 04.07.2009
Воронеж
Сообщений: 908
|
ALEX-LCL, для наведения такой красоты функции округления вычисления, например Wpl, мне не помогли. Пришлось справа вручную переназначать Wpl=0.0006572.
__________________
"Сделай первый шаг - и ты поймёшь, что не всё так страшно." (Сенека, древнеримский философ). |
|||
|
||||
Регистрация: 22.10.2014
Сообщений: 2
|
Как посчитать формул меняя только одно значение много (100) раз в моем случаи (w) если указываю w=2 все ок, если через массив w=1...5 то выдает значение должно быть скалярным или матрицей, если через матрицу то ответ получается отличен от того если бы я сам менял значение w. вот скрин. Помогите что я делаю не так?!
Последний раз редактировалось Солидворкер, 23.10.2014 в 08:43. |
|||
|
||||
Регистрация: 05.05.2009
Алматы
Сообщений: 457
|
Цитата:
|
|||
|
||||
инженер Регистрация: 25.04.2006
Москва
Сообщений: 1,204
|
ander, в данном случае не проще - просто дополнение: если подставить в формулу вектор w вместо скаляра, отдельные операции (умножение, например) будут выполнять по правилам операций с матрицами. Именно поэтому у Appl_e неверный результат в последнем его варианте расчета. Оператор векторизации же заставляет вычислять формулу последовательно для каждого элемента вектора w, что и нужно автору.
|
|||
|
||||
инженер Регистрация: 25.04.2006
Москва
Сообщений: 1,204
|
|
|||
|
||||
расчёты Регистрация: 04.07.2009
Воронеж
Сообщений: 908
|
RomanM, я понял свою ошибку, спасибо.
Но самое интересное в том, что если в табл "гамма" вместо 1 1 1 0.85 и т.д. написать 1.2 1.1 1.0 0.85 и т.д., то всё равно функция не работает!:-(
__________________
"Сделай первый шаг - и ты поймёшь, что не всё так страшно." (Сенека, древнеримский философ). |
|||
|
||||
инженер Регистрация: 25.04.2006
Москва
Сообщений: 1,204
|
Цитата:
0.85 1.0 1.1 1.2. Или проще: можно поставить "-" перед этим вектором и аргументом x в функции linterp. |
|||
|
|
Похожие темы | ||||
Тема | Автор | Раздел | Ответов | Последнее сообщение |
Вопрос про незадымляемые лестницы | Stellar | Архитектура | 6 | 06.12.2012 02:11 |
Вопрос про выделение | Alexidis | AutoCAD | 72 | 05.07.2011 16:47 |
Вопрос про ТЕКСТ? | ilka_t | AutoCAD | 15 | 21.07.2004 11:00 |
Возник вопрос про масштаб. | Рогатин | AutoCAD | 4 | 18.02.2004 12:14 |