Правила приближенных вычислений

Порядок статической обработки результатов измерений

1. Для начала численных расчетов преобразовать расчетные формулы так, чтобы исключить вычитание близких больших чисел (результат такого вычитания вследствие ошибок округления может не иметь ни одной верной значащей цифры!). Так формула допустима для численных расчетов, а эквивалентная ей – недопустима.

2. Перед сложением и вычитанием числа полагается привести к одной характеристике (выровнять), перед умножением и делением – нормализовать.

3. При сложении двух чисел число верных значащих цифр в сумме не превосходит числа верных значащих цифр в каждом из слагаемых (равно ему или на единицу меньше). При умножении и делении данное правило применятся к мантиссам перемножаемых чисел. При вычитании последним из верных десятичных разрядов разности будет являться старший из верных десятичных разрядов вычитаемого и уменьшаемого.

4. Складывать несколько чисел следует в порядке их возрастания, чтобы уменьшить ошибки округления.

5. При вычислении стандартных трансцендентных функций требуется привести аргумент к первому периоду (для тригонометрических функций), к отрезку [0;1) (для экспоненциальной функции) или к отрезку [1;а) (для логарифмированию по основанию а). Это связано с особенностями работы стандартных алгоритмов вычисления такого рода функций. При выполнении данных правил можно считать, что в мантиссе результата столько же верных значащих цифр, сколько в мантиссе аргумента.

6. При расчетах следует сохранять дополнительно один-два десятичных разряда сверх верных. При округлении окончательных результатов следует оставлять только верные значащие цифры (допускается оставлять меньше, если это требуется из других соображений).