Правила приближенных вычислений, записи

Погрешностей и результатов измерения.

1. Экспериментальные результаты измерения являются приближенными числами, поэтому при их записи следует указывать величину погрешности. Как было видно выше, вычисляемая практически среднеквадратическая и абсолютная погрешности характеризуют реальные погрешности довольно приближенно, поэтому указывать их величину с большой точностью бессмысленно. Значение погрешности нужно округлять, оставив одну или две значащие цифры. В частности, если это цифры 1 или 2, то следует обязательно привести и вторую значащую цифру.

Например, нужно писать

, а не 0,0553

или , а не 2,36.

2. Число значащих цифр результата также ограничено и определяется порядком величины погрешности. Если, например, величина погрешности составляет сотые доли, т.е. если мы не ручаемся за правильность сотых долей, нет смысла сохранять тысячные доли и результат следует округлить до сотых долей. В общем случае, запись окончательного значения измеряемой величины и ее погрешность нужно приводить с одинаковым числом десятичных знаков.

Например, надо писать:

U = (15,3 ± 0,3), а не U = (15,33 ± 0,3)

3. Абсолютную погрешность всегда выражают в тех же единицах, что и саму измеряемую величину, например:

l= (1,572 0,004) м,

см/с

но не

l= 1,572 4 м,

см/с

Последняя запись совершенно неприемлема, т. к. не позволяет сразу увидеть, какая цифра результата является ненадежной.

4. При проведении расчетов по результатам измерений необходимо помнить, что мы имеем дело с приближенными численными значениями, поэтому необходимо знать основные правила выполнения приближенных вычислений. Напомним их:

а) при округлении следует прибавить единицу в соседний старший разряд записи числа, если отбрасывается цифра младшего разряда 5 или больше, и просто отбросить ее, если она меньше 5. например, 4,08 округляя до двух значащих цифр получим: 4,1; 4,03 ≈ 4,0, а не просто 4, т.к. запись 4, 0 означает округление до двух значащих цифр, а просто 4 – только одной.

б) при сложении и вычитании приближенных чисел следует сохранять в окончательном результате и в слагаемых не больше знаков после запятой, чем их имеется в наименее достоверном числе.

Пример. При сложении чисел:

4,462 + 2,38 + 1,17273 +1,0262 = 9,04093

определив наименее достоверное число (2,28) следует слагаемые и сумму округлить до сотых долей, т.е.:

4,46 + 2,38 + 1,17 +1,03 = 9,04;

в) при умножении и делении исходные данные округляются, сохраняя лишь одну лишнюю значащую цифру по сравнению с наименее достоверн6ым числом, результат округляется до числа значащих цифр в наименее достоверном числе.

Методика построения графиков и