Запись погрешностей и результатов измерений

При окончательной записи результатов и погрешностей измерений мы рекомендуем следующие правила:

1. Абсолютную и относительную погрешность необходимо записывать с точностью до двух значащих цифр.

2. Число значащих цифр при записи среднеарифметического результата измерений определяется разрядом числа абсолютной погрешности его измерения, т.е. при записи среднего значения измеряемой величины <A> необходимо указать все цифры вплоть до последнего десятичного разряда, используемого для записи погрешности.

3. Если абсолютная погрешность составляет единицы последней значащей цифры окончательного результата, то последняя цифра в этом результате является сомнительной, но и её надо записывать. Если же погрешность составляет две значащие цифры, то в этом значении последнюю цифру следует округлить.

Следует, однако, иметь в виду, что правило №3 часто не выполняют.

Ниже, приведены примеры окончательной записи результатов измерений.

Таблица 1

Неправильная запись Правильная запись
13,83721±0,013 13,84 ± 0,013
353,12±38 350 ± 38
2742,32±14,65 2740 ± 15

Чтобы избежать неопределенности с нулями в конце числа, рекомендуется окончательный результат записывать в нормализованной форме.

Например, 12856=1,2856·104; 0,00865=8,65·10-3.

Поэтому, в третьем столбце, во второй и третьей строках, более корректно результат представить в нормальной форме записи (3,5 ± 0,38)·102 и
(2,74 ± 0,015)·103 (незначащие нули не пишут).

При вычислении результатов по имеющимся измерениям возникает вопрос, сколько знаков нужно сохранять во всех промежуточных расчетах. Практика показывает, что во всех промежуточных расчетах при небольшом числе наблюдений на каждой стадии вычисления число значащих цифр должно быть больше на одну или на две, чем их количество в окончательном ответе. В этом случае есть уверенность, что самими вычислениями не вносится заметных ошибок. Если же после вычисления ошибок окажется, что среднее значение измеряемой величины имеет недостаточное число знаков, то все вычисления среднего и его ошибки следует повторить.

ТЕСТ ДЛЯ ПРОВЕРКИ ПРАВИЛЬНОСТИ ЗАПИСИ
РЕЗУЛЬТАТОВ РАСЧЕТОВ

Вопросы Ответы
Вопрос 1. Табличное значение плотности золота равно 19,3 г/см3. Найдите абсолютную погрешность плотности. А. 0,050 г/см3 Б. 0,10 г/см3 В. 0,15 г/см3 Г. 0,20 г/см3
Вопрос 2. Ускорение силы тяжести равно 9,81 м/с2. Найдите абсолютную погрешность ускорения. А. 0.050 м/с2 Б. 0,010 м/с2 В. 0,0050 м/с2 Г. 0,10 м/с2
Вопрос 3. Плотность воды равна 1,00 г/см3. Сколько значащих цифр в этом числе? А. 1 Б. 2 В. 3 Г. 0
Вопрос 4. Плотность ртути равна 13,60 г/см3. Сколько значащих цифр в этом числе? А. 1 Б. 2 В. 3 Г. 4
Вопрос 5. Плотность молока равна 1,030 г/см3. Сколько значащих цифр в этом числе? А. 1 Б. 2 В. 3 Г. 4
Вопрос 6. Запишите в нормальной форме следующее приближенное число 0,001250. А. 1,25×10-3 Б. 1,250×10-3 В. 12,5×10-4 Г. 125×10-5
Вопрос 7. Показатель преломления бензина 1,5014 (±0,0001). Сколько в этом числе верных цифр? А. 1 Б. 2 В. 3 Г. 4
Вопрос 8. Показатель преломления бензина 1,5014 (±0,0001). Сколько в этом числе сомнительных цифр? А. 1 Б. 2 В. 3 Г. 4
Вопрос 9. Число Фарадея равно 9,650·104 Кл/моль имеет абсолютную погрешность ± 0,50·102. Сколько в этом числе верных цифр? А. 1 Б. 2 В. 3 Г. 4
Вопрос 10. При рентгеноструктурных исследованиях были рассчитаны период решетки железа и его абсолютная погрешность (2,8625036 ± 0,0017208) Å. Запишите в ответе грамотно полученный результат (a ± Δa) Å. А. 2,863±0,001 Å Б. 2,863±0.0018 Å В. 2,863±0,002 Å Г. 2,8625±0,00172 Å

П Р И Л О Ж Е Н И Е А

ФИЗИЧЕСКИЕ ПОСТОЯННЫЕ

Постоянная Авогадро NA=6,022045.1023 моль-1.

Постоянная Больцмана k=1,3807.10-23 Дж/K.

Универсальная газовая постоянная R=8,31441 Дж/(моль.К).

Элементарный электрический заряд е= 1,6021892.10-19 Кл.

Электрическая постоянная e0=8,85418782.10-12 Ф/м.

Скорость света в вакууме с=299 792 458 м/с.

Постоянная Планка h=6,626176.10-34 Дж.с=4,136.10-15 эВ.с;

запись погрешностей и результатов измерений - student2.ru =1,0545887.10-34 Дж.с=6,59.10-16 эВ.с.

Масса покоя электрона me=9,109534.10-31 кг = =5,4858026.10-4 а.е.м.

Энергия покоя электрона E0e=0,511 МэВ.

Масса покоя протона mp=1,6726485.10-27 кг = 1,0072776470 а.е.м.

Энергия покоя протона E0p=938,26 МэВ.

Масса покоя нейтрона mn=1,6749543.10-27 кг = 1,008665012 а.е.м.

Энергия покоя нейтрона E0n=939,55 МэВ.

Магнитная постоянная m0=4p.10-7 Гн/м.

Постоянная Фарадея F=NA.e=9,648456.104 Кл/моль.

Постоянная Стефана-Больцмана s=5,67032.10-8 Вт/(м2.К4).

Постоянная Вина b=0,00289782 м.К.

Постоянная Ридберга R¥=10973731,77 м-1.

Радиус первой боровской орбиты а0=0,529117706.10-10 м.

Комптоновская длина волны электрона lс=2,43.10-12 м.

Магнетон Бора mB=9,27.10-24 Дж/Тл.

Энергия ионизации атома водорода Ei=2,18.10-18 Дж.

ПРИЛОЖЕНИЕ Б

Наши рекомендации