Математическая обработка результатов эксперимента

Как правильно выразить результат измерения? Измеренное значение необходимо представить таким образом, чтобы оно отражало точность измерения. Например, если при взвешивании образца получено значение: 1,2456 г, это означает, что взвешивание проведено с точностью до десятитысячных долей грамма, возможная ошибка относится к последней цифре написанного числа.

Результат нельзя представить, как 1,24 и 1, 24560, так как это не отражает действительной точности определения.

Значащие цифры – минимальное число цифр, с помощью которого можно представить результат измерения в соответствии с его точностью.

Пример 1. Представить в правильном виде число 86 370 000, если точность определения – сотни единиц.

Ответ: 8,63700·10 - 5. Два последних нуля не являются значащими.

Пример 2. Представить в правильном виде число 0,046700, полученные величины измерены с точностью до десятитысячных долей единицы.

Ответ: 4,67·10-2. Первые два нуля – не являются значащими, два последних в этом случае также не будут значащими.

При сложении нескольких численных значений их сумма должна быть представлена с точностью величины, измеренной с наименьшей точностью, то же самое необходимо соблюдать при умножении и делении.

По точности, с которой нужно получить определенный результат, можно предварительно прикинуть, с какой точностью надо проводить необходимые определения.

Например: если при определении достаточно установить содержание ингредиента с относительной ошибкой в 10%, это означает, что исходный образец порядка 0,2 г нужно взвесить с точностью не более 0,01 г.

В фотометрии значение абсорбции определяется тремя значащими цифрами (например, D = 0,456). Следовательно, массу исходной навески можно представить не более чем 3 значащими цифрами (1,34 или 0,526), взвешивание с большей точностью в этом случае – бессмысленно.

Методы математической статистики применимы к учету и оценке случайных погрешностей. Статистической обработке поддаются только случайные ошибки. Алгоритм расчета случайной погрешности приведен ниже.

1. Рассчитать среднее арифметическое значение экспериментально определяемой величины –

,

где n – число измерений.

2. Найти среднее квадратическое отклонение результата измерения

3. Определить доверительный интервал при вероятности a=0,95

,

где – коэффициент Стьюдента.

Значения коэффициента Стьюдента для доверительной вероятности 0,95 приведены в таблице.

Значения коэффициента Стьюдента для доверительной

вероятности 0,95

Число параллельных измерений
	12,7	4,3	3,2	2,8	2,6	2,4	2,4	2,3	2,3

4. Округлить результат определения в соответствии с полученной величиной .

5. Найти относительную погрешность измерения (%)

Статистический критерий выбраковки результата измерения

Суть одного из сравнительно простых и удобных критериев в следующем:

1. Определяется разность между наибольшим и наименьшим результатом измерения с учетом сомнительного. Она обозначается R₁.

2. Определяется также разность результатов без учета сомнительного, обозначаемая R₂.

3. Вычисляется отношение R₁/R₂ и сравнивается с соответствующими критическими значениями Р, представленными в таблице.

Если R₁/R₂ >Р – результат выбраковывается, если R₁/R₂ <Р – его учитывают вместе с остальными.

Критические значения Р для отношения R₁/R₂ приведены в таблице.

Критические значения Р для отношения R₁/R₂

N	Статистическая вероятность
95%	99%
	16,9 4,3 2,8 1,7	83,3 9,0 4,6 2,1

Например: для серии из 5 определений получены результаты: 38,14; 38,23; 38,06; 38,19; 38,81%

Последний – сомнителен.

R₁ = 38,81-38,06 = 0,75

R₂ = 38,23-38,06 = 0,15

R₁/R₂ = 0,75 / 0,15 = 5,0

5,0 > 4,6, следовательно, последний результат не обусловлен случайной ошибкой и его необходимо отвергнуть.