Расчет среднего значения и медианы.

Расчет среднего значения и медианы. - student2.ru нА/мин

M=1,2315 нА/мин

Расчет дисперсии и стандартного отклонения.

Дисперсию выборки (V) вычисляют по формуле:

Расчет среднего значения и медианы. - student2.ru

Расчет среднего значения и медианы. - student2.ru - отклонение от среднего

|xi-x| |xi-x|2
0,10879 0,01184
0,05401 0,00292
0,08991 0,00808
0,02039 0,00042
0,08059 0,00650
0,04519 0,00204
0,04181 0,00175
0,02869 0,00082
0,03119 0,00097
0,07501 0,00563
0,08781 0,00771
0,01919 0,00037
0,01921 0,00037
0,01069 0,00011
0,02299 0,00053

Расчет среднего значения и медианы. - student2.ru

Рассчитаем дисперсию:

Расчет среднего значения и медианы. - student2.ru

Стандартное отклонение представляет собой квадратный корень из дисперсии, взятый с положительным знаком, и имеет размерность измеряемой величины.

Расчет среднего значения и медианы. - student2.ru

Расчет относительного стандартного отклонения.

Расчет среднего значения и медианы. - student2.ru

Расчет доверительного интервала.

Расчет среднего значения и медианы. - student2.ru

f=n-1=15-1=14

Коэффициент Стьюдента t(0,95;14)=2,15

Расчет среднего значения и медианы. - student2.ru

Расчет среднего значения и медианы. - student2.ru

Сравнение данных полученных при ручном обсчете и

Компьютерной программы Microsoft Excel.

Критерии Среднее значение Медиана Дисперсия Стандартное отклонение Относительное стандартное отклонение Доверительный интервал
Ручной расчет 1,21 1,2315 0,003575 0,05979 0,04932 0,03
Расчет с помощью программы Microsoft Excel 1,21 1,2315 0,003575 0,059791 0,049324 0,03

Задание №2. Расчет параметров линейной регрессии градуировочной прямой, определение коэффициента чувствительности, коэффициента корреляции.

Пример.2.При построении градуировочной прямой для биосенсора

амперометрического типа на основе дрожжевогоштамма

DebaryamyceshanseniiVKMY-2482 получены следующие данные.

Концентрация ГГА, мг/дм3
Среднее значение ответа биосенсера, нА/мин 2,3824 4,4943 5,9489 6,7708 7,8877 9,5994 11,8717 13,7131 15,2947

Зависимость аналитического сигнала (y), в данном случае ответ сенсора в нА/мин, от концентрации (х) в мг/дм3, можно выразить линейным уравнением: Расчет среднего значения и медианы. - student2.ru

Коэффициенты aи bможно найти методом наименьших квадратов. Для их вычисления используют следующие формулы:

Расчет среднего значения и медианы. - student2.ru

Расчет среднего значения и медианы. - student2.ru

Расчет сумм:

xi xi2 yi yi2 xiyi
2,382433 5,675989 71,473
4,494267 20,19843 224,7133
5,9489 35,38941 416,423
6,770833 45,84418 609,375
7,887667 62,21529 946,52
9,599433 92,14912 1439,915
11,87167 140,9365 2374,333
13,7131 188,0491 3428,275
15,29467 233,9268 4588,4
77,963 824,3848 14099,43

Σxi=1260

Σxi2=245800

Σyi=77,963

Σyi2=842,3848

Σxiyi=14099,43

n=9

Расчет среднего значения и медианы. - student2.ru

Расчет среднего значения и медианы. - student2.ru

y=0,04589x+2,238– линейное уравнение калибровочной прямой

Рассчитаем доверительные интервалы для параметров a и b градуировочного графика. Дисперсия, характеризующая рассеяние экспериментальных значений yдля nобразцов сравнения относительно рассчитанной прямой y=ax+b, определяется выражением:

Расчет среднего значения и медианы. - student2.ru

Расчет среднего значения и медианы. - student2.ru

Дисперсии параметров a и b равны:

Расчет среднего значения и медианы. - student2.ru

Расчет среднего значения и медианы. - student2.ru

Расчет среднего значения и медианы. - student2.ru

Расчет среднего значения и медианы. - student2.ru

Из дисперсии рассчитываем стандартные отклонения.

Расчет среднего значения и медианы. - student2.ru

Расчет среднего значения и медианы. - student2.ru

Рассчитаем доверительные интервалы для a и b:

Расчет среднего значения и медианы. - student2.ru

Расчет среднего значения и медианы. - student2.ru

где Р=0,95; f=n-2=9-2=7

t(P,f)=2,3

Расчет среднего значения и медианы. - student2.ru

Расчет среднего значения и медианы. - student2.ru

Коэффициент чувствительности:

Расчет среднего значения и медианы. - student2.ru

Рассчитаем коэффициент корреляции:

Расчет среднего значения и медианы. - student2.ru

Расчет и построение грауировочного графика

с помощью программы MicrosoftExcel.

ГГС, мг/дм ответы нА/мин среднее значение стандартное отклонение доверительный интервал
2,5162 2,2769 2,3542 2,3824 0,1221 0,1
4,4928 4,6326 4,3574 4,4943 0,1376 0,2
5,6981 5,6102 6,5384 5,9489 0,5124 0,6
6,9745 6,5895 6,7485 6,7708 0,1935 0,2
7,8691 7,8358 7,9581 7,8877 0,0632 0,07
9,584 9,6109 9,6034 9,5994 0,0139 0,02
11,8259 11,9431 11,846 11,8717 0,0627 0,07
13,7281 13,7128 13,6984 13,7131 0,0149 0,02
15,3094 15,2981 15,2765 15,2947 0,0167 0,02

График градуировочной зависимости ответа сенсора от концентрации субстрата.

Расчет среднего значения и медианы. - student2.ru

Уравнение прямой: y=0,0459x+2,2383

Коэффициент корреляции: R=0,9902

Расчет и построение грауировочного графика с помощью программы SigmaPlot.

Расчет среднего значения и медианы. - student2.ru

Nonlinear Regression - Dynamic Fitting

Equation: Polynomial; Linear

f=y0+a*x

Results for the Overall Best-Fit Solution:

R Rsqr Adj Rsqr Standard Error of Estimate

0,9914 0,9828 0,9804 0,5821

Coefficient Std. Error t P VIF

y0 2,2023 0,3730 5,9037 0,0006 3,6966

a 0,0463 0,0023 20,0104 <0,0001 3,6966

Сравнение данных полученных при ручном обсчете и с помощью

Компьютерных программ.

параметры Sigma Plot Excel По формулам
а 0,0463 0,0459 0,05±0,02
b 2,2023 2,2383 2,2 ±0,1
уравнение прямой y=0,05x+2,2 y=0,05x+2,2 y=0,05x+2,2
R 0,9914 0,9902 0,9900

Задание №3.Оценка правильности метода.

Пример 3.Оценка была проведена при статистической обработке генеральной совокупности из 28 опытов по определениюбенз(а)пирена в растворе ГСО с тзвестнойконцентрацией 1,00 мкг/мл.

№ измерения Концентрация, мкг/мл № измерения Концентрация, мкг/мл
0,87 0,99
0,89 1,02
0,90 1,03
0,90 1,03
0,92 1,04
0,92 1,05
0,94 1,05
0,95 1,08
0,97 1,08
0,97 1,08
0,98 1,09
0,98 1,10
0,98 1,11
0,99 1,14


Выявление промахов.

Проверяем значение 1,14, т.к. оно сильнее отстоит от соседнего значения.

Расчет среднего значения и медианы. - student2.ru Расчет среднего значения и медианы. - student2.ru - размах варьирования

Расчет среднего значения и медианы. - student2.ru

Тестовая статистки рассчитывается по формуле:

Расчет среднего значения и медианы. - student2.ru

Критической величиной является табличное значение Q(P,n)=0,39.

Так как Расчет среднего значения и медианы. - student2.ru , то промаха нет, данное значение принадлежит выборке.

Рассчитаем среднее значение выборки:

Расчет среднего значения и медианы. - student2.ru

Для проверки значимости различия между средним и константой воспользуемся следующей статистикой:

Расчет среднего значения и медианы. - student2.ru

Рассчитаем стандартное отклонение для выборки:

Расчет среднего значения и медианы. - student2.ru

Расчет среднего значения и медианы. - student2.ru - отклонение от среднего

концентрация, мкг/мл |xi-x| |xi-x|2
0,87 0,131786 0,017367
0,89 0,111786 0,012496
0,90 0,101786 0,01036
0,90 0,101786 0,01036
0,92 0,081786 0,006689
0,92 0,081786 0,006689
0,94 0,061786 0,003817
0,95 0,051786 0,002682
0,97 0,031786 0,00101
0,97 0,031786 0,00101
0,98 0,021786 0,000475
0,98 0,021786 0,000475
0,98 0,021786 0,000475
0,99 0,011786 0,000139
0,99 0,011786 0,000139
1,02 0,01821 0,000332
1,03 0,02821 0,000796
1,03 0,02821 0,000796
1,04 0,03821 0,00146
1,05 0,04821 0,002325
1,05 0,04821 0,002325
1,08 0,07821 0,006117
1,08 0,07821 0,006117
1,08 0,07821 0,006117
1,09 0,08821 0,007782
1,10 0,09821 0,009646
1,11 0,10821 0,01171
1,14 0,13821 0,019103

Расчет среднего значения и медианы. - student2.ru

Расчет среднего значения и медианы. - student2.ru

Рассчитает тестовую статистику:

Расчет среднего значения и медианы. - student2.ru

Рассчитанную тестовую статистику сравним с критическим значением – коэффициент Стьюдента t(0,95;27)=2,04.

Расчет среднего значения и медианы. - student2.ru

Отличие результата анализа от действительного значения незначимо, методика не содержит систематической погрешности.

Рассчитаем доверительный интервал:

Расчет среднего значения и медианы. - student2.ru

Расчет среднего значения и медианы. - student2.ru Расчет среднего значения и медианы. - student2.ru

Наши рекомендации