Расчет среднего значения и медианы.
нА/мин
M=1,2315 нА/мин
Расчет дисперсии и стандартного отклонения.
Дисперсию выборки (V) вычисляют по формуле:
- отклонение от среднего
|xi-x| | |xi-x|2 |
0,10879 | 0,01184 |
0,05401 | 0,00292 |
0,08991 | 0,00808 |
0,02039 | 0,00042 |
0,08059 | 0,00650 |
0,04519 | 0,00204 |
0,04181 | 0,00175 |
0,02869 | 0,00082 |
0,03119 | 0,00097 |
0,07501 | 0,00563 |
0,08781 | 0,00771 |
0,01919 | 0,00037 |
0,01921 | 0,00037 |
0,01069 | 0,00011 |
0,02299 | 0,00053 |
Рассчитаем дисперсию:
Стандартное отклонение представляет собой квадратный корень из дисперсии, взятый с положительным знаком, и имеет размерность измеряемой величины.
Расчет относительного стандартного отклонения.
Расчет доверительного интервала.
f=n-1=15-1=14
Коэффициент Стьюдента t(0,95;14)=2,15
Сравнение данных полученных при ручном обсчете и
Компьютерной программы Microsoft Excel.
Критерии | Среднее значение | Медиана | Дисперсия | Стандартное отклонение | Относительное стандартное отклонение | Доверительный интервал |
Ручной расчет | 1,21 | 1,2315 | 0,003575 | 0,05979 | 0,04932 | 0,03 |
Расчет с помощью программы Microsoft Excel | 1,21 | 1,2315 | 0,003575 | 0,059791 | 0,049324 | 0,03 |
Задание №2. Расчет параметров линейной регрессии градуировочной прямой, определение коэффициента чувствительности, коэффициента корреляции.
Пример.2.При построении градуировочной прямой для биосенсора
амперометрического типа на основе дрожжевогоштамма
DebaryamyceshanseniiVKMY-2482 получены следующие данные.
Концентрация ГГА, мг/дм3 | |||||||||
Среднее значение ответа биосенсера, нА/мин | 2,3824 | 4,4943 | 5,9489 | 6,7708 | 7,8877 | 9,5994 | 11,8717 | 13,7131 | 15,2947 |
Зависимость аналитического сигнала (y), в данном случае ответ сенсора в нА/мин, от концентрации (х) в мг/дм3, можно выразить линейным уравнением:
Коэффициенты aи bможно найти методом наименьших квадратов. Для их вычисления используют следующие формулы:
Расчет сумм:
xi | xi2 | yi | yi2 | xiyi |
2,382433 | 5,675989 | 71,473 | ||
4,494267 | 20,19843 | 224,7133 | ||
5,9489 | 35,38941 | 416,423 | ||
6,770833 | 45,84418 | 609,375 | ||
7,887667 | 62,21529 | 946,52 | ||
9,599433 | 92,14912 | 1439,915 | ||
11,87167 | 140,9365 | 2374,333 | ||
13,7131 | 188,0491 | 3428,275 | ||
15,29467 | 233,9268 | 4588,4 | ||
77,963 | 824,3848 | 14099,43 |
Σxi=1260
Σxi2=245800
Σyi=77,963
Σyi2=842,3848
Σxiyi=14099,43
n=9
y=0,04589x+2,238– линейное уравнение калибровочной прямой
Рассчитаем доверительные интервалы для параметров a и b градуировочного графика. Дисперсия, характеризующая рассеяние экспериментальных значений yдля nобразцов сравнения относительно рассчитанной прямой y=ax+b, определяется выражением:
Дисперсии параметров a и b равны:
Из дисперсии рассчитываем стандартные отклонения.
Рассчитаем доверительные интервалы для a и b:
где Р=0,95; f=n-2=9-2=7
t(P,f)=2,3
Коэффициент чувствительности:
Рассчитаем коэффициент корреляции:
Расчет и построение грауировочного графика
с помощью программы MicrosoftExcel.
ГГС, мг/дм | ответы нА/мин | среднее значение | стандартное отклонение | доверительный интервал | ||
2,5162 | 2,2769 | 2,3542 | 2,3824 | 0,1221 | 0,1 | |
4,4928 | 4,6326 | 4,3574 | 4,4943 | 0,1376 | 0,2 | |
5,6981 | 5,6102 | 6,5384 | 5,9489 | 0,5124 | 0,6 | |
6,9745 | 6,5895 | 6,7485 | 6,7708 | 0,1935 | 0,2 | |
7,8691 | 7,8358 | 7,9581 | 7,8877 | 0,0632 | 0,07 | |
9,584 | 9,6109 | 9,6034 | 9,5994 | 0,0139 | 0,02 | |
11,8259 | 11,9431 | 11,846 | 11,8717 | 0,0627 | 0,07 | |
13,7281 | 13,7128 | 13,6984 | 13,7131 | 0,0149 | 0,02 | |
15,3094 | 15,2981 | 15,2765 | 15,2947 | 0,0167 | 0,02 |
График градуировочной зависимости ответа сенсора от концентрации субстрата.
Уравнение прямой: y=0,0459x+2,2383
Коэффициент корреляции: R=0,9902
Расчет и построение грауировочного графика с помощью программы SigmaPlot.
Nonlinear Regression - Dynamic Fitting
Equation: Polynomial; Linear
f=y0+a*x
Results for the Overall Best-Fit Solution:
R Rsqr Adj Rsqr Standard Error of Estimate
0,9914 0,9828 0,9804 0,5821
Coefficient Std. Error t P VIF
y0 2,2023 0,3730 5,9037 0,0006 3,6966
a 0,0463 0,0023 20,0104 <0,0001 3,6966
Сравнение данных полученных при ручном обсчете и с помощью
Компьютерных программ.
параметры | Sigma Plot | Excel | По формулам |
а | 0,0463 | 0,0459 | 0,05±0,02 |
b | 2,2023 | 2,2383 | 2,2 ±0,1 |
уравнение прямой | y=0,05x+2,2 | y=0,05x+2,2 | y=0,05x+2,2 |
R | 0,9914 | 0,9902 | 0,9900 |
Задание №3.Оценка правильности метода.
Пример 3.Оценка была проведена при статистической обработке генеральной совокупности из 28 опытов по определениюбенз(а)пирена в растворе ГСО с тзвестнойконцентрацией 1,00 мкг/мл.
№ измерения | Концентрация, мкг/мл | № измерения | Концентрация, мкг/мл |
0,87 | 0,99 | ||
0,89 | 1,02 | ||
0,90 | 1,03 | ||
0,90 | 1,03 | ||
0,92 | 1,04 | ||
0,92 | 1,05 | ||
0,94 | 1,05 | ||
0,95 | 1,08 | ||
0,97 | 1,08 | ||
0,97 | 1,08 | ||
0,98 | 1,09 | ||
0,98 | 1,10 | ||
0,98 | 1,11 | ||
0,99 | 1,14 |
Выявление промахов.
Проверяем значение 1,14, т.к. оно сильнее отстоит от соседнего значения.
- размах варьирования
Тестовая статистки рассчитывается по формуле:
Критической величиной является табличное значение Q(P,n)=0,39.
Так как , то промаха нет, данное значение принадлежит выборке.
Рассчитаем среднее значение выборки:
Для проверки значимости различия между средним и константой воспользуемся следующей статистикой:
Рассчитаем стандартное отклонение для выборки:
- отклонение от среднего
концентрация, мкг/мл | |xi-x| | |xi-x|2 |
0,87 | 0,131786 | 0,017367 |
0,89 | 0,111786 | 0,012496 |
0,90 | 0,101786 | 0,01036 |
0,90 | 0,101786 | 0,01036 |
0,92 | 0,081786 | 0,006689 |
0,92 | 0,081786 | 0,006689 |
0,94 | 0,061786 | 0,003817 |
0,95 | 0,051786 | 0,002682 |
0,97 | 0,031786 | 0,00101 |
0,97 | 0,031786 | 0,00101 |
0,98 | 0,021786 | 0,000475 |
0,98 | 0,021786 | 0,000475 |
0,98 | 0,021786 | 0,000475 |
0,99 | 0,011786 | 0,000139 |
0,99 | 0,011786 | 0,000139 |
1,02 | 0,01821 | 0,000332 |
1,03 | 0,02821 | 0,000796 |
1,03 | 0,02821 | 0,000796 |
1,04 | 0,03821 | 0,00146 |
1,05 | 0,04821 | 0,002325 |
1,05 | 0,04821 | 0,002325 |
1,08 | 0,07821 | 0,006117 |
1,08 | 0,07821 | 0,006117 |
1,08 | 0,07821 | 0,006117 |
1,09 | 0,08821 | 0,007782 |
1,10 | 0,09821 | 0,009646 |
1,11 | 0,10821 | 0,01171 |
1,14 | 0,13821 | 0,019103 |
Рассчитает тестовую статистику:
Рассчитанную тестовую статистику сравним с критическим значением – коэффициент Стьюдента t(0,95;27)=2,04.
Отличие результата анализа от действительного значения незначимо, методика не содержит систематической погрешности.
Рассчитаем доверительный интервал: