Сравнение данных полученных при ручном обсчете и

Компьютерной программы Microsoft Excel.

	Среднее значение	Медиана	Размах варьирования	Стандартное отклонение	Доверительный интервал
Ручной обсчет	1,001786	0,99	0,27	0,07424	0,03	1,00 0,03
Обсчет с помощью программы Microsoft Excel	1,001786	0,99	0,27	0,07424	0,03	1,00 0,03

Задание №4.Расчет предела обнаружения.

Результаты измерения холостого опыта для биосенсора на основе штамма DebaryamyceshanseniiBKMY-2482

Номер измерения	ответ сенсора, нА/мин
	2,0591
	2,2754
	2,4901
	2,6561

Найдем среднее значение по формуле

нА/мин

Рассчитаем отклонение от среднего:

|xi-x|	|xi-x|2
0,311075	0,096768
0,094775	0,008982
0,11993	0,014382
0,28593	0,081753

Рассчитаем дисперсию:

Рассчитаем стандартное отклонение:

Коэффициент чувствительности: k=0,05

Рассчитаем предел обнаружения:

Задание №5. Расчет нижней границы диапазона определяемых концентраций

Для нахождения с_н следует определить ряд значений s_r(c)(относительное стандартное отклонение)при различных концентрациях.

Пример 4. В таблице приведены отклики АО сенсора при 6 концентрациях субстрата (метанола). Сигналы получены при кюветном способе измерения, время хранения рецепторного элемента 28 суток, способ иммобилизации АО нитроцеллюлозная мембрана.

Величина ответа, нА/с	Концентрация субстрата, мМ
0,05	0,125	0,25	0,5	1,25	2,5
	0,099	0,209	0,296	0,448	0,767	0,921
	0,12	0,164	0,272	0,474	0,807	0,899
	0,114	0,205	0,304	0,431	0,788	0,863

Среднее значение,	0,11	0,19	0,29	0,45	0,79	0,89
Стандартное отклонение, Sy	0,011	0,025	0,017	0,022	0,020	0,029
	0,11 0,03	0,19 0,06	0,29 0,04	0,45 0,05	0,79 0,05	0,89 0,07

Расчетные формулы:

Стандартное отклонение:

Доверительный интервал: δ =

Рассчитаем коэффициент чувствительности ( см. пример 2):

S =

Относительные стандартные отклонения: S_r:

S_r(c)=

S_r(0,05) =

S_r(0,125) =

S_r(0,25) =

S_r(0,5) =

S_r(1,25) =

S_r(2,5) =

Нижняя граница диапазона определяемых концентраций: C_H = 0,18 мМ при относительном стандартном отклонении S_r=0,3:

Пример 5. По данным примера 4 построить градуировочный график и рассчитать параметры линейней регрессии

y= a+ bx

xi	xi2	yi	xiyi	Yi	(yi-Yi)2
0,05	0,0025	0,11	0,0055	0,20985	0,00997
0,125	0,015625	0,19	0,02375	0,23213	0,001775
0,25	0,0625	0,29	0,0725	0,26925	0,000431
0,5	0,25	0,45	0,225	0,3435	0,011342
1,25	1,5625	0,79	0,9875	0,56625	0,050064
2,5	6,25	0,89	2,225	0,9375	0,002256
=4,675	=8,143	=2,72	=3,539		= 0,0758

Расчетные формулы

0,0756

0,0649

a=S_a× t_(0,95;4) =0,0756×2,78=0,2102

b=S_b× t_{(0,95;4) )} =0,0649×2,78=0,1804

=0,9323

Сравнение результатов, полученных по программе и при ручной обработке

Обработка результатов	параметры
а+Da	b+Db	Sa	Sb	R	R2
По формулам	0,2 0,2	0,3 0,2	0,0756	0,0649	0,9323	0,8692
Sigma Plot 11.0	0,2 0,2	0,3 0,2	0,0726	0,0623	0,9321	0,8689

Справочные данные

Значения Q – критерия (доверительная вероятность 0,90)

n	Q крит.
	0,94
	0,76
	0,64
	0,56
	0,51
	0,47
	0,44
	0,41

Значение t для различной доверительной вероятности

Число степеней свободы f	Доверительная вероятность
0,90	0,95	0,99	0,999
	6,31	12,7	63,6
	2,92	4,30	9,93	31,6
	2,35	3,18	5,84	12,9
	2,13	2,78	4,60	8,61
	2,02	2,57	4,03	6,86
	1,94	2,45	3,71	5,96
	1,90	2,37	3,50	5,41
	1,86	2,31	3,36	5,04
	1,83	2,26	3,25	4,78
	1,81	2,23	3,17	4,59
	1,80	2,20	3,11	4,44
	1,78	2,18	3,06	4,32
	1,77	2,16	3,01	4,22
	1,76	2,15	2,98	4,14
	1,75	2,13	2,95	4,07
	1,73	2,09	2,85	3,85
	1,70	2,04	2,75	3,65
	1,68	2,02	2,70	3,55
	1,67	2,00	2,66	3,46
∞	1,66	1,96	2,58	3,29

Значение F для доверительной вероятности 0,95

(уровень значимости p=0,05)

f1 f 2									∞
	164,4	199,5	215,7	224,6	230,2	234,0	244,9	249,0	254,3
	18,5	19,2	19,2	19,3	19,3	19,3	19,4	19,5	19,5
	10,1	9,6	9,3	9,1	9,0	8,9	8,7	8,6	8,5
	7,7	6,9	6,6	6,4	6,3	6,2	5,9	5,8	5,6
	6,6	5,8	5,4	5,2	5,1	5,0	4,7	4,5	4,4
	6,0	5,1	4,8	4,5	4,4	4,3	4,0	3,8	3,7
	5,6	4,7	4,4	4,1	4,0	3,9	3,6	3,4	3,2
	5,3	4,5	4,1	3,8	3,7	3,6	3,3	3,1	2,9
	5,1	4,3	3,9	3,6	3,5	3,4	3,1	2,9	2,7
	5,0	4,1	3,7	3,5	3,3	3,2	2,9	2,7	2,5
	4,8	4,0	3,6	3,4	3,2	3,1	2,8	2,6	2,4
	4,8	3,9	3,5	3,3	3,1	3,0	2,7	2,5	2,3
	4,7	3,8	3,4	3,2	3,0	2,9	2,6	2,4	2,2
	4,6	3,7	3,3	3,1	3,0	2,9	2,5	2,3	2,1
	4,5	3,7	3,3	3,1	2,9	2,8	2,5	2,3	2,1
	4,5	3,6	3,2	3,0	2,9	2,7	2,4	2,2	2,0
	4,5	3,6	3,2	3,0	2,8	2,7	2,4	2,2	2,0
	4,4	3,6	3,2	2,9	2,8	2,7	2,3	2,1	1,9
	4,4	3,5	3,1	2,9	2,7	2,6	2,3	2,1	1,9
	4,4	3,5	3,1	2,9	2,7	2,6	2,3	2,1	1,8
	4,3	3,4	3,1	2,8	2,7	2,6	2,2	2,0	1,8
	4,3	3,4	3,0	2,8	2,6	2,5	2,2	2,0	1,7
	4,2	3,4	3,0	2,7	2,6	2,5	2,2	2,0	1,7
	4,2	3,3	3,0	2,7	2,6	2,4	2,1	1,9	1,7
	4,2	3,3	2,9	2,7	2,5	2,4	2,1	1,9	1,6
	4,1	3,2	2,9	2,6	2,5	2,3	2,0	1,8	1,5
	3,9	3,1	2,7	2,5	2,3	2,2	1,8	1,6	1,3
∞	3,8	3,0	2,6	2,4	2,2	2,1	1,8	1,5	1,0

Индивидуальные задания для расчетной работы

Задание 1

Используя данные двумерной выборочной совокупности (таблица 1):

1. Построить градуировочную кривую, используя программы Sigma Plot иMicrosoft Excel.

2. Используя уравнения Хилла и Михаэлиса – Ментен, произвести расчет точечной и интервальной оценки коэффициента Хилла и константы Михаэлиса (с помощью программы Sigma Plot). Значение константы Михаэлиса (К_М) принять в качестве оценки верхней границы линейной области.

3. Произвести расчет точечной оценки коэффициента корреляции (с помощью компьютерных программ и по статистическим формулам), используя данные таблицы 1 для всей исследуемой области концентраций и для линейной области градуировочной кривой. Сделать вывод о коррелируемости отклика сенсора и концентрации для всей исследуемой области концентраций и для линейной области.

4. Произвести расчет точечной и интервальной оценки параметров линейной регрессии (с помощью компьютерных программ и по статистическим формулам). Рассчитать коэффициент чувствительности (нА^.дм³/мин^.ммоль) с доверительным интервалом.

5. Произвести расчет точечной оценки нижней границы диапазона определяемых концентраций с_min(мкмоль/ дм³).

6. Произвести расчет точечной оценки предела обнаружения c_обн(мкмоль/ дм³), используя данные выборки холостого опыта (таблица 2) и найденное значение коэффициента чувствительности.

Задание 2

В таблице 3 приведены результаты определения этанола в коммерческих образцах водок

а) с помощью биосенсора

б) рефрактометрически

в) пикнометрически.

1. Все выборки ранжировать и проверить на наличие грубых погрешностей, сформулировав нуль-гипотезу (по Q – критерию).

2. Произвести расчет точечной и интервальной оценки математического ожидания (среднего значения с доверительным интервалом) для каждой выборкис помощью компьютерных программ и по статистическим формулам.

3. Проверить выборки попарно на однородность по воспроизводимости, сформулировав нуль-гипотезу (по F – критерию).

4. Выявить наличие систематической погрешности при определении с помощью биосенсора, используя модифицированный тест Стьюдента или приближение Уэлча ( в качестве референтной методики выбрать а) рефрактометрический; б) пикнометрический метод)

5. Выявить наличие систематической погрешности , используя простой тест Стьюдента, при определении а)с помощью биосенсора, б) рефрактометрически, в) пикнометрически. Заявленное производителем (истинное) значение концентрации этанола 40,0%.

Задание 3

1. Выборку (таблица 4) ранжировать и проверить на наличие грубых погрешностей, сформулировав нуль-гипотезу (по Q – критерию).

2. Рассчитать размах варьирования, среднее значение с доверительным интервалом, медиану, моду, стандартное отклонение, относительного стандартное отклонение.