Задачи интервального оценивания параметров нормального закона распределения.

Сущность задачи интервального оценивания параметров

Интервальный метод оценивания параметров распределения случайных величин заключается в определении интервала (а не единичного значения), в котором с заданной степенью достоверности будет заключено значение оцениваемого параметра. Интервальная оценка характеризуется двумя числами – концами интервала, внутри которого предположительно находится истинное значение параметра. Иначе говоря, вместо отдельной точки для оцениваемого параметра можно установить интервал значений, одна из точек которого является своего рода "лучшей" оценкой. Интервальные оценки являются более полными и надежными по сравнению с точечными, они применяются как для больших, так и для малых выборок. Совокупность методов определения промежутка, в котором лежит значение параметра Т, получила название методов интервального оценивания. К их числу принадлежит метод Неймана.

Постановка задачи интервальной оценки параметров заключается в следующем [3, 11].

Имеется: выборка наблюдений (x₁, x₂, …, x_n) за случайной величиной Х. Объем выборки n фиксирован.

Необходимо с доверительной вероятностью g = 1– a определить интервал t₀ – t₁ (t₀ < t₁), который накрывает истинное значение неизвестного скалярного параметра Т(здесь, как и ранее, величина Т является постоянной, поэтому некорректно говорить, что значение Т попадает в заданный интервал).

Ограничения: выборка представительная, ее объем достаточен для оценки границ интервала.

Эта задача решается путем построения доверительного утверждения, которое состоит в том, что интервал от t₀ до t₁ накрывает истинное значение параметра Т с доверительной вероятностью не менее g . Величины t₀ и t₁ называются нижней и верхней доверительными границами (НДГ и ВДГ соответственно). Доверительные границы интервала выбирают так, чтобы выполнялось условие P(t₀ Ј q Ј t₁) = g . В инженерных задачах доверительную вероятность g назначают в пределах от 0,95 до 0,99. В доверительном утверждении считается, что статистики t₀ и t₁ являются случайными величинами и изменяются от выборки к выборке. Это означает, что доверительные границы определяются неоднозначно, существует бесконечное количество вариантов их установления.

На практике применяют два варианта задания доверительных границ:

устанавливают симметрично относительно оценки параметра, т.е. t₀ = q – Еg , t₁ = q + Еg , где Еg выбирают так, чтобы выполнялось доверительное утверждение. Следовательно, величина абсолютной погрешности оценивания Еg равна половине доверительного интервала;

устанавливают из условия равенства вероятностей выхода за верхнюю и нижнюю границу Р(Т > q + Е_1,g )=Р(Т < q – Е_2,g )=a /2. В общем случае величина Е_1,g не равнаЕ_2,g . Для симметричных распределений случайного параметра q в целях минимизации величины интервала значения Е_1,g и Е_2,g выбирают одинаковыми, следовательно, в таких случаях оба варианта эквивалентны.

Нахождение доверительных интервалов требует знания вида и параметров закона распределения случайной величины q . Для ряда практически важных случаев этот закон можно определить из теоретических соображений.

Общий метод построения доверительных интервалов

Метод позволяет по имеющейся случайной выборке построить функцию и(Т, q ), распределенную асимптотически нормально с нулевым математическим ожиданием и единичной дисперсией. В основе метода лежат следующие положения. Пусть:

f(х, q ) – плотность распределения случайной величины Х;

ln [L(x, q )] – логарифм функции правдоподобия;

;

А² =М(у)² – дисперсия у.

Если математическое ожидание М(у) = 0 и дисперсия у конечна, то распределение случайной величины w = асимптотически нормально с параметрами 0 и 1 при п ®Ґ .

Пример 4.4. Построить доверительный интервал с надежностью g =1– a для оценки m ₁математического ожидания m₁ случайной величины х, имеющей экспоненциальное распределение с функцией плотности f(x, l) = lехр(– lх).

Решение. Известно, что для экспоненциального закона распределения математическое ожидание т₁= 1/l, а дисперсия т₂= 1/l². Обозначим через l оценку параметра l. Определим оценку математического ожидания m ₁,вспомогательную переменную у, производную от логарифма функции правдоподобия:

m ₁ = (х₁+ х₂+ … + х_п)/п = 1/l ; М(l ) = l; т₁ = М(1/l );

у = ;

Оценка m ₁ параметра т₁ является состоятельной и несмещенной, следовательно: М(у)=М(l ^–1 – х) = 0; значение А² = М(l ^–1– х)² =l ^–2 конечно. Тогда случайная величина

w =

распределена нормально с параметрами 0 и 1.

Нормальное распределение симметрично, поэтому границы интервала следует выбрать симметрично относительно нулевой точки. Вероятность g =1 – a того, что модуль величины w не превысит некоторого заданного значения d , составит

где Ф(d ) – значение функции нормального распределения в точке d .

Величина d равна квантили u_{1–a /2} стандартного нормального распределения уровня 1– a /2. Значение абсолютной погрешности оценивания E = | m₁ – m ₁| =d /(l n^0,5) =u_{1– a /2} /(l n^0,5). Итак, имея достаточный объем выборки ЭД и задаваясь определенным уровнем надежности g можно определить доверительный интервал t₀ = m ₁ – Е, t₁ =m ₁ + Е, который с заданной вероятностью содержит неизвестный параметр т₁.

Аналогичные результаты для некоторых параметров распределения можно получить, используя более простые рассуждения.

Доверительный интервал для математического ожидания

Пусть по выборке достаточно большого объема, n > 30, и при заданной доверительной вероятности 1– a необходимо определить доверительный интервал для математического ожидания m₁, в качестве оценки которого используется среднее арифметическое .

Закон распределения оценки математического ожидания близок к нормальному (распределение суммы независимых случайных величин с конечной дисперсией асимптотически нормально). Если потребовать абсолютную надежность оценки математического ожидания, то границы доверительного интервала будут бесконечными [– Ґ , Ґ ]. Выбор любых более узких границ связан с риском ошибки, вероятность которой определяется уровнем значимости a . Интерес представляет максимальная точность оценки, т.е. наименьшее значение интервала. Для симметричных функций минимальный интервал тоже будет симметричным относительно оценки m ₁. В этом случае выражение для доверительной вероятности имеет вид P(| m ₁ – m₁ | Ј Е) = 1– a , где Е – абсолютная погрешность оценивания.

Нормальный закон полностью определяется двумя параметрами – математическим ожиданием и дисперсией. Величина m ₁ является несмещенной, состоятельной и эффективной оценкой математического ожидания, поэтому ее значение принимаем за значение математического ожидания. Определим оценку дисперсии случайного параметра m ₁, учитывая, что этот параметр равен среднему арифметическому одинаково распределенных случайных величин x_i (следовательно, их дисперсии D(x_i) одинаковы и равны m ₂)

.

Итак, случайная величина m ₁ распределена по нормальному закону с параметрами m ₁ и m ₂ / n. Для установления необходимых соотношений целесообразно перейти к центрированным и нормированным величинам. Выражение m ₁ – m₁ можно трактовать как центрирование случайной величины m ₁. Нормирование осуществляется делением на величину среднеквадратического отклонения оценки m ₁

.

Для стандартизованной величины вероятность соблюдения неравенства определяется по функции нормального распределения

= Ф(b ) – Ф(–b ) = –1+ 2Ф(b )=1– a ,

где . Значение b равно квантили u_{1– a /2} стандартного нормального распределения уровня 1– a /2. В частности, уровням надежности 0,9, 0,95 и 0,99 соответствуют значения допустимого отклонения u_{1– a /2} величины z, равные 1,64, 1,96 и 2,58 соответственно. Окончательно можно записать

u ²_{1– a /2} = nЕ²/m ₂ .

(4.3)

Нетрудно заметить, что это выражение аналогично по своему содержанию формуле, полученной с использованием общего метода построения доверительного интервала.

При фиксированном объеме выборки из (4.3) следует, что чем больше доверительная вероятность 1– a , тем шире границы доверительного интервала (тем больше ошибка в оценке математического ожидания). Это равенство позволяет определить необходимый объем выборки для получения оценки математического ожидания с заданной надежностью и требуемой точностью (погрешностью): n=m ₂ u²_{1– a /2}/Е ². Если перейти к относительной погрешности e = Е/m ₁, то

n = m ₂ u²_{1– a /2} /(e ^2m ₁²).

(4.4)

Таким образом, чтобы снизить относительную погрешность на порядок, необходимо увеличить объем выборки на два порядка. Приведенная формула часто используется в статистическом моделировании для определения необходимого количества испытаний модели.

Во многих случаях предположение о нормальном распределении случайной величины m ₁ становится приемлемым при n > 4 и вполне хорошо оправдывается при n >10. Оценка m ₁ вполне пригодна для применения вместо m₁. Но не так обстоит дело с дисперсией, правомочность ее замены на m ₂ не обоснована даже в указанных случаях. При небольшом объеме выборки, n < 30, закон распределения оценки дисперсии m ₂ принимать за нормальный неоправданно. Ее распределение следует аппроксимировать распределением хи-квадрат как суммы квадратов центрированных величин (хи-квадрат распределение сходится к нормальному при количестве слагаемых, превышающем 30). Но это утверждение обосновано только для случая, когда случайная величина Х распределена нормально.

С учетом сделанных допущений величина z будет подчиняться закону распределения Стьюдента с n–1 степенями свободы (одна степень свободы использована для определения оценки дисперсии). Распределение Стьюдента симметричное, поэтому полученное соотношение между точностью, надежностью оценки и объемом выборки сохраняется, меняются только значения квантилей. Вместоквантили нормального распределения u_{1– a /2} следует взять квантиль t_{1– a /2}(n–1) распределения Стьюдента с (n–1) степенями свободы. Значения критических точек распределения Стьюдента для некоторых вероятностей и различных степеней свободы, представлены в табл. П.4. Как можно видеть из табл. П.4, квантили распределения Стьюдента больше квантилей нормального распределения того же уровня надежности при малом n. Иначе говоря, применение нормального распределения при небольшом объеме выборки ЭД приводит к неоправданному завышению точности оценки.

Пример 4.5. Определить с надежностью g = 0,9 доверительный интервал для математического ожидания случайной величины, выборка которой представлена вариационным рядом, табл. 2.3.

Решение. Ранее были определены оценки m ₁ =27,51 и m ₂ =0,91. Интервал двусторонний, симметричный a = 0,1. Объем выборки можно считать большим, поэтому воспользуемся нормальным распределением, тогда u_0,95 = 1,96. Допустимое отклонение

Е = u_0,95(m ₂ /n)^0,5 =1,96 (0,91/44)^0,5 = 0,28.

С вероятностью 0,9 НДГ интервала составит t₀=27,51– 0,28=27,23, ВДГ интервала t₁= 27,51 + 0,28 = 27,79. Другими словами, с вероятностью 0,9 значение математического ожидания лежит в пределах от 27,23 до 27,79.

Пример 4.6. Определить с надежностью g = 0,9 (a = 0,1) доверительный интервал для математического ожидания случайной величины, представленной выборкой, табл. 2.1.

Решение. Определим оценки m ₁ = 55 и m ₂ = 658,6. Объем выборки n=6 нельзя считать большим, поэтому воспользуемся распределением Стьюдента при числе степеней свободы, равном 5. Тогда для двусторонней критической области в соответствии с табл. П.4 допустимое отклонение стандартизованной случайной величины составитt_0,9(4)=t(5; 0,1)=2,015. Допустимое отклонение исходной величины составит Е= t_0,9(5)(m ₂ /n)^0,5 =2,015 (658,6/6)^0,5 = 21,11.

Границы интервала: t₀=55–21,11=33,89 и t₁=55+21,11= 76,11.

В данном примере использование нормального распределения вместо распределения Стьюдента приведет к неоправданному сужению интервала в 2,015/1,64 = 1,3 раза.

Доверительный интервал для дисперсии

По выборке достаточно большого объема (n>30) и при заданной надежности 1– a необходимо определить доверительный интервал для дисперсии m₂ , оценка которой .

Если стандартизовать оценку дисперсии, то величина (n–1)s ²/m₂ имеет распределение хи-квадрат с (n–1) степенями свободы. Из этого вытекает вероятностное утверждение относительно выборочной дисперсии

P[(n–1)s ² /m₂ >c ^2a (n–1)] = a .

(4.5)

Функция хи-квадрат несимметричная, поэтому границы интервала c ²₁(n–1) и c ²₂(n–1) выбирают из условия равной вероятности выхода за их пределы P[(n–1)s ²/m₂ <c²₁(n–1)] = P[(n–1)s ²/m₂ >c ²₂(n–1)] = _a /2 или

P[(n–1)s ²/c ²₁(n–1) < m₂] = P[(n–1)s ²/c ²₂(n–1) > m₂] = a /2.

(4.6)

Значения границ соответствуют квантилям распределения хи-квадрат уровня a /2 и 1– a /2 с количеством степеней свободы n–1. Нижняя граница c ²₁(n–1) равна квантили c ^2a _/2(n–1), а верхняя – квантили c ²_{1–a /2}(n–1). Если воспользоваться критическими точками распределения, то следует записать c ²₁(n–1) = c ²(1– a /2; n–1) иc ²₂(n–1) = c ²(a /2; n–1).

Пример 4.7. Определить с надежностью 0,9 доверительный интервал для дисперсии случайной величины, представленной выборкой, табл. 2.3.

Решение. Количество степеней свободы 44–1=43. Вероятности выхода за нижнюю и верхнюю границы (1–0,9)/2 =0,05. По распределению хи-квадрат находим квантили c²_0,05(43)=28,96, c ²_0,95(43) =59,30. Следовательно, НДГ для дисперсии t₀=(n–1)s ²/c ²_0,95(43)= 43× 0,91/59,30= 0,66, ВДГ t₁=(n–1)s ²/c ²_0,05(43)=43× 0,91/28,96 = 1,36.

Доверительный интервал для вероятности

Пусть случайная величина Х имеет только два возможных значения: 0 и 1. В результате проведения достаточно большого количества наблюдений эта случайная величина приняла единичное значение т раз. Необходимо при заданной надежности 1– a определить доверительный интервал для вероятности р, оценка которой соответствует частоте h = т/п.

Оценка h вероятности р является состоятельной, эффективной и несмещенной. Если оцениваемая вероятность не слишком мала и не слишком велика (0,05< p <0,95), то можно считать, что распределение случайной величины h близко к нормальному. Этим допущением можно пользоваться, если пр и п(1–р) больше четырех. Параметры нормального распределения частоты т₁ = р, т₂ = р(1–р)/п (дисперсия m ₂ (m) количества успехов т составляет величину пр(1–р), а дисперсия частоты m ₂(m)/п²). Тогда по аналогии с определением доверительного интервала для математического ожидания нормально распределенной величины h можно записать

Е = |h– p| = u _{1– a /2}(m ₂(т) )^0,5 = u_{1– a /2}(р(1–р)/п)^0,5,

где u _{1– a /2} – квантиль стандартизованного нормального распределения.

Чтобы связать доверительный интервал с исходными параметрами n, h и u_{1– a /2}, возведем выражение для Е в квадрат, т. е. преобразуем равенство к виду (h–p)²=u²_{1– a/2}(1–p)p/п. Доверительные границы можно получить, решив это уравнение второй степени

p _{2, 1} ={nh + 0,5u²_{1– a /2} ±

± u_{1– a /2} [nh(1–h) + 0,25u²_{1– a /2}]^0,5}/(п + u²_{1– a /2}).

(4.7)

С увеличением объема выборки (пh >200, nh(1–h)>200) такими слагаемыми как u²_{1– a /2}, 0,5u²_{1– a /2} и 0,25u²_{1– a /2} можно пренебречь, тогда приближенно

p ₁ =h– u_{1– a /2} [h(1–h)/n]^0,5,

p ₂ =h + u_{1– a /2} [h(1–h)/n]^0,5.

(4.8)

Более общие результаты получены с учетом того, что случайная величина h распределена по биномиальному закону [11]

,

(4.9)

где – число сочетаний из n по k.

Исходя из этого положения, для практического применения получены значения нижней р₁ и верхней р₂ доверительных границ

; (4.10)

, (4.11)

где – квантиль распределения хи-квадрат уровня x с числом степеней свободы k.

Формулы (4.10) и (4.11) можно применять и в тех случаях, когда частость h события близка (равна) нулю или близка (равна) количеству экспериментов п соответственно. В первом случае НДГ р₁ принимается равной нулю и рассчитывается только ВДГ р₂. Во втором случае рассчитывается НДГ р₁, а верхняя граница р₂ =1.

Пример 4.8. В результате наблюдения за 58 изделиями не было зафиксировано ни одного отказа. Определить доверительный интервал для вероятности отказа с надежностью 0,9.

Решение. Нижнюю доверительную границу р₁ следует принять равной нулю, ВДГ

Таким образом, доверительный интервал с нижней границей 0 и верхней границей 0,05 с вероятностью 0,9 накрывает истинное значение вероятности отказа изделий.