Геометрическая иллюстрация байесовских стратегий

Рассмотрим статистическую Геометрическая иллюстрация байесовских стратегий - student2.ru - игру для двух состояний природы Геометрическая иллюстрация байесовских стратегий - student2.ru и Геометрическая иллюстрация байесовских стратегий - student2.ru , определяемую выпуклой областью Геометрическая иллюстрация байесовских стратегий - student2.ru :

Геометрическая иллюстрация байесовских стратегий - student2.ru Геометрическая иллюстрация байесовских стратегий - student2.ru

Геометрическая иллюстрация байесовских стратегий - student2.ru

Геометрическая иллюстрация байесовских стратегий - student2.ru

Геометрическая иллюстрация байесовских стратегий - student2.ru

Геометрическая иллюстрация байесовских стратегий - student2.ru

Геометрическая иллюстрация байесовских стратегий - student2.ru

0 Геометрическая иллюстрация байесовских стратегий - student2.ru

Рис. 3.8

Вычислим средние потери (3.9):

Геометрическая иллюстрация байесовских стратегий - student2.ru ,

где Геометрическая иллюстрация байесовских стратегий - student2.ru . Геометрически - это так называемая опорная прямая с градиентом Геометрическая иллюстрация байесовских стратегий - student2.ru , направленным от начала координат в сторону области Геометрическая иллюстрация байесовских стратегий - student2.ru .

Будем увеличивать Геометрическая иллюстрация байесовских стратегий - student2.ru от нуля до тех пор, пока эта прямая не станет касательной к границе области Геометрическая иллюстрация байесовских стратегий - student2.ru в точке Геометрическая иллюстрация байесовских стратегий - student2.ru , представляющей собой допустимую стратегию. Видно, что эта точка и определяет, при заданных Геометрическая иллюстрация байесовских стратегий - student2.ru и Геометрическая иллюстрация байесовских стратегий - student2.ru , оптимальную байесовскую стратегию, так как дальнейшее увеличение Геометрическая иллюстрация байесовских стратегий - student2.ru по направлению Геометрическая иллюстрация байесовских стратегий - student2.ru , приведет к недопустимым стратегиям.

Таким образом:

1) Каждая допустимая стратегия является байесовской для некоторых априорных вероятностей Геометрическая иллюстрация байесовских стратегий - student2.ru и Геометрическая иллюстрация байесовских стратегий - student2.ru .

2) Учитывая, что границей области Геометрическая иллюстрация байесовских стратегий - student2.ru является многоугольник, то опорная прямая в оптимальном положении обязательно пройдет через одну из вершин многоугольника. То есть, при заданных вероятностях Геометрическая иллюстрация байесовских стратегий - student2.ru и Геометрическая иллюстрация байесовских стратегий - student2.ru , всегда существует байесовская стратегия (хотя бы одна), являющейся чистой.

Если состояний природы более двух, то все вышесказанное остается в силе, только геометрическая иллюстрация становится практически невозможной.

Отметим также, что геометрическая иллюстрация байесовских стратегий представляет собой не что иное, как графическое решение задачи линейного программирования.

СТАТИСТИЧЕСКИЕ ИГРЫ С ПРОВЕДЕНИЕМ ЕДИНИЧНОГО ЭКСПЕРИМЕНТА

Постановка задачи

Особенностью статистической игры является возможность проведения эксперимента с целью расширения и уточнения знаний о состояниях природы. И возможность проведения эксперимента чрезвычайно расширяет класс возможных стратегий статистика.

Прежде всего, статистик должен принять решение о том, проводить или не проводить эксперимент. В случае положительного ответа на этот вопрос, он должен далее решить:

а) каким должен быть этот эксперимент;

б) сколько следует провести испытаний, чтобы считать эксперимент законченным;

в) какие предпринять действия при тех или иных исходах эксперимента.

Предположим, что статистик принял решение о проведении единичного эксперимента, под которым будем понимать такой эксперимент, объем и порядок проведения которого заранее определены.

Так, если надо проверить, является ли данная монета симметричной, можно провести единичный эксперимент, состоящий в бросании монеты Геометрическая иллюстрация байесовских стратегий - student2.ru раз. При этом пространство исходов этого эксперимента состоит из Геометрическая иллюстрация байесовских стратегий - student2.ru элементов вида:

Геометрическая иллюстрация байесовских стратегий - student2.ru .

Например, для определения вероятности выпадения герба при одном бросании монеты, Пирсон провел эксперимент, состоящий из 24000 бросаний монеты. То есть пространство возможных исходов эксперимента состояло из Геометрическая иллюстрация байесовских стратегий - student2.ru элементов.

Пространство выборок

Обозначим пространство исходов эксперимента через Геометрическая иллюстрация байесовских стратегий - student2.ru , а элементы этого пространства как Геометрическая иллюстрация байесовских стратегий - student2.ru . Тогда на пространстве Геометрическая иллюстрация байесовских стратегий - student2.ru можем определить условное распределение вероятностей Геометрическая иллюстрация байесовских стратегий - student2.ru :

Геометрическая иллюстрация байесовских стратегий - student2.ru , Геометрическая иллюстрация байесовских стратегий - student2.ru , Геометрическая иллюстрация байесовских стратегий - student2.ru , (3.11)

где Геометрическая иллюстрация байесовских стратегий - student2.ru - условная вероятность того, что исходом эксперимента будет Геометрическая иллюстрация байесовских стратегий - student2.ru при данном состоянии природы Геометрическая иллюстрация байесовских стратегий - student2.ru .

Совокупность трех элементов: пространства исходов эксперимента Геометрическая иллюстрация байесовских стратегий - student2.ru , пространства состояний природы Геометрическая иллюстрация байесовских стратегий - student2.ru и распределения вероятностей Геометрическая иллюстрация байесовских стратегий - student2.ru называют пространством выборок:

Геометрическая иллюстрация байесовских стратегий - student2.ru . (3.12)

Пространство выборок удобно задавать в виде таблицы, содержащей распределение вероятностей Геометрическая иллюстрация байесовских стратегий - student2.ru на прямом произведении множеств Геометрическая иллюстрация байесовских стратегий - student2.ru .

№ 3.7.Рассмотрим задачу о технологической линии и предположим, что эксперимент заключается в грубом предварительном анализе содержания примесей. Точный лабораторный анализ проводить нецелесообразно, так как это требует значительных затрат времени, а следовательно, и простоя оборудования.

Результаты эксперимента ( Геометрическая иллюстрация байесовских стратегий - student2.ru - примесей не обнаружено, Геометрическая иллюстрация байесовских стратегий - student2.ru - примеси в небольшом количестве, Геометрическая иллюстрация байесовских стратегий - student2.ru - примесей много) представим в следующей таблице:

  Геометрическая иллюстрация байесовских стратегий - student2.ru Геометрическая иллюстрация байесовских стратегий - student2.ru
Геометрическая иллюстрация байесовских стратегий - student2.ru 0,60 0,20
Геометрическая иллюстрация байесовских стратегий - student2.ru 0,25 0,30
Геометрическая иллюстрация байесовских стратегий - student2.ru 0,15 0,50

Например, 0,25 - это вероятность того, что при действительном состоянии природы Геометрическая иллюстрация байесовских стратегий - student2.ru (сырье с малым количеством примесей), эксперимент обнаружит их в небольшом количестве.

Решающая функция

Если в задаче без эксперимента статистик должен принять решение из пространства решений Геометрическая иллюстрация байесовских стратегий - student2.ru , исходя из априорной информации Геометрическая иллюстрация байесовских стратегий - student2.ru о состояниях природы, то в задаче с экспериментом, он принимает решение в зависимости от исхода эксперимента Геометрическая иллюстрация байесовских стратегий - student2.ru .

Чтобы формализовать эту задачу нужно заранее проанализировать все возможные исходы эксперимента, и составить правило Геометрическая иллюстрация байесовских стратегий - student2.ru , определяющее, какое решение Геометрическая иллюстрация байесовских стратегий - student2.ru следует принять при каждом из возможных исходов эксперимента Геометрическая иллюстрация байесовских стратегий - student2.ru . Это правило представляет собой отображение пространства исходов эксперимента Геометрическая иллюстрация байесовских стратегий - student2.ru на пространство решений Геометрическая иллюстрация байесовских стратегий - student2.ru :

Геометрическая иллюстрация байесовских стратегий - student2.ru , (3.13)

или

Геометрическая иллюстрация байесовских стратегий - student2.ru .

Правило Геометрическая иллюстрация байесовских стратегий - student2.ru , определяющее решение Геометрическая иллюстрация байесовских стратегий - student2.ru , которое должен принять статистик при каждом возможном исходе эксперимента Геометрическая иллюстрация байесовских стратегий - student2.ru , называется решающей функцией, а полный перечень возможных решающих функций называется пространством решающих функций Геометрическая иллюстрация байесовских стратегий - student2.ru .

№ 3.8.Рассмотрим решающие функции в условиях № 3.7. Это

Геометрическая иллюстрация байесовских стратегий - student2.ru ,

где Геометрическая иллюстрация байесовских стратегий - student2.ru , Геометрическая иллюстрация байесовских стратегий - student2.ru и Геометрическая иллюстрация байесовских стратегий - student2.ru - решения, которые принимает статистик при исходах эксперимента Геометрическая иллюстрация байесовских стратегий - student2.ru , Геометрическая иллюстрация байесовских стратегий - student2.ru и Геометрическая иллюстрация байесовских стратегий - student2.ru соответственно. Например, Геометрическая иллюстрация байесовских стратегий - student2.ru означает, что при исходе эксперимента Геометрическая иллюстрация байесовских стратегий - student2.ru принимается решение Геометрическая иллюстрация байесовских стратегий - student2.ru , при исходе Геометрическая иллюстрация байесовских стратегий - student2.ru - решение Геометрическая иллюстрация байесовских стратегий - student2.ru , при исходе Геометрическая иллюстрация байесовских стратегий - student2.ru - решение Геометрическая иллюстрация байесовских стратегий - student2.ru .

Видно, что число чистых стратегий статистика значительно увеличилось. В № 8 это число равно Геометрическая иллюстрация байесовских стратегий - student2.ru , а в общем случае Геометрическая иллюстрация байесовских стратегий - student2.ru , где Геометрическая иллюстрация байесовских стратегий - student2.ru - количество возможных решений статистика Геометрическая иллюстрация байесовских стратегий - student2.ru , а Геометрическая иллюстрация байесовских стратегий - student2.ru - количество возможных исходов эксперимента Геометрическая иллюстрация байесовских стратегий - student2.ru .

Понятие решающей функции позволяет более четко сформулировать задачу статистика. Эта задача состоит в том, чтобы из пространства решающих функций Геометрическая иллюстрация байесовских стратегий - student2.ru , выбрать такую решающую функцию Геометрическая иллюстрация байесовских стратегий - student2.ru , которая позволит принимать наиболее выгодные решения. Для этого необходимо уметь оценивать различные решающие функции, что можно сделать при помощи, так называемых, функций риска.

Функции риска

Если статистик остановил свой выбор на некоторой решающей функции Геометрическая иллюстрация байесовских стратегий - student2.ru , то он, тем самым, определил для каждого исхода эксперимента Геометрическая иллюстрация байесовских стратегий - student2.ru , Геометрическая иллюстрация байесовских стратегий - student2.ru , соответствующее решение Геометрическая иллюстрация байесовских стратегий - student2.ru , которому при данном состоянии природы Геометрическая иллюстрация байесовских стратегий - student2.ru будут соответствовать потери:

Геометрическая иллюстрация байесовских стратегий - student2.ru . (3.14)

Но при заданном Геометрическая иллюстрация байесовских стратегий - student2.ru , исход эксперимента Геометрическая иллюстрация байесовских стратегий - student2.ru будет случайной величиной с вероятностями:

Геометрическая иллюстрация байесовских стратегий - student2.ru ,

на пространстве Геометрическая иллюстрация байесовских стратегий - student2.ru . Поэтому и потери Геометрическая иллюстрация байесовских стратегий - student2.ru будут случайными величинами с вероятностями Геометрическая иллюстрация байесовских стратегий - student2.ru .

Следовательно, необходимо вести речь о средних потерях, определенных на всем пространстве возможных исходов эксперимента Геометрическая иллюстрация байесовских стратегий - student2.ru . Эти средние потери называются функцией риска:

Геометрическая иллюстрация байесовских стратегий - student2.ru

Геометрическая иллюстрация байесовских стратегий - student2.ru . (3.15)

Функция риска Геометрическая иллюстрация байесовских стратегий - student2.ru определяется для каждого состояния природы Геометрическая иллюстрация байесовских стратегий - student2.ru и для каждой решающей функции Геометрическая иллюстрация байесовских стратегий - student2.ru . То есть определяется на прямом произведении множеств Геометрическая иллюстрация байесовских стратегий - student2.ru точно так же, как функция потерь Геометрическая иллюстрация байесовских стратегий - student2.ru , в игре без эксперимента, определялась на прямом произведении множеств Геометрическая иллюстрация байесовских стратегий - student2.ru . Следовательно, пространство решающих функций Геометрическая иллюстрация байесовских стратегий - student2.ru и функция риска Геометрическая иллюстрация байесовских стратегий - student2.ru , в игре с единичным экспериментом, играют ту же роль, что и пространство возможных стратегий статистика Геометрическая иллюстрация байесовских стратегий - student2.ru и функция потерь Геометрическая иллюстрация байесовских стратегий - student2.ru в игре без эксперимента. Это означает, что игру с единичным экспериментом можно решить теми же самыми методами, что и игру без эксперимента. Плохо только то, что количество чистых стратегий статистика неимоверно возрастает.

В игре с экспериментом статистик может применять и смешанные стратегии. Для этого он должен иметь механизм случайного выбора, задающий распределение вероятностей Геометрическая иллюстрация байесовских стратегий - student2.ru в пространстве Геометрическая иллюстрация байесовских стратегий - student2.ru .

Тогда функция риска, при применении смешанных стратегий, будет вычисляться как математическое ожидание (среднее):

Геометрическая иллюстрация байесовских стратегий - student2.ru , (3.16)

или с учетом (3.15):

Геометрическая иллюстрация байесовских стратегий - student2.ru . (3.17)

Естественно, что при поиске наилучшей стратегии в игре с экспериментом статистик должен исходить только из допустимых стратегий, которые определяются аналогично игре без эксперимента.

№ 3.9.Вычислить функции риска в задаче о технологической линии.

Решение. Для удобства расчетов потери статистика Геометрическая иллюстрация байесовских стратегий - student2.ru и вероятности Геометрическая иллюстрация байесовских стратегий - student2.ru сведем в одну таблицу:

  Геометрическая иллюстрация байесовских стратегий - student2.ru Геометрическая иллюстрация байесовских стратегий - student2.ru Геометрическая иллюстрация байесовских стратегий - student2.ru
Геометрическая иллюстрация байесовских стратегий - student2.ru Геометрическая иллюстрация байесовских стратегий - student2.ru Геометрическая иллюстрация байесовских стратегий - student2.ru Геометрическая иллюстрация байесовских стратегий - student2.ru Геометрическая иллюстрация байесовских стратегий - student2.ru Геометрическая иллюстрация байесовских стратегий - student2.ru
Геометрическая иллюстрация байесовских стратегий - student2.ru 0,60 0,25 0,15
Геометрическая иллюстрация байесовских стратегий - student2.ru 0,20 0,30 0,50

Вычислим, например, Геометрическая иллюстрация байесовских стратегий - student2.ru . Согласно формуле (3.15), получаем:

Геометрическая иллюстрация байесовских стратегий - student2.ru

Геометрическая иллюстрация байесовских стратегий - student2.ru

Геометрическая иллюстрация байесовских стратегий - student2.ru .

Тогда

Геометрическая иллюстрация байесовских стратегий - student2.ru ,

Геометрическая иллюстрация байесовских стратегий - student2.ru .

И так далее, можно вычислить все Геометрическая иллюстрация байесовских стратегий - student2.ru значения функции риска.

Наши рекомендации