Нижняя и верхняя цена игры. принцип минимакса
Рассмотрим игру с матрицей
Буквой i будем обозначать номер нашей стратегии, буквой — номер стратегии противника.
Отбросим вопрос о смешанных стратегиях и будем рассматривать пока только чистые. Поставим задачу: определить наилучшую среди наших стратегий Проанализируем последовательно каждую из них, начиная с и кончая Выбирая мы должны рассчитывать, что противник ответит на нее той из стратегий для которой наш выигрыш минимален. Найдем минимальное из чисел строке и обозначим его
(знак обозначает минимальное значение данного параметра при всех возможных
Выпишем числа (минимумы строк) рядом с матрицей справа в виде добавочного столбца:
Выбирая какую-то стратегию , мы должны рассчитывать на то, что в результате разумных действий противника мы выиграем только Естественно, действуя наиболее осторожно (т. е. избегая всякого риска), мы должны предпочесть другим ту стратегию, для которой число максимально. Обозначим это максимальное значение
или. принимая во внимание формулу (4.1),
Величина а называется нижней ценой игры, иначе — максиминным выигрышем или максимином. Та стратегия игрока А, которая соответствует максимину а, называется максиминной стратегией.
Очевидно, если мы будем придерживаться максиминной стратегии, то нам при любом поведении противника гарантирован выигрыш, во всяком случае, не меньший а. Поэтому величина а и называется «нижней ценой игры». Это — тот гарантированный минимум, который мы можем себе обспечить, придерживаясь своей наиболее осторожной («перестраховочной») стратегии.
Очевидно, аналогичное рассуждение можно провести и за противника В. Он (аинтересован в том, чтобы обратить наш выигрыш в минимум; значит, он должен просмотреть все свои стратегии, выделяя для каждой из них максимальное значение выигрыша. Выпишем внизу матрицы (4,2) максимальные значения по столбцам:
и найдем их них минимальное:
или
(4.4)
Величина называется верхней ценой игры, иначе минимаксным выигрышем или минимаксом. Соответствующая выигрышу стратегия противника называется его минимаксной стратегией. Придерживаясь своей наиболее осторожной минимаксной стратегии, противник гарантирован, что в любом случае он проиграет не больше р.
Принцип осторожности, диктующий игрокам выбор соответствующих стратегий (максиминной и минимаксной), является в теории игр основным и называется принципом минимакса. Он вытекает из предположения о разумности каждого игрока, стремящегося достигнуть цели, противоположной цели противника. Наиболее «осторожные» максиминную и минимаксную стратегии часто обозначают общим термином «минимаксные стратегии».
Определим нижнюю и верхнюю цены игры, а также минимаксные стратегии, для трех примеров, рассмотренных в предыдущем параграфе.
Пример 1. (Игра «поиск»). Определяя минимумы строк и максимумы столбцов получим
Так как величины , постоянны и равны соответственно —1 и нижняя и верхняя цены игры также равны —1 и
Любая стратегия игрока А является его максиминной, а игрока В — его минимаксной стратегией. Вывод тривиален: придерживаясь любой из своих стратегий, игрок А может гарантировать, что он проиграет не более 1 руб.; то же может гарантировать и игрок В при любой своей стратегии.
Пример 2. (Игра три пальца»). Выписывая минимумы строк и максимумы столбцов, найдем нижнюю цену игры и верхнюю (выделены в таблице жирным шрифтом). Наша максиминная стратегия (применяя ее систематически, мы гарантируем, что выиграем не меньше —3, т. е. проиграем не больше 3).
Минимаксная стратегия противника — любая из стратегий применяя их систематически, он может гарантировать, что не отдаст более 4. Если мы отступим от своей максиминной стратегии (например, выберем А 2), то противник может нас «наказать» за это, применив и сведя наш выигрыш равным образом и отступление противника от его минимаксной стратегии может быть «наказано» увеличением его проигрыша до 6.
Обратим внимание на то, что минимаксные стратегии в данном случае не устойчивы. Действительно, пусть, например, противник выбрал одну из своих минимаксных стратегий и придерживается ее. Узнав об этом, мы перейдем к стратегии и будем выигрывать 4. На это противник ответит стратегией и будет выигрывать 5; на это мы, в свою очередь, ответим стратегией и будем выигрывать 4, и т. д. Таким образом, положение, при котором оба игрока пользуются своими минимаксными стратегиями, является неустойчивым и может быть нарушено поступившими сведениями о стратегии, которую применяет противная сторона. Однако такая неустойчивость наблюдается не всегда; в этом мы убедимся на следующем примере.
Пример 3. (Игра «вооружение и самолет»). Определяем минимумы строк и максимумы столбцов:
В данном случае нижняя цена игры равна верхней:
Минимаксные стратегии являются устойчивыми: если один из игроков придерживается своей минимаксной (максиминной) стратегии, то другой игрок никак не может улучшить свое положение, отступая от своей.
Таким образом, мы видим, что существуют игры, для которых нижняя цена равна верхней:
Эти игры занимают особое место в теории игр и называются играми с седловой точкой. В матрице такой игры существует элемент, являющийся одновременно минимальным в своей строке и максимальным в своем столбце; такой элемент называется седловой точкой» (по аналогии с седловой точкой на поверхности, где достигается минимум по одной координате и максимум по другой).
Общее значение нижней и верхней цены игры
называется чистой ценой игры.
Седловой точке соответствует пара минимаксных стратегий, эти стратегии называются оптимальными, а их совокупность — решением игры. Решение игры обладает следующим свойством: если один из игроков придерживается своей оптимальной стратегии, то для другого не может быть выгодным отклоняться от своей оптимальной (такое отклонение либо оставит положение неизменным, либо ухудшит его).
Действительно, пусть в игре с седловой точкой игрок А придерживается своей оптимальной стратегии, а игрок В — своей. До тех пор, пока это так — выигрыш остается постоянным и равным цене игры v. Теперь допустим, что В допустил отклонение от своей оптимальной стратегии. Так как элемент v является минимальным в своей строке, такое отклонение не может быть выгодным для В; равным образом и для А, если В придерживается своей оптимальной стратегии, не может быть выгодно отклонение от своей.
Мы видим, что для игры с седловой точкой минимаксные стратегии обладают устойчивостью. Пара оптимальных стратегий в игре с седловой точкой является как бы положением равновесия: отклонение от оптимальной стратегии вызывает такое изменение выигрыша, которое невыгодно для отклоняющегося игрока и вынуждает его вернуться к своей оптимальной стратегии.
Чистая цена игры v в игре с седловой точкой является тем значением выигрыша, которое в игре против разумного противника игрок А не может увеличить, а игрок В — уменьшить.
Заметим, что в платежной матрице может быть не одна седловая точка, а несколько.
Например, в матрице имеется шесть седловых точек, с общим значением выигрыша и соответствующими парами оптимальных стратегий: Нетрудно доказать (мы этого делать не будем), что если в матрице игры несколько седловых точек, то все они дают одно и то же значение выигрыша.
Рис. 9.1
Пример. Сторона А — средства ПВО — обороняет от воздушного налета участок территории, располагая двумя орудиями № 1 и № 2, зоны действия которых не перекрываются (рис. 9.1). Каждое орудие может обстрелять только самолет, проходящий через его зону действия, но для этого оно должно заранее (до входа цели в зону) следить за ней и вырабатывать прицельные данные Если цель обстреляна, она поражается с вероятностью Сторона В располагает двумя самолетами, каждый из которых может быть направлен в любую зону В момент, когда сторона А осуществляет целераспределение (назначает, какому орудию по какой цели стрелять), движение самолета-цели № 1 направлено в зону действия орудия № 1, а цели № 2 — в зону действия орудия № 2. Однако после принятия решения по целераспределению каждая цель может сманеврировать, применив «обманный маневр» (см. пунктирные стрелки на рис 9.1).
Задача стороны А — обратить в максимум, а стороны В — обратить в минимум число пораженных целей Найти решение игры (оптимальные стратегии сторон)
Решение. У стороны А (средства ПВО) четыре возможные стратегии — каждое орудие следит за направляющейся в его зону целью,
— орудия следят за целями «крест-накрест» (каждое — за целью направляющейся к соседу),
— оба орудия следят за целью № 1,
— оба орудия следят за целью № 2 У стороны В (самолеты-цели) тоже четыре стратегии:
- обе целн не меняют направления,
— обе цели применяют обманный маневр.
— первая цель применяет обманный маневр, а вторая нет,
— вторая цель применяет обманный маневр, а первая нет.
Получается игра 4X4, матрица которой дана в таблице:
Находя минимумы строк и максимумы столбцов, убеждаемся, что нижняя цена игры равна верхней цене игры: значит, игра имеет седловую точку и решение в чистых стратегиях, приводящее к чистой цене игры . В данном случае седловых точек не одна, а целых четыре Каждой из них со ответствует пара оптимальных стратегий, дающая решение игры Цена игры означает, что при оптимальном поведении сторон самолеты будут неизбежно терять один самолет, и никакие ухищрения не помогут им терять меньше, а средствам ПВО — сбить больше одного самолета Достигается это состояние равновесия, когда обе стороны пользуются своими оптимальными стратегиями: орудия следят оба за одним и тем же самолетом (любым), а самолеты направляются после целераспределения в одну и ту же зону (любую)
Класс игр, имеющих седловую точку, весьма интересен как с теоретической, так и с практической точки зрения. К нему принадлежат, в частности, все так называемые «игры с полной информацией».
Игрой с полной информацией называется такая игра, в которой каждый игрок при каждом личном ходе знает результаты всех предыдущих ходов — как личных, так и случайных. Примерами игр с полной информацией могут служить: шашки, шахматы, известная игра в «крестики и нолики» и др.
В теории игр доказывается, что каждая игра с полной информацией имеет седловую точку и следовательно, решение в чистых стратегиях. Другими словами, в каждой игре с полной информацией существует пара оптимальных стратегий той и другой стороны, дающая устойчивый выигрыш, равный чистой цене игры. Если игра с полной информацией состоит только из личных ходов, то при применении каждой стороной своей оптимальной стратегии игра должна кончаться всегда вполне определенным исходом, равным цене игры
В качестве примера приведем следующую игру с полной информацией. Два игрока поочередно кладут одинаковые монеты на круглый стол, выбирая произвольно положение монеты (взаимное перекрытие монет не допускается). Выигрывает тот, кто положит последнюю монету (когда места для других уже не останется). Нетрудно убедиться, что исход этой игры предрешен, и существует определенная стратегия, обеспечивающая достоверный выигрыш тому из игроков, кто кладет монету первым. А именно, он должен первый раз положить монету в центр стола, а далее на каждый ход противника отвечать симметричным ходом. Очевидно, как бы ни вел себя противник, ему не избежать проигрыша. Поэтому игра имеет смысл только для лиц, не знающих ее решения. Точно так же дело обстоит с шахматами и другими играми с полной информацией; любая из этих игр обладает седловой точкой и, значит, решением, указывающим каждому игроку его оптимальную стратегию, так что игра имеет смысл только до тех пор, пока неизвестно решение. Решение шахматной игры не найдено (и в обозримом будущем вряд ли будет найдено) только потому, что число стратегий (комбинаций ходов) в шахматах слишком велико, чтобы можно было построить платежную матрицу и найти в ней седловую точку.
Рассмотрим пример. Пусть дана матрица игры (4):
Требуется найти нижнюю цену игры α, верхнюю цену игры β и минимаксные стратегии и проверить, являются ли они устойчивыми.
Решение. Из анализа дополнительных столбца и строки получаем: α= 5, β=5. Максимин равен минимаксу! Случай особый. Что же из этого следует?
Возьмем пару минимаксных стратегий: К2 и С3. Если оба держатся этих стратегий, то выигрыш будет равен 5. Теперь, допустим, мы узнали о поведении противника. Что будем делать? А ничего! Мы по-прежнему будем держаться стратегии К2, потому что любое отступление от нее нам невыгодно. Знаем мы или не знаем о поведении противника — все равно будем держаться стратегии К2! То же относится и к «синим» — им нет смысла менять свою стратегию С3.
В данном примере пара стратегий К2 и С3 устойчива, т. е. представляет собой положение равновесия и дает решение игры.
Почему так получилось? Потому что в матрице имеется особый элемент 5; он является минимальным в своей строке и одновременно максимальным в своем столбце. Такой элемент называется седловой точкой. Если матрица имеет седловую точку (т. е. нижняя цена игры равна верхней), то игра имеет решение в чистых стратегиях: это — пара стратегий, пересекающихся в седловой точке. Сама же седловая точка дает цену игры — в нашем примере она равна 5.
Класс игр, имеющих седловую точку, имеет большое значение в теории игр. В частности, доказано, что если по правилам игры каждый из игроков знает результат всех предыдущих ходов, как своих, так и противника (так называемая игра с полной информацией), то игра имеет седловую точку и, значит, имеет решение в чистых стратегиях.
Примерами игр с полной информацией могут служить: шахматы, шашки, «крестики и нолики» и т. п.
Приведем пример игры с полной информацией, решение которой легко найти.
Два игрока — К и С — поочередно кладут одинаковые монеты на круглый стол. Положение каждой монеты выбирается произвольно, лишь бы она не перекрывалась другими. Выигрывает тот из игроков, который положит монету последним (когда места для других уже не остается).
Стоит немножко подумать, чтобы убедиться, что исход этой игры всегда предрешен и что существует вполне определенная стратегия, гарантирующая выигрыш тому из игроков, который кладет монету первым (пусть это будет К). А именно К должен положить первую монету в центр стола, а далее на каждый ход С отвечать в точности симметричным относительно центра стола ходом! Бедный С может при этом вести себя как угодно, спасения ему все равно нет...
Очевидно, такая игра имеет смысл только для тех, кто не знает решения. Любопытно, что совершенно так же обстоит дело и с такой популярной игрой, как шахматы! Эта игра имеет смысл только до тех пор, пока не найдено ее решение.
Теоретически доказано, что решение существует и исход шахматной игры в сущности предрешен: если каждая сторона будет пользоваться своей оптимальной стратегией, то игра либо всегда будет кончаться выигрышем белых, либо всегда выигрышем черных, либо всегда ничьей! Но чем же именно? Мы пока этого не знаем, так как число возможных стратегий слишком велико, чтобы можно было построить матрицу шахматной игры и найти в ней седловую точку...
Наверное, любители шахмат заинтересованы в том, чтобы шахматная игра была решена еще не скоро.
Заметим в заключение, что седловых точек в матрице может быть не одна, а несколько; тогда решений игры в чистых стратегиях существует столько, сколько имеется седловых точек. Каждое из них дает выигрыш, равный цене игры.
Игра оборона города.