Метод Монте-Карло, его применение в эконометрике

ММК - общее название группы численных методов, основанных на получении большого числа реализаций стохастического (случайного) процесса, который формируется таким образом, чтобы его вероятностные характеристики совпадали с аналогичными величинами решаемой задачи. Используется для решения задач в различных областях физики, химии, математики, экономики, оптимизации, теории управления и др.

Простейший возможный эксперимент по методу Монте-Карло состоит из трех частей.

Во-первых: 1) выбираются истинные значения альфа и бета; 2) в каждом наблюдении выбирается значение х; 3) используется некоторый процесс генерации случайных чисел (или берется последовательность из таблицы случайных чисел) для получения значений случайного фактора и в каждом из наблюдений.

Во-вторых, в каждом наблюдении генерируется значение у с использованием соотношения (у= альфа+ бета*х+u) и значений альфа, бета, х и и.

В-третьих, применяется регрессионный анализ для оценивания параметрова и b с использованием только полученных указанным образом значенийу и данных для х. При этом вы можете видеть, являются ли а и b хорошими оценками альфа и бета, и это позволит почувствовать пригодность метода построения регрессии.

Общая схема метода Монте-Карло.

Сущность метода состоит в следующем: требуется найти значение a некоторой изучаемой величины. Для этого выбирают такую случайную величину Х, математическое ожидание которой равно а: М(Х)=а.

Практически же поступают так: производят n испытаний, в результате которых получают n возможных значений Х; вычисляют их среднее арифметическое и принимают x в качестве оценки (приближённого значения) a^* искомого числа a: .

Поскольку ММК требует проведения большого числа испытаний, его часто называют методом статистических испытаний. Теория этого метода указывает, как наиболее целесообразно выбрать случайную величину Х, как найти её возможные значения. В частности, разрабатываются способы уменьшения дисперсии используемых случайных величин, в результате чего уменьшается ошибка, допускаемая при замене искомого математического ожидания а его оценкой а^*.

ММК используется очень часто, порой некритично и неэффективным образом.

Он имеет некоторые очевидные преимущества:

а) Он не требует никаких предложений о регулярности, за исключением квадратичной интегрируемости. Это может быть полезным, так как часто очень сложная функция, чьи свойства регулярности трудно установить.

б) Он приводит к выполнимой процедуре даже в многомерном случае, когда численное интегрирование неприменимо, например, при числе измерений, большим 10.

в) Его легко применять при малых ограничениях или без предварительного анализа задачи.

Он обладает, однако, некоторыми недостатками, а именно:

а) Границы ошибки не определены точно, но включают некую случайность. Это, однако, более психологическая, чем реальная, трудность.

б) Статическая погрешность убывает медленно.
в) Необходимость иметь случайные числа.

Модель Монте-Карлоне столь формализована и является более гибкой, чем другие имитирующие модели. Причины здесь следующие: при моделировании по ММК нет необходимости определять, что именно оптимизируется; нет необходимости упрощать реальность для облегчения решения, поскольку применение ЭВМ позволяет реализовать модели сложных систем; в программе для ЭВМ можно предусмотреть опережения во времени.

Данный метод является общепризнанным и наилучшим, т.к. обладает рядом непреодолимых достоинств, в частности использует гипотезу о нормал распределении доходностей, показывает высокую точность для нелин-ых инструментов и устойчив к выбор ретроспективы. К недостаткам можно отнести техническую сложность расчётов и модельный риск.

24. Метод наименьших квадратов: алгоритм метода; условия применения. Обобщённый метод наименьших квадратов

Один из методов регрессионного анализа для оценки неизвестных величин по результатам измерений, содержащим случайные ошибки.

МНК применяется также для приближённого представления заданной функции другими функциями и часто оказывается полезным при обработке наблюдений.

Когда искомая величина может быть измерена непосредственно, как, например, длина отрезка или угол, то, для увеличения точности, измерение производится много раз, и за окончательный результат берут арифметическое среднее из всех отдельных измерений. Это правило арифметической середины основывается на соображениях теории вероятностей; легко показать, что сумма квадратов уклонений отдельных измерений от арифметической середины будет меньше, чем сумма квадратов уклонений отдельных измерений от какой бы то ни было другой величины. Само правило арифметической середины представляет, следовательно, простейший случай метода наименьших квадратов.

Интерпретация МНК для случая линейной парной регрессии

Классический подход к оцениванию параметров линейной регрессии основан на МНК.

МНК позволяет получить такие оценки параметров a и b, при которых сумма квадратов отклонений фактических значений результативного признака y от расчетных (теоретических) ŷ_x минимальна:

(1)

Для того чтобы найти минимум функции (1), надо вычислить частные производные по каждому из параметров a и b и приравнять их к нулю. Тогда мы получаем следующую систему нормальных уравнений для оценки параметров a и b

Решая систему нормальных уравнений либо методом последовательного исключения переменных, либо методом определителей, найдем искомые оценки параметров a и b. Можно воспользоваться следующими формулами для a и b:

Эта формула получена из первого уравнения системы, если все его члены разделить на n:

где cov(x,y) — ковариация признаков; σ_х²— дисперсия признака х

Поскольку , получим сле­дующую формулу расчета оценки параметра b

Таким образом явный вид решения системы нормальных уравнений:

Свойство несмещенности состоит в том, что математиче­ское ожидание оценки должно быть равно истинному значению параметра.

Свойство состоятельности состоит в том, что с увеличе­нием наблюдений дисперсия оценки параметра стремится к ну­лю, т.е. оценка становится более надежной в вероятностном смысле (значения оценки более плотно концентрируются около истинного значения).

Оценка называется эффективной, если она имеет минимальную дисперсию по сравнению с любыми другими оценками этого параметра в классе выбранных процедур.

Иными словами, из всего множества линий линия регрессии на графике выбирается так, чтобы сумма квадратов расстояний по вертикали между точками и этой линией была бы минимальной: ε_i=y_i-ŷ_x

Добавить про ОМНК!!!