Общая схема МНК в случае автокорреляции первого порядка

Чаще других при построении прогнозных моделей регрессии используются данные, представляющие собой временные ряды. В случае временных рядов нарушение условия 3b) состоит в том, что случайные остатки коррелируют между собой и, следовательно, матрица Общая схема МНК в случае автокорреляции первого порядка - student2.ru становится недиагональной. Поэтому рассмотренный выше метод взвешенных наименьших квадратов к данной ситуации не применим, т.е. возникает необходимость в применении другого варианта обобщенной схемы МНК, отличного от случая гетероскедастичности. Начнем с рассмотрения простейшего случая, когда зависимость между остатками Общая схема МНК в случае автокорреляции первого порядка - student2.ru , выражается автокорреляцией первого порядка, т.е.

Общая схема МНК в случае автокорреляции первого порядка - student2.ru , (3.92)

где Общая схема МНК в случае автокорреляции первого порядка - student2.ru , а Общая схема МНК в случае автокорреляции первого порядка - student2.ru – случайная величина, удовлетворяющая условиям классической регрессии

Общая схема МНК в случае автокорреляции первого порядка - student2.ru , Общая схема МНК в случае автокорреляции первого порядка - student2.ru . (3.93)

Кроме того, будем считать, что соотношение (3.92) справедливо для любого t ( Общая схема МНК в случае автокорреляции первого порядка - student2.ru ).

Учитывая свойства случайной составляющей Общая схема МНК в случае автокорреляции первого порядка - student2.ru , описываемые соотношениями (4.93), вычислим основные ее числовые характеристики Общая схема МНК в случае автокорреляции первого порядка - student2.ru и Общая схема МНК в случае автокорреляции первого порядка - student2.ru . Для этого представим случайную величину Общая схема МНК в случае автокорреляции первого порядка - student2.ru в виде бесконечного ряда

Общая схема МНК в случае автокорреляции первого порядка - student2.ru

Общая схема МНК в случае автокорреляции первого порядка - student2.ru

Общая схема МНК в случае автокорреляции первого порядка - student2.ru . (3.94)

Используя полученное представление и свойство (3.93), получаем

Общая схема МНК в случае автокорреляции первого порядка - student2.ru , (3.95)

Общая схема МНК в случае автокорреляции первого порядка - student2.ru

Общая схема МНК в случае автокорреляции первого порядка - student2.ru

Общая схема МНК в случае автокорреляции первого порядка - student2.ru . (3.96)

При вычислении дисперсии было учтено, что Общая схема МНК в случае автокорреляции первого порядка - student2.ru между собой независимы и поэтому математические ожидания произведений Общая схема МНК в случае автокорреляции первого порядка - student2.ru при Общая схема МНК в случае автокорреляции первого порядка - student2.ru равны 0.

Чтобы вычислить ковариационную матрицу, вычислим произведение Общая схема МНК в случае автокорреляции первого порядка - student2.ru при произвольном Общая схема МНК в случае автокорреляции первого порядка - student2.ru . Для этого предварительно первый сомножитель представим в виде двух слагаемых.

Общая схема МНК в случае автокорреляции первого порядка - student2.ru

Общая схема МНК в случае автокорреляции первого порядка - student2.ru . (3.97)

Произведение первого слагаемого и второго сомножителя равно 0 в силу того, что Общая схема МНК в случае автокорреляции первого порядка - student2.ru , т.е.

Общая схема МНК в случае автокорреляции первого порядка - student2.ru . (3.98)

Таким образом, если снова учесть, что Общая схема МНК в случае автокорреляции первого порядка - student2.ru независимы, то ковариация между Общая схема МНК в случае автокорреляции первого порядка - student2.ru и Общая схема МНК в случае автокорреляции первого порядка - student2.ru будет равна

Общая схема МНК в случае автокорреляции первого порядка - student2.ru

Общая схема МНК в случае автокорреляции первого порядка - student2.ru , (3.99)

где дисперсия определяется соотношением (3.96).

Мы получили представление о структуре ковариационной матрицы случайной составляющей модели с автокоррелированными остатками. Выражение (3.96) задает ее диагональные элементы, а (3.98) – внедиагональные элементы ковариационной матрицы.

Обобщая проведенные исследования, можно записать условия, в которых строится регрессионная модель с автокоррелированными остатками:

1. Спецификация Общая схема МНК в случае автокорреляции первого порядка - student2.ru .

2. Общая схема МНК в случае автокорреляции первого порядка - student2.ru – детерминированная матрица Общая схема МНК в случае автокорреляции первого порядка - student2.ru с рангом Общая схема МНК в случае автокорреляции первого порядка - student2.ru .

3а. Общая схема МНК в случае автокорреляции первого порядка - student2.ru . 3b. Общая схема МНК в случае автокорреляции первого порядка - student2.ru .

Для удобства изложения материала введем обозначение

Общая схема МНК в случае автокорреляции первого порядка - student2.ru . (3.100)

Матрица Общая схема МНК в случае автокорреляции первого порядка - student2.ru симметрична и положительно определена ( Общая схема МНК в случае автокорреляции первого порядка - student2.ru , Общая схема МНК в случае автокорреляции первого порядка - student2.ru -произвольный ненулевой вектор). Так как по определению коэффициент корреляции между остатками равен

Общая схема МНК в случае автокорреляции первого порядка - student2.ru , (3.101)

то можно сделать вывод о том, что в линейной модели с автокоррелированными остатками в такой математической форме реализована идея ослабления корреляционной связи между регрессионными остатками по мере их взаимного удаления во времени.

Так как в дальнейшем потребуется Общая схема МНК в случае автокорреляции первого порядка - student2.ru , то приведем ее общий вид

Общая схема МНК в случае автокорреляции первого порядка - student2.ru . (3.102)

Зная обратную матрицу (3.102), можно записать, используя схему обобщенного МНК, формулу для вычисления оптимальных оценок в классе несмещенных в следующем виде:

Общая схема МНК в случае автокорреляции первого порядка - student2.ru . (3.103)

Так как по условию Общая схема МНК в случае автокорреляции первого порядка - student2.ru симметрична и положительно определена, то и Общая схема МНК в случае автокорреляции первого порядка - student2.ru также симметрична и положительно определена. Следовательно, ее можно представить как

Общая схема МНК в случае автокорреляции первого порядка - student2.ru , (3.104)

где Общая схема МНК в случае автокорреляции первого порядка - student2.ru – диагональная матрица, на главной диагонали которой стоят собственные значения Общая схема МНК в случае автокорреляции первого порядка - student2.ru матрицы Общая схема МНК в случае автокорреляции первого порядка - student2.ru , а Общая схема МНК в случае автокорреляции первого порядка - student2.ru – ортогональная матрица, столбцы которой Общая схема МНК в случае автокорреляции первого порядка - student2.ru представляют собой собственные вектора Общая схема МНК в случае автокорреляции первого порядка - student2.ru , т.е. Общая схема МНК в случае автокорреляции первого порядка - student2.ru .

Поскольку Общая схема МНК в случае автокорреляции первого порядка - student2.ru положительно определенная матрица, ее собственные числа Общая схема МНК в случае автокорреляции первого порядка - student2.ru положительные и, следовательно, можно определить дробную степень Общая схема МНК в случае автокорреляции первого порядка - student2.ru в виде

Общая схема МНК в случае автокорреляции первого порядка - student2.ru , (3.105)

где Общая схема МНК в случае автокорреляции первого порядка - student2.ru – диагональная матрица с элементами Общая схема МНК в случае автокорреляции первого порядка - student2.ru по главной диагонали.

Введение дробной степени позволяет представить матрицу Общая схема МНК в случае автокорреляции первого порядка - student2.ru в виде произведения двух матриц

Общая схема МНК в случае автокорреляции первого порядка - student2.ru . (3.106)

Такое представление позволяет записать формулу обобщенного МНК в виде:

Общая схема МНК в случае автокорреляции первого порядка - student2.ru Общая схема МНК в случае автокорреляции первого порядка - student2.ru Общая схема МНК в случае автокорреляции первого порядка - student2.ru , (3.107)

где Общая схема МНК в случае автокорреляции первого порядка - student2.ru , Общая схема МНК в случае автокорреляции первого порядка - student2.ru .

Для рассматриваемого случая матрица Общая схема МНК в случае автокорреляции первого порядка - student2.ru может быть записана следующим образом:

Общая схема МНК в случае автокорреляции первого порядка - student2.ru . (3.108)

Преобразование данных с помощью этой матрицы приводит к следующим результатам:

Общая схема МНК в случае автокорреляции первого порядка - student2.ru ; (3.109)

Общая схема МНК в случае автокорреляции первого порядка - student2.ru . (3.110)

Таким образом, если известно, что между остатками наблюдается автокорреляция и известен параметр Общая схема МНК в случае автокорреляции первого порядка - student2.ru , то после преобразования данных в соответствии с (3.109), (3.110) для оценки параметров регрессии можно применить обычный МНК, который, по сути, является частным случаем обобщенной схемы МНК.

Следовательно, чтобы принять решение о методе построения регрессионного уравнения по данным временных рядов, необходимо сначала установить наличие автокорреляции в остатках, а затем получить оценку параметра Общая схема МНК в случае автокорреляции первого порядка - student2.ru .

Наши рекомендации