Применение обобщенного метода наименьших квадратов (ОМНК) для случая гетероскедастичности остатков

При нарушении гомо-сти и наличии автокорреляции ошибок рекомендуется традиционный МНК заменять обобщенным методом.

ОМНК применяется к преобразованным данным и позволяет получать оценки, которые обладают не только свойством несмещенности, но и имеют меньшие выборочные дисперсии. Остановимся на использовании ОМНК для корректировки гетероскедастичности.

Пусть среднее значение остаточных величин равно нулю. А вот дисперсия их не остается неизменной для разных значений фактора, а пропорциональна величине K_i , т. е.: σ²_εi =σ² *K i , где σ²_εi – дисперсия ошибки при конкретном i -м значении фактора; σ²– постоянная дисперсия ошибки при соблюдении предпосылки о гомо-сти остатков; K_i – коэффициент пропорциональности, меняющийся с изменением величины фактора, что и обусловливает неоднородность дисперсии. При этом предполагается, что σ² неизвестна, а в отношении величин K_i выдвигаются определенные гипотезы, характеризующие структуру гетеро-сти.

В общем виде для уравнения y_i =a+bx_i +ε_i при σ²_εi =σ² *K i модель примет вид: y_i =a+bx_i + _iε_i. В ней остаточные величины гетеро-ны. Предполагая в них отсутствие автокорреляции, можно перейти к уравнению с гомо-ми остатками, поделив все переменные, зафиксированные в ходе i -го наблюдения, на _i. Тогда дисперсия остатков будет величиной постоянной, т. е. σ²_εi =σ². Иными словами, от регрессии y по x мы перейдем к регрессии на новых переменных: y/ и x/ . Уравнение регрессии примет вид:

,

а исходные данные для данного уравнения будут иметь вид:

По отношению к обычной регрессии уравнение с новыми, преобразованными переменными представляет собой взвешенную регрессию, в которой переменные y и x взяты с весами 1/ . Оценка параметров нового уравнения с преобразованными переменными приводит к взвешенному МНК, для которого необходимо минимизировать сумму квадратов отклонений вида:

Соответственно получим следующую систему нормальных уравнений:

Если преобразованные переменные x и y взять в отклонениях от средних уровней, то коэффициент регрессии b можно определить как:

При обычном применении МНК к уравнению линейной регрессии для переменных в отклонениях от средних уровней коэффициент регрессии b определяется по формуле:

Как видим, при использовании ОМНК с целью корректировки гетероскедастичности коэффициент регрессии b представляет собой взвешенную величину по отношению к обычному МНК с весом 1/K .

Аналогичный подход возможен не только для уравнения парной, но и для множественной регрессии.