Проблемы спецификации регрессионной модели. Пошаговая регрессия

Под спецификацией понимается проблема выбора наиболее важных факторных переменных при построении модели регрессии. Свойства оценок коэффициентов регрессии в значительной мере зависят от правильности спецификации модели. Результаты неправильной спецификации переменных в уравнении могут быть в обобщенном виде выражены следующим образом.

1. Если опущена переменная, которая должна быть включена, то оценки коэффициентов регрессии, вообще говоря, хотя и не всегда, оказываются смещенными. Стандартные ошибки коэффициентов и со­ответствующие t-тесты в целом становятся некорректными.

2. Если включена переменная, которая не должна присутствовать в уравнении, то оценки коэффициентов регрессии будут несмещенными, однако, вообще говоря (хотя и не всегда), — неэффективными.
Стандартные ошибки будут в целом корректны, но из-за неэффективности регрессионных оценок они будут излишне большими.

ВЛИЯНИЕ ОТСУТСТВИЯ В УРАВНЕНИИ ПЕРЕМЕННОЙ, КОТОРАЯ ДОЛЖНА БЫТЬ ВКЛЮЧЕНА.

Проблема смещения

Предположим, что переменная у зависит от двух переменных х₁, и х₂ в соот­ветствии с соотношением:

однако вы не уверены в значимости х₂. Считая, что модель должна выглядеть как

вы оцениваете регрессию

и вычисляете b_l по формуле Cov (x_t , y)/D (x₁) вместо правильного выраже­ния. По определению, b₁, является несмещенной оценкой величины β₁ если M(b₁) равняется β_1. Практически, если первоначальная модель верна, то

Если опустить х₂ в регрессионном соотношении, то переменная x₁ будет играть двойную роль: отражать свое прямое влияние и заменять переменную х₂ в описании ее влияния. Данное кажущееся опосредо­ванное влияние величины х1, на у будет зависеть от двух факторов: от видимой способности х₁, имитировать поведение х₂ и от влияния величины х₂ на у.

Кажущаяся способность переменной x₁, объяснять поведение х₂ определя­ется коэффициентом наклона h в псевдорегрессии:

Величина h естественно, рассчитывается при помощи обычной формулы для парной регрессии, в данном случае Cov(x₁,x₂)/D (x₁). Влияние величины х₂, на у определяется коэффициентом β₂,. Таким образом, эффект имитации посред­ством величины β₂ может быть записан как β₂Соу (х₁, x₂)/D (х₁). Прямое влия­ние величины х₁, на у описывается с помощью β₁. Таким образом, при оценива­нии регрессионной зависимости у от переменной х₁, (без включения в нее пере­менной х₂) коэффициент при х₁, определяется формулой:

b₁+ b₂,Cov (x₁, x₂)/D (х₁) + Ошибка выборки.

При условии, что величина х, не является стохастической, ожидаемым зна­чением коэффициента будет сумма первых двух членов этой формулы. Присут­ствие второго слагаемого предполагает, что математическое ожидание коэффи­циента будет отличаться от истинной величины β₁, другими словами, оценка будет смещенной.

Таким образом, β₁ смещена на величи­ну, равную β₂Cov (x₁, x₂)/D (x₁). Направление смещения будет зависеть от знака величин β₂ и Cov(x₁,x₂). Например, если β₂ положительна, а также положи­тельна ковариация, то смещение будет положительным, а b₁ будет в среднем давать завышенные оценки β₁,. Самостоятельно вы можете рассмотреть и другие случаи.

Есть, однако, один исключительный случай, когда оценка β₁ остается не­смещенной. Это случается, когда выборочная ковариация между х₁, и х₂ в точ­ности равняется нулю. Если Cov (х₁, x₂) = 0, то смещение исчезает. Действитель­но, коэффициент, полученный с использованием парной регрессии, будет точно таким же, как если бы вы оценили правильно специфицированную мно­жественную регрессию. Конечно, величина смещения здесь равнялась бы нулю и при β₂ = 0, но в этом случае неправильной спецификации не возникает.