Свойства оценок на основе МНК

Существуют разные виды уравнений множественной регрессии: линейные и нелинейные.

Наиболее широкое применение получила линейная функция ввиду четкой интерпретации ее параметров.

В линейной множественной регрессии параметры при называются коэффициентами «чистой» регрессии и характеризуют среднее изменение признака-результата с изменением соответствующего признака-фактора на единицу при неизмененном значении других факторов, закрепленных на среднем уровне.

Следует рассмотреть линейную модель множественной регрессии, выраженную уравнением:

. (1.80)

Классический подход к оцениванию параметров линейной модели множественной регрессии основан на использовании метода наименьших квадратов (МНК), который позволяет получить такие оценки параметров, при которых сумма квадратов отклонений фактических значений результативного признака от расчетных минимальна .

Для нахождения экстремума функции нескольких переменных необходимо вычислить частные производные первого порядка по каждому из параметров и приравнять их к нулю.

Имеется функция аргумента:

.

После элементарных преобразований приходят к системе линейных нормальных уравнений для нахождения параметров линейного уравнения множественной регрессии (1.80):

(1.81)

Для двухфакторной модели данная система имеет вид:

Метод наименьших квадратов также применим к уравнению множественной регрессии в стандартизированном масштабе:

(1.82)

где - стандартизированные переменные: , , для которых среднее значение равно нулю: ,

а среднее квадратическое отклонение равно единице: ;

– стандартизированные коэффициенты регрессии.

Стандартизованные коэффициенты регрессии показывают на сколько единиц изменится в среднем результат, если соответствующий фактор изменится на одну единицу при неизменном среднем уровне других факторов. Стандартизованные коэффициенты регрессии можно сравнивать между собой для ранжирования факторов по силе их воздействия на признак-результат. В этом состоит основное достоинство стандартизованных коэффициентов регрессии в отличие от коэффициентов «чистой» регрессии, которые несравнимы между собой.

Применяя МНК к уравнению множественной регрессии в стандартизированном масштабе, получают систему нормальных уравнений вида:

(1.83)

где и – коэффициенты парной и межфакторной корреляции.

Коэффициенты «чистой» регрессии связаны со стандартизованными коэффициентами регрессии следующим образом:

. (1.84)

Поэтому можно переходить от уравнения регрессии в стандартизованном масштабе (1.82) к уравнению регрессии в натуральном масштабе переменных (1.80), при этом параметр определяется как .

Рассмотренный смысл стандартизованных коэффициентов регрессии позволяет их использовать при отсеве факторов – из модели исключаются факторы с наименьшим значением .

На основе линейного уравнения множественной регрессии вида:

(1.85)

могут быть найдены частные уравнения регрессии, которые связывают результативный признак с соответствующим фактором при закреплении остальных факторов на среднем уровне. В развернутом виде данную систему можно записать в виде:

(1.86)

При подстановке в данные уравнения средних значений соответствующих признаков-факторов они принимают вид парных уравнений линейной регрессии:

(1.87)

где

Частные уравнения регрессии в отличие от парной регрессии характеризуют изолированное влияние фактора на результат, т.к. другие факторные признаки закреплены на неизменном уровне. Эффекты влияния других факторов присоединены в них к свободному члену уравнения множественной регрессии. Это позволяет на основе частных уравнений регрессии определять частные коэффициенты эластичности:

, (1.88)

где – коэффициент регрессии для фактора в уравнении множественной регрессии,

– частное уравнение регрессии.

Наряду с частными коэффициентами эластичности могут быть найдены средние по совокупности показатели эластичности:

, (1.89)

которые показывают на сколько процентов в среднем изменится результат, при изменении соответствующего фактора на 1%. Средние показатели эластичности можно сравнивать друг с другом и соответственно ранжировать факторы по силе их воздействия на результат.