Парная линейная регрессия

Основные понятия эконометрики.

Вопросы:

7. Определение эконометрики и ее задачи.

8. Типы данных.

9. Терминология

10. Классификация экономических моделей.

11. Этапы экономического моделирования.

12. Виды зависимостей.

1.

Эконометрика – это наука, изучающая количественные закономерности и взаимосвязи в экономике.

Она зародилась и получила свое развитие на основе слияния экономической теории, математической экономики, экономической и математической статистики. В современной эконометрике широко используются информатика, статистические пакеты прикладных программ.

Объект – экономика, различные экономические явления и взаимосвязи.

Предмет – их количественные характеристики.

Задачи: 1. построение эконометрических моделей и оценивание их параметров.

2. проверка гипотез, о свойствах показателей и формах их связей.

Эконометрический анализ - основа для экономического анализа и прогнозирования.

2.

Эконометрика базируется на реальных экономических данных.

2 типа данных:

1. пространственные данные – данные о каком-либо экономическом показателе, полученные от однотипных объектов и относящиеся к одному моменту (периоду времени). Модели, построенные по пространственным данным, называются пространственными моделями.

2. временные ряды – данные об экономическом показателе, характеризующем какой-либо объект в различные моменты времени. Модели, построенные на временных рядах , называются моделями временных рядов.

3.

Исследуемый экономический показатель называют результативным, объясняемым, зависимым экономическим показателем. Соответствующую переменную – объясняемой или зависимой. Экономические показатели, воздействие которых на исследуемый экономический показатель изучается, называют факторами, объясняющими или независимыми показателями (переменными).

4.

В эконометрике выделяют следующие основные 3 класса моделей:

1. Модели временных рядов:

1. Модели тренда (описывают устойчивые изменения экономического показателя в течение длительного времени).

2. Модели сезонности (описывают устойчивые внутригодовые колебания).

3. Модели авторегрессии (в них описываются влияния значения объясняемого экономического показателя в прошедший момент времени на его значение в текущий момент времени).

2. Регрессионные модели с одним уравнением. В них объясняемый экономический показатель представляется в виде функции от объясняющих экономических показателей (факторов). В зависимости от вида функции эти модели бывают: линейные и нелинейные.

3. Системы одновременных уравнений – это системы регрессионных уравнений, в которых в качестве объясняющих переменных используются объясняемые переменные из других уравнений системы.

5.

1 этап: постановочный. Формулируется цель исследования. Целью может служить анализ возможного развития экономического явления, прогноз экономических показателей, выработка на этой основе управленческих решений).

2 этап: априорный. Проводится анализ связей экономических переменных, выделяются зависимые и независимые переменные.

3 этап: информационный. Осуществляется сбор необходимой статистической информации о значениях экономических переменных.

4 этап: спецификация моделей. Для описания выявленных между экономическими показателями связей, подбирается математическая функция.

5 этап: параметризация. На основе собранных статистических данных об экономических переменных оцениваются параметры (коэффициенты) математических функций.

6 этап: верификация. Проводится проверка адекватности модели, т.е. насколько построенная модель соответствует реальному экономическому явлению.

6.

Все зависимости между экономическими переменными можно разделить на 2 вида:

1. Функциональные. Если каждому значению независимой переменной или нескольким независимых переменных соответствует одно строго определенное значение зависимой переменной, то такая зависимость называется функциональной. В ней отсутствует воздействие случайных факторов, поэтому в экономике функциональная зависимость встречается редко.

2. Статистические. В экономике каждому значению независимых переменных может соответствовать несколько значений зависимой переменной в зависимости от воздействия неучтенных и случайных факторов. Например, пусть исследуется зависимость прибыли предприятия от объема производства и цены за единицу продукции. При одном и том же объеме производства и цене за единицу продукции прибыль предприятия может быть различна, т.к. на нее воздействуют множество других факторов, в том числе случайных.

Зависимость между переменными, на которую накладывается воздействие случайных факторов, называется статистической. Для нее характерно то, что изменение независимой переменной приводит к изменению математического ожидания зависимой переменной. Уравнение регрессии – математическая формула, описывающая статистическую зависимость между переменными. Если формула описывается линейной функцией, то регрессия называется линейной. Если нелинейной функцией – нелинейной регрессией. Если регрессия связывает одну зависимую и одну независимую переменную, то такая регрессия называется парной (простой). Если рассматривается зависимость экономической переменной от нескольких экономических переменных, то такая регрессия называется множественной.

Тема 2:

Парная линейная регрессия

Вопросы:

14. Истинное и выборочное уравнения регрессии.

15. Метод наименьших квадратов.

16. Геометрическая интерпретация метода наименьших квадратов.

17. Экономическая интерпретация коэффициентов парной линейной регрессии.

18. Основные предпосылки регрессионного анализа. Теорема Гаусса-Маркова.

19. Расчет стандартных ошибок коэффициентов регрессии.

20. Проверка значимости коэффициентов регрессии.

21. Построение доверительных интервалов для параметров теоретической регрессии.

22. Проверка общего качества уровня регрессии. Коэффициент детерминации.

23. Проверка значимости коэффициента детерминации.

24. Оценка тесноты связи между переменными. Коэффициент корреляции.

25. Проверка значимости коэффициента корреляции.

26. Прогнозирование.

1.

Пусть исследуется статистическая зависимость экономического показателя У (объясняемая зависимая переменная) от экономического показателя Х (фактора, объясняющей или независимой переменной). Предположим, что зависимость носит линейный характер, тогда ее можно описать уравнением.

У= + Х+Е (1),

где Х – неслучайная величина, У и Е – случайные величины.

Случайная величина Е отражает воздействие на зависимую переменную У неучтенных и случайных факторов и называется ошибкой регрессии. Уравнение (1) называют истинным (теоретическим) уравнением регрессии или линейной регрессионной моделью. На основе реальных статистических данных об экономических показателях Х и У (выборке данных из генеральной совокупности) оцениваются параметры регрессии α и β и строится выборочное уравнение регрессии

, (2)

а, в, - коэффициенты регрессии. Уравнение (2) называют еще эмпирическим уравнением регрессии.

Одним из методов нахождения коэффициентов регрессии а и в является метод наименьших квадратов (МНК).

2.

Пусть из генеральной совокупности выбраны данные об экономических показателях У: ( у , у , …, у ) и Х: ( х , х ,…, х ) . Если в (2) подставить наблюдаемое (выборочное значение х_i, то получим расчетное значение зависимой переменной у:

(3)

Разность между фактическими и расчетными значениями зависимой переменной обозначим e_i и назовем остатком, т.е.:

(4)

Суть МНК заключается в следующем: коэффициенты а и в должны быть такими, чтобы сумма квадратов остатков была минимальна

(5)

в (5) у_i и x_i – известные величины, а а и в – неизвестные.

Запишем необходимые условия экстремума функции S относительно а и в:

(6)

Система (6) является системой двух уравнений относительно двух неизвестных а и в. Она легко преобразовывается в систему (7):

(7)

Разделим оба уравнения системы на n:

(8)

3.

начертим оси координат Х ,У и изобразим в первой четверти точки (х_i,у_i)

Полученное изображение называется диаграммой рассеяния или полем корреляции.

Проведем линию регрессии

Согласно МНК, а и в должны быть такими, чтобы построенная линия была ближайшей к точкам поля корреляции по их совокупности.

Сумма квадратов расстояний от точек поля корреляции до линии регрессии должна быть минимальной.

Пример1: исследуется зависимость прибыли предприятия от затрат на приобретение нового оборудования и техники. Собранны статистические данные по пяти однотипным предприятиям. Данные в млн. ден.ед. представлены в таблице 1.

Таблица 1

№ предприятия	Затраты на новое оборудование, хi	Прибыль, уi

Построить уравнение регрессии.

Данные таблицы представим графически, т.е. построим поле корреляции:

Из полученной диаграммы рассеяния видно, что зависимость статистическая и ее можно представить линейной регрессией . Для оценки коэффициентов регрессии а и в воспользуемся формулами (8), для этого построим рабочую таблицу 2.

Таблица2

е нового оборудования и техники. в была минимальна

№ предприятия
Итого:
Среднее				84,8	57,2

Подставим результаты, полученные в таблице 2 в формулы (8): испр.

Таким образом, уравнение регрессии, описывающее зависимость прибыли предприятия от затрат на новое оборудование и технику имеет вид:

Выбрав с помощью диаграммы рассеяния для описания зависимости линейную регрессию мы выполнили этап спецификации (подбора функции), а рассчитав коэффициенты а и в, т.е. оценив параметры теоретической регрессии, мы выполнили этап параметризации.

4.

Коэффициент парной линейной регрессии в показывает, как в среднем изменяется зависимый экономический показатель у с изменением независимого фактора х на единицу. Так в примере 1 коэффициент в=0,775 показывает, что при увеличении расходов на приобретение нового оборудования и техники на 1 ден.ед. прибыль предприятия в среднем увеличится на 0,775 ден. ед.

Коэффициент а парной линейной регрессии экономического смысла не имеет.

5.

Для того, чтобы оценки параметров теоретической регрессии, полученные на основе МНК были лучшими по сравнению с оценками, найденными с помощью других методов, должны выполнятся определенные условия, которые называются основными предпосылками регрессионного анализа.

Для того, чтобы их сформулировать, вспомним что теоретическая регрессия описывается уравнением

,

или для i-го наблюдения

Предпосылки:

1. Математическое ожидание случайного члена ε в любом наблюдении должно быть равно 0:

2. Дисперсия случайного члена ε должна быть постоянной для всех наблюдений:

3. Случайные члены должны быть статистически независимы друг от друга:

4. Объясняющая переменная х_i – неслучайная величина

Теорема Гаусса-Маркова:

Если выполняются предпосылки 1-4 регрессионного анализа, то оценки параметров теоретической регрессии а и в есть наилучшие линейные оценки, обладающие следующими свойствами:

1. Они являются несмещенными:

2. Они являются эффективными, т.е. имеют наименьшую дисперсию в классе всех несмещенных оценок.

(9)

3. Они являются состоятельными, т.е.

Это значит, что при достаточно большом объеме выборки n, оценки а и в близки к истинным параметрам линейной регрессионной модели α и β.

6.

Для расчета дисперсий D(a) и D(в) коэффициентов регрессии а и в в формулах (9) использовалась дисперсия σ² случайного члена ε. Эта дисперсия неизвестна, но ее можно оценить, используя выборочные данные. Можно доказать, что несмещенной оценкой дисперсии σ² является величина S², где:

(10)

Величина S называется стандартной ошибкой регрессии. Она служит мерой разброса зависимой переменной около линии регрессии. Запишем в формулах (9) дисперсию σ² ее оценкой S²:

(11)

и называют оценками дисперсии коэффициентов регрессии, а величина Sa и Sв – стандартными ошибками коэффициентов регрессии. Они используются для построения доверительных интервалов, которым принадлежат параметры истинной регрессии и для проверки значимости коэффициентов регрессии.

Вернемся в Примеру 1 и рассчитаем стандартные ошибки коэффициентов регрессии:

7.

Коэффициента регрессии получены на основании выборочных данных, отобранных случайным образом. Следовательно, коэффициенты регрессии а и в являются случайными числами и их значение может быть лишь случайно оказались отличными от нуля. Поэтому проводят проверку значимости коэффициентов регрессии, т.е. проверку того, значимо ли они отличны от нуля. Для этого используют процедуру проверку гипотез. Проверим значимость коэффициента в. Для этого:

1. Сформулируем гипотезу Н₀:

.

Она состоит в том, что истинный коэффициент β=0,

2. В качестве критерия проверки гипотезы принимают случайную величину t:

. (12)

Эта случайная величина имеет распределение Стьюдента с ν = n-2 степенями свободы. Подставим в формулу (12) оцененное по выборке значение коэффициента в и его стандартную ошибку Sв, получим наблюдаемое или расчетное значение t-критерия t_расч.

3. Выбирают уровень значимости проверки гипотезы. Как правило α= 0,05 или α=0,01, т.е. пятипроцентный или однопроцентный уровень значимости.

4. По таблице распределения Стьюдента для выборочного уровня значимости α/2 и ν = n-2 находят t _кр. (критическое).

5. Если | t_расч.| > t _кр., то гипотеза Н₀ о равенстве параметра β=0 отвергается, параметр β существенно отличен от нуля, коэффициент в значим, а переменная х оказывает существенное влияние на зависимую у (Н₀ считается неверной с вероятностью 1- α)

6. Если | t_расч.| < t _кр., гипотеза Н₀ принимается, коэффициент в незначим и переменная х не оказывает существенного влияния на зависимую переменную у.

Замечание: аналогично проверяется значимость коэффициента а в уравнении регрессии, однако проверка значимости коэффициента в имеет гораздо большее значение в регрессионном анализе.

Вернемся в примеру 1 и проверим значимость коэффициента в. Зависимость прибыли предприятия от расходов на новое оборудование и технику описывается регрессией:

(1,65) (0,143).

1. Формулируем гипотезу Н₀, состоящую в том, что истинный коэффициент β=0, .

2. Определим t_расч.

.

3. Выбираем уровень значимости проверки гипотезы

α= 0,05.

4. По таблице распределения Стьюдента для α/2=0,025 и числа степеней свободы

ν = 5-2=3

определим t _кр. = 3,182.

5. | t_расч.|=5,4 > t _кр.=3,182, поэтому гипотеза Н₀ не верна с вероятностью

1-α= 1-0,05 = 0,95, параметр β существенно отличен от нуля, коэффициент в значим и затраты на новое оборудование и технику оказывают существенное влияние на прибыль предприятия.

8.

Вспомним, что линейная регрессионная модель (истинная или теоретическая регрессия) имеет вид:

(13)

На основании выборки строится выборочное уравнение регрессии:

Также на основании выборки рассчитывается стандартные ошибки регрессии Sa и Sв.

Можно доказать, что с вероятностью 1-α (α – выбранный уровень значимости) значения параметра β лежат внутри интервала:

(14)

и с вероятностью 1-α (α – выбранный уровень значимости) значение параметра α истинной регрессии лежит внутри интервала:

(15)

Вернемся к Примеру 1 и построим доверительный интервал для параметра β в регрессионной модели, описывающей зависимость прибыли предприятия от затрат на новое оборудование и технику. Выберем уровень значимости α= 0,05. т.к. в данном примере ν = 5-2=3 , то t _кр. = 3,182, в = 0,775,

Тогда с вероятностью 1-α= 1-0,05 = 0,95 параметр β истинной регрессии попадает в интервал

или 0,32<b<1,23 с вероятностью 95%.

9.

Выборочное уравнение регрессии имеет вид:

тогда

Рассчитаем выборочную дисперсию (вариацию) Var(y):

.

Из основных предпосылок регрессионного анализа следует, что , следовательно

т.е. дисперсия зависимой переменной у (Var(y)) распадается на 2 части:

- часть, объясняемая уравнением регрессии, и часть - необъяснимая часть, зависящая от неученых и случайных факторов.

Коэффициентом детерминации называют отношение R²:

, (16)

которое характеризует долю вариации зависимой переменной, объясненную уравнением регрессии. Из (16) следует что R² меняется от 0 до 1:

,

чем ближе R² к единице, тем меньше , т.е. доля вариации зависимой переменной, объясняемая случайными и неучеными факторами, тем лучше качество уравнения регрессии. Если =0, то R²=1, имеем функциональную зависимость. Чем ближе R² к 0, тем больше , т.е. больше доля вариации, объясненная случайными и неучеными факторами, тем хуже качество регрессии. Т.к.

(17)

Вернемся к примеру 1, можно посчитать, что:

Коэффициент детерминации близок к 1, качество регрессии хорошее.

Можно утверждать, что вариация (изменчивость) прибыли предприятия на 90,7% объясняется затратами на новое оборудование и технику и на 9,3% - прочими неучтенными и случайными факторами.

10.

Т.к. R² оценивается на основании выборочных данных, то его отличие от 0 может оказаться случайным. Поэтому проводят проверку его значимости:

1. Формулируется гипотеза Н⁰: R²=0, состоящая в том, что истинный коэффициент детерминации равен 0.

2. В качестве критерия проверки гипотезы применяют случайную величину F:

. (18)

Величина F имеет распределение Фишера с двумя степенями свободы ν₁=1, ν₂=n-2.

3. Выберем уровень значимости проверки гипотезы значимости:

.

4. На основании α, ν_1, ν₂ в таблице распределения Фишера выбираем F_кр. (критическое)

5. Сравниваем F_расч и F_кр.. если F_расч > F_кр., то с вероятностью 1-α гипотезу Н₀ считаем неверной, т.е. истинный коэффициент детерминации существенно отличен от нуля, уравнение регрессии значимо и переменные, включенные в уравнение регрессии достаточно объясняют поведение зависимой переменной. Если F_расч < F_кр., то принимаемая гипотеза Н₀, уравнение регрессии считается незначимым.

Проверим значимость коэффициента детерминации в примере 1:

1. Формулируем гипотезу Н₀: R²=0.

2. Находим F_расч.. В (18) подставим значение коэффициента детерминации, оцененное по выборке:

.

3.Выбираем уровень значимости α=0,005.

4. В таблице распределения Фишера на основании α=0,05 и для степеней свободы ν₁=1, ν₂ =5-2=3 найдем F_кр.

.

6. F_расч =29,2> F_кр.=10,13, поэтому Н₀ не верна в вероятностью 1-0,05=0,95, коэффициент детерминации значим, значимо построенное в Примере 1 уравнение регрессии.

11.

Уравнение регрессии всегда дополняется показателем тесноты связи между переменными. При использовании линейной регрессии в качестве такого показателя выступает линейный коэффициент корреляции:

, (19)

r_xy – безразмерная величина, показывает степень линейной зависимости между переменными. Чем ближе r_xy к ±1, тем сильнее линейная зависимость. Чем ближе r_xy к 0, тем линейная зависимость слабее. Если r_xy = ±1, то имеет место функциональная линейная зависимость. Если r_xy = 0, то линейная зависимость отсутствует. Если r_xy >0, то связь между переменными положительная, если r_xy <0 – отрицательная.

Рассчитаем коэффициент корреляции в примере 1:

r_xy >0 и близок к 1 следовательно линейная зависимость между прибылью предприятия и затратами на новое оборудование – положительная и тесная.

12.

Осуществляется аналогично проверки значимости коэффициентов регрессии и детерминации, используется t-статистика:

(20)

Проведем проверку значимости коэффициента корреляции в примере 1:

1. Формулируем гипотезу, состоящую в том, что истинный коэффициент корреляции равен нулю:

.

2. Подставим значение коэффициента корреляции, вычисленное по выборке в (20):

3. Выбираем уровень значимости α=0,05.

4. Для α/2=0,025 и для ν=n-2=3 в таблице распределения Стьюдента находим t_кр.:

Следовательно, истинный коэффициент корреляции существенно отличен от 0, линейная зависимость между прибылью предприятия и затратами на новое оборудование и технику действительно тесная..

Замечание 1:

В парном линейном регрессионном анализе проверка значимости коэффициента в, коэффициента корреляции и коэффициента детерминации являются эквивалентными.

Замечание 2:

Легко показать, что коэффициент детерминации равен квадрату коэффициента корреляции, ,

13.

Прогнозирование на основе эконометрических моделей является одной из основных задач эконометрики.

Под прогнозированием в эконометрике понимают построение оценки зависимой переменной для таких значений независимых переменных, которых нет в исходных наблюдениях.

Различают точечное прогнозирование и интервальное.

.

Точечный прогноз это число, значение зависимой переменной, вычисляемое для заданных значений независимых переменных.

Интервальный прогноз это интервал, в котором с заданным уровнем значимости ( с заданной вероятностью) находится истинное значение зависимой переменной для заданных значений независимых переменных.

Рассмотрим парную линейную регрессионную модель и соответствующее выборочное уравнение регрессии . Обозначим через у_р истинное значение переменной у для заданного значения независимой переменной х_р, т.е. .

Точечным прогнозом для у_р является , т.е. чтобы получить точечный прогноз нужно в построенное уравнение регрессии подставить заданное значение независимой переменной.

Ошибкой предсказания ( ) называют разность между прогнозным и истинным значениями независимой переменной.

Можно доказать, что дисперсия ошибки предсказания

. (21)

Из (21) следует, что чем ближе заданное значение независимой переменной к тем меньше дисперсия прогноза и чем больше объем выборки n, тем меньше дисперсия прогноза.

Заменив в (21) дисперсию на ее оценку , извлечем, квадратный корень и получим стандартную ошибку предсказания .

(22)

Выберем уровень значимости α и по таблице распределения Стьюдента найдем t_кр. Тогда с вероятностью 1- α истинное значение переменной у_р будет находится внутри интервала:

(23)

Очевидно, что чем ближе к и чем больше n, тем уже доверительный интервал (тем точнее прогноз). Это надо учитывать, выбирая прогнозные значения для независимой переменной.

Вернемся в Примеру 1 и найдем точечный и интервальный прогнозы для прибыли предприятия для затрат на новое оборудование и технику в размере 20 млн. денежных единиц.

Вывод: с вероятностью 0,95 истинное значение прибыли попадет в полученный интервал.

Тема 3:

Нелинейная регрессия.

Вопросы:

5. Регрессии, нелинейные по переменным.

6. Регрессии, нелинейные по параметрам.

7. Индекс корреляции и индекс детерминации.

8. Эластичность функции.

Многие экономические зависимости не являются линейными по своей сути и их моделирование линейными регрессиями не дает положительного результата. Так для описания зависимости спроса на некоторый товар от его цены наиболее целесообразно использовать логарифмическую модель. При анализе зависимостей издержек от объема выпуска наиболее обоснованной является полиномиальная модель. Широко используемая функция Кобба-Дугласа, является степенной функцией

У – объем выпуска.

К-затраты капитала.

L - затраты труда.

А, α, β – параметры.

В современной экономике применяются также достаточно часто обратные и экспоненциальные модели. Различают регрессии нелинейные по переменным и нелинейные по параметрам.

1.

К регрессиям, нелинейным по переменным относят полиномы различных степеней.:

(1)

, (2)

равносторонняя гипербола , (3)

функции вида (4)

Нелинейность по переменным устраняется путем замены переменной. Так в регрессии (1) сделаем замену х=х₁, х²=х₂ и получим двухфакторную линейную регрессию.

В уравнении (3) замена переменной имеет вид: , а в (4) - .

Применение метода МНК для оценки коэффициентов соответствующих выборочной регрессии приводит к следующим системам уравнений. Для регрессии (!):

(5).

Для равносторонней гиперболы система уравнений имеет вид:

(6)

Для уравнения (4):

(7)

Приведем некоторые примеры использования уравнений (1-4) в экономике:

1. Полином третьей степени уравнения (2) часто моделирует зависимость общих издержек У от объема выпуска Х. график имеет вид:

2. Полином второй степени (уравнение (1)) парабола может описать зависимость между объемом выпуска Х и средними (либо предельными) издержками У

3. Гипербола (3) (обратная модель) применяется в тех случаях, когда неограниченное увеличение объясняющей переменной Х асимптотически приближает зависимую переменную У к некоторому пределу. Если а и в - оценки параметров гиперболы соответственно, то в зависимости знаков а и в возможны следующие ситуации:

рис.1 рис.2 рис.3

График на рисунке 1 может отражать зависимость между объемом выпуска Х и средними фиксированными издержками У. график на рисунке 2 может описывать зависимость между доходом Х и спросом на блага У. Такие функции называются функциями Тронквиста. Важным приложением графика на рисунке 3 является кривая Филипса, отражающая зависимость между уровнем безработицы Х (%) и процентным изменением заработной платы У.

4. Уравнения с квадратными корнями (4) использовались в исследовании урожайности и трудоемкости с/х производства.

Пример 1:

На основании информации о норме безработицы и темпах инфляции (таблица 1) построить :

1. диаграмму рассеяния.

2. уравнение регрессии, описывающее зависимость темпов инфляции от нормы безработицы.

Таблица 1