Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях

Для изучения сложных социально-экономических систем возможно использование методов факторного анализа, так как они позволяют одновременно сократить размерность признакового пространства и вскрыть скрытые причинно-следственные связи.

Использование факторного анализа дает следующие преимущества:

· Снижение признакового пространства, Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru ;

· Лучшая интерпретация результатов исследования;

· Выявление и анализ структуры изучаемого процесса;

· Сжатия большого массива информации без потери содержательного наполнения признаков.

Общий вид модели факторного анализа:

Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru

где z – вектор стандартизированных элементарных признаков;

f – вектор общих факторов размерности k < m,

W – матрица факторных нагрузок размерности k*m;

u – характерность.

В отличие от МГК в общем случае при использовании факторного анализа не утверждается, что наблюдаемые признаки могут быть однозначно вычислены (без потери информации) по значениям общих факторов f. Остаток, не объясненный общими факторами, называется характерностью (u) и интерпретируется как влияние специфичных для каждого признака факторов и случайных ошибок.

Для определения коэффициентов модели факторного анализа вычисляем ковариационные матрицы левой и правой частей векторного уравнения (1):

Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru

Для упрощения данного выражения используются основные предположения факторного анализа:

1) Общие факторы стандартизированы и декоррелированы Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru является единичной матрицей;

2) Характерные и общие факторы независимы Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru ;

3) Характерные факторы декоррелированы Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru ковариационная матрица Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru является диагональной

Тогда уравнение для ковариаций преобразуется к компактному виду:

Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru

где R – корреляционная матрица элементарных признаков,

Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru - редуцированная корреляционная матрица (т.к. матрица U – диагональная, то элементы матрицы Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru вне диагонали равны соответствующим элементам матрицы R)

Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru

Диагональные элементы редуцированной матрицы Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru называются общностями и обозначаются как Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru . Качественно общность обозначает вклад общих факторов в полную дисперсию признака: Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru . Остаток Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru – характерность.

Основными подходами к определению общностей являются:

· Метод наибольшей корреляции

Мощности Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru присваивается наибольшее значение элемента столбца (строки) матрицы R кроме диагонального элемента матрицы R, равного единицы

Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru

· Метод триад используется, когда матрица частных корреляций сильно отличается от матрицы парных корреляций (R)

При данном методе в j-й строке (столбце) матрицы R отыскиваются 2 наибольших значения коэффициентов корреляции Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru и Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru и составляется триада

Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru

если вдруг Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru , тогда ставим значение = 1

· Метод малого центроида

На главной диагонали матрицы R ставятся наибольшие коэффициенты корреляции каждой строки (столбца). По новой матрице вычисляется отношение квадрата суммы элементов соответствующей строки (столбца) к сумме всех элементов матрицы:

Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru

Цель расчета Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru – методы направлены на увеличение относительного веса в факторной структуре признаков с сильными корреляционными связями и уменьшение связи слабо коррелируемых признаков.

Следующим шагом факторного анализа является определение факторных нагрузок:

Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru

В отличие от метода главных компонент общая модель факторного анализа имеет неоднозначное решение. Это обусловлено двумя причинами:

1. Свобода выбора характерности при нахождении редуцированной корреляционной матрицы Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru ;

2. Число общих факторов не определено.

Наиболее распространёнными методами решения являются:

· Метод главных факторов;

· Метод наименьших квадратов;

· Обобщенный метод наименьших квадратов;

· Метод максимального правдоподобия Лоули.

Общая схема факторного анализа:

Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru

1. Нормировка признакового пространства.

Признаки z получены из х центрированием или стандартизацией. В некоторых случаях нормировка признаков нежелательна или приводит к неудовлетворительным результатам (к примеру, не следует нормировать данные по психологическим опросам). Для того чтобы перейти к безразмерным переменным, удобно провести центрирование либо стандартизация исходных показателей:

· Центрирование: Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru , где Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru – среднее значение j-го признака, Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru – исходное значение j-го признака на i-том объекте исследования

Стандартизация: Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru , где Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru – нормированное значение j-го признака на i-том объекте исследования (безразмерная, обезличенная величина), Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru - среднее квадратическое отклонение j-го признака, которое рассчитывается:

Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru

2. Вычисление корреляционной матрицы Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru , состоящей из парных коэффициентов корреляции, рассчитываемых по формуле:

Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru

3. Вычисление редуцированной матрицы Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru ;

4. Вычисление факторного отображения;

5. Вращение факторного пространства

В случае если в структуре факторного отображения нельзя выделить доминирующие факторы, затрудняется интерпретация факторного пространства. Сложная структура матрицы факторных нагрузок усложняет процесс управления явлением путем воздействия на отдельные факторы, так как фактор может равномерно влиять на все признаки. Однако эта проблема может быть устранена при вращении факторного пространства.

Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru

Формально вращение можно представить в виде разложения матрицы факторных нагрузок:

Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru

где Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru – матрица перехода к новым факторам размера k*k;

Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru – матрица факторных нагрузок после вращения.

Если накладывается ограничение, что матрица C – ортогональна, то преобразование факторного пространства называется ортогональным вращением. Если матрица переходов не является ортогональной, то преобразование называется косоугольным вращением. Факторные нагрузки при косоугольном вращении могут быть >1. Выбираем угол поворота (х – угол):

Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru – если 2 общих фактора

Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru

Оценка качества моделей факторного анализа

Большинство методов факторного анализа (за исключением метода макс. правдоподобия Лоули и канонического факторного анализа РАО) не являются статистическими в строгом смысле, так как для них не разработаны способы обобщения выборочных результатов на генеральную совокупность.

Зачастую вопрос о значимости факторных нагрузок решается с помощью эмпирических порогов значимости: если факторная нагрузка Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru , то связь между признаком i и фактором j признается значимой.

Однако возможно оценивать отдельные элементы и предпосылки факторного анализа:

· Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru -критерий Уилкса

Оценивает значимость матрицы парных корреляций R

H0: матрица парных корреляций R значима с уровнем доверительной вероятности α;

H1: матрица парных корреляций R не значима с уровнем доверительной вероятности α.

Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru

Расчетное значение критерия Уилкса сравнивается с квантилями Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru -распределения с

Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru степенями свободы при заданном уровне значимости α.

При Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru принимается гипотеза H0, то есть матрица парных корреляций признается статистически значимой с доверительной вероятностью α.

· Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru -критерий Лоули

Определяет достаточность выделенных факторов

Статистика критерия Лоули вычисляется как:

Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru

где Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru – восстановленная корреляционная матрица.

Расчетное значение критерия Лоули сравнивается с квантилями Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru -распределения с

Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru степенями свободы при заданном уровне значимости α.

При Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru принимается гипотеза H0, то есть количество выделенных факторов является достаточным с доверительной вероятностью α.

· Подход Хармана

Дает общую оценку качества факторного решения

При подходе Хармана используется следующий индикатор:

Вопрос 25. Модель факторного анализа, критерии качества структуры модели. Использование результатов факторного анализа в регрессионных моделях - student2.ru

Данный индикатор является эмпирическим и не имеет эталонного распределения. Среди нескольких факторных моделей предпочтение отдается модели с наименьшим H.

Использование результатов факторного анализа в регрессионных моделях

Исторически метод главных факторов в экономических исследованиях применялся для улучшения результатов регрессионного анализа. В случае мультиколлинеарности признаков переход от наблюдаемых признаков к некоррелированым факторам позволяет улучшить качество регрессионной модели.

Из установочной лекции Тихомировой:

Мультиколлинеарность в многофакторной регрессии, переходим к модели факторного анализа. Строим общие факторы и с ними формируем новую множественную регрессию. Стоит отметить, что в отличие от метода главных компонент, в новой многофакторной регрессии на общих факторах изменится, во-первых, R2 модели, а, во-вторых, ошибка модели E. Изменение величины остатков модели происходит из-за того, что есть ошибка в изначальной регрессионной модели, а также есть ошибка в факторной модели (характерность)!


Наши рекомендации