Почему статистический прогноз вызывает сопротивление? 4 страница
В истории развития концепции валидности можно проследить, что становилось основным предметом рассмотрения в тот или иной период и каким образом аккумулировались требования. Первый акцент был сделан на предсказании поведения. Вначале доминировал прагматический, а не теоретический интерес (Angoff, 1988). Интересовали задачи, пригодные для тех или иных профессий. Это стало отправной точкой как при разработке тестов, так и при определении критериев. Критерий необходимо определить объективно, и тесты должны быть стандартизованы. Для применения в образовании были разработаны критериально-ориентированные тесты. Следующий акцент был сделан на развитии понятия конструктной валидности. Ан-гофф (1988) назвал это понятие изобретением «магического средства».
Развитие концепций валидности сопровождалось совершенствованием статистических методов, что в свою очередь оказывало влияние и на становление понятия валидности. Хорошо известный пример — это многометодная матрица свойств Кэмпбелла и Фиске (1959). Оценивалась валид-ность изучения ряда черт при помощи различных методов. Интерес был сконцентрирован на рассмотрении валидности черт. Предполагалось, что различные черты должны расходиться (дивергировать), а сходные — конвергировать, то есть речь шла о конвергентной и дискриминантной валидности. Предполагалось, что отдельные черты будут нечувствительны к используемым методам. Использование этой
I I i
матрицы оыло очень популярным и рассматривалось как метод конструктной валидизации. Магнуссон (1961, 1967) описал этот метод в своей книге по теории тестов и назвал его процедурой «полной конструктной валидизации».
В истории дифференциации и интеграции концепции валидности присутствует некоторая волнообразность. Это очень старая проблема, и она была предметом размышлений у греческих философов. Концепция допускает существование обоих подходов— и холистического, и атомистического.
В последнее десятилетие было добавлено еще одно новое значение понятия валидности. Так что можно говорить о дальнейшей дифференциации этого понятия. Представляется интересным, что само это понятие как бы привносит некое единство (или объяснение) в разнообразие коэффициентов прогностической валидности одного и того же теста. Это понятие представляет собой обобщение валидности. Исследование прогностической валидности одного и того же теста для различных, но связанных между собой критериев обнаруживает его разную ценность. Таким образом, по-видимому предпочтительнее подсчитывать новые коэффициенты валидности для каждого критерия. Шмидт и Хантер (1977) полагают, что существует один «истинный» коэффициент прогностической валидности и что расхождения коэффициентов валидности теста по различным, но сходным критериям представляют собой дисперсию ошибки. Они указали на 7 источников дисперсии ошибки:
• ненадежность в оценивании критерия;
• ненадежность теста;
• ограничение интервала;
• ошибки при составлении выборки;
• тип критерия и значимость;
• ошибки при подсчете и письме;
• небольшие различия в структуре факторов между задачами определенного типа.
Авторы попытались оценить источники этих систематических ошибок. Были проведены исследования, в которых подсчитывались коэффициенты валидности для сходных тестов и для сходных критериев. Подсчитывалась диспер-
сия в распределении коэффициентов валидности. Из этой дисперсии вычитались все показатели дисперсии, связанные с перечисленными источниками ошибок. Таким образом может быть подсчитан истинный коэффициент валидности прогностического критерия. Подобные расчеты действительно проводились авторами. Например, авторы оценивали некоторые из возможных источников ошибок в предсказании успешности работы механиков службы сервиса с помощью тестов на понимание принципов механики, а также при определении возможной эффективности труда работников службы быта с помощью интеллектуальных тестов. Этот тип исследования Может быть рассмотрен как мета-исследование. В психодиагностике разработаны также статистические методы для оценки источников ошибок (Schmidt, Law, Hunter, Rothstein, Pearlman & McDaniel, 1993). Но остается вопрос о том, как могут быть использованы знания о способах оценки истинного коэффициента корреляции и представления о возможных источниках ошибок. Используется ли реально эта информация практическими психологами или же они до сих пор обречены на то, чтобы подсчитывать коэффициенты валидности для каждой группы и для каждого критерия?
Подведем итоги. Итак, в истории развития представлений о валидности первым предметом рассмотрения была прогностическая валидность. Постепенно представления о валидности становились все более дифференцированными, и в качестве объединяющей их силы выступила концепция конструктной валидности. Сравнительно недавно была разработана обобщенная концепция валидности для объяснения различий между коэффициентами прогностической валидности сходных тестов по сходным критериям.
3.2.6. Статистическая оценка валидности Валидность представляет собой весьма широкое и сложное понятие. Этим и объясняется отсутствие специфических математических моделей или статистических методик для оценки валидности. Современная теория тестов вносит свой довольно скромный вклад в развитие понятия валидности (см. гл. 1) Для объяснения того, как даются ответы на отдельные задания теста или группу заданий, были разработаны одномерные модели изучаемых (латентных) харак-
Пз
теристик. По мнению Гольдштейна и Уда (1987, р. 163— 164) в теории ответов на задания теста центральной проблемой является вероятностная природа ответов, а не то, почему люди дают правильные или неправильные ответы. По мнению авторов, часто недостатком нелинейных логистических моделей является их относительная математиче-ская сложность, поскольку она может заслонять исследуемое реальное содержание. Эта критика не умаляет вклада современной теории тестов в объяснение тестируемого поведения.
Поскольку существует множество различных значений валидности, при изучении валидности в психологии используется целая гамма способов анализа данных психологии. В связи с этим при обсуждении проблемы валидности в учебниках авторы делают это несколько по-разному. Дрене и Сийтсма (1990) ограничиваются такими методами анализа данных, как регрессионные анализ и прогноз, факторный анализ (без их дальнейшей разработки). Крокер и Альджина пошли на шаг дальше. Они описывают процедуры шкалирования, модели линейного прогноза (при рассмотрении прогностической валидности) и факторный анализ (для конструктной валидности). Наннелли и Берн-штейн (1994) пошли еще дальше в использовании статистических процедур. Кроме перечисленных методик они применяют дискриминантный анализ, многомерное шкалирование и др.
По мере разработки новых методов анализа данных они будут использоваться при исследовании валидности. Трудно найти специфические связи между исследованиями валидности и ограниченным набором специфических техник. Однако некоторое устойчивые связи все же сложились. Исследования прогностической валидности связаны главным образом с моделями линейного прогноза (корреляции и регрессия). В исследовании конструктной валидности общей линейной модели используются многометодная матрица свойств и факторный анализ. Кронбах и Миль еще в 1955 году составили перечень множества процедур конструктной валидизации.
• Изучение различий между группами.
Если существует теоретическое предположение о том, что между двумя группами имеются различия в отношении
определенной поведенческой характеристики, то можно попытаться оценить различия между средними показателями.
• Изучение матриц корреляции и факторного анализа.
Первоначально эти методы оптимистически рассматривались как средства выявления основных параметров мышления и характеристик личности (см. Cronbach & Meehl, 1955,стр.285).
• Изучение внутренней структуры тестовых заданий.
Это имеет отношение к многочисленным способам анализа заданий.
• Изучение изменений во времени.
Интерес сконцентрирован преимущественно на том, насколько характеристики остаются стабильными с течением времени.
• Изучение процесса.
По мнению авторов, внимание должно быть уделено анализу поведения во время работы с тестом, необходимо точное ведение протоколов и фиксация допущенных ошибок.
С 1955 г. репертуар статистических методов существенно расширился, помимо исследовательских методик стали использоваться и методы проверки гипотез.
Как показано в этом разделе, при оценке валидности используются все виды линейных и нелинейных методов анализа данных. Изучение валидизации сопровождается аналитическим «насилием» над полученными данными. Мессик говорит также о необходимости качественного анализа поведения (материалов протоколов).
3.2.7. Соотношениятрех уровней
Житейские представления о валидности в какой-то мере согласуются с психодиагностическими концепциями. Психодиагностические концепции могут наполнять новым содержанием «житейскую психологию». Эмпирические исследования прогностической и конструктной валидности также показывают, что житейские представления не так уж «скромны». Высокие ожидания, основанные на житейских представлениях, редко получают эмпирическое подтверждение, поскольку корреляции предиктора и критерия невы-
I 14
1 15
соки. Феномен внешней валидности является примером слишком большой веры в возможность непосредственно «увидеть» валидность предиктора. В итоге житейские объяснения являются объяснениями «post hoc»*, то есть объяснениями уже совершившихся фактов.,
Математический уровень с помощью нелинейной модели и современной теории тестов ведет к объяснению того, как человек отвечает на задание или группу заданий. Эти модели элегантны, но ограничены. Леви (1973), Гольдш-тейн и Вуд (1989) высказывали критические замечания в адрес теории тестов, потому что связь с содержанием поведения, по мнению этих авторов, отсутствует почти полностью. Число моделей быстро возрастает, причем связи с реальным поведением рассматриваются как менее интересные по сравнению с вероятностными моделями самими по себе (Goldstain & Wood, 1989). Следует добавить по поводу моделей, что они требуют тщательной проверки.
Анализ валидности может использовать все типы исследований (экспериментальные и корреляционные) и все типы методов анализа данных (линейные и нелинейные, количественные и качественные). Мессик указывает на то, что используемые методы анализа данных должны соответствовать предполагаемой структуре психологических концепций, поскольку эти методы не являются нейтральными. Велик соблазн использовать новые способы анализа данных, и они действительно будут использоваться. Отчасти это необходимо, чтобы определить области их приложения и ограничения в их использовании. Главное значение все же имеют психологические теории и концепции, а не модели. Аспектный анализ (the facet analysis) представляет собой попытку сочетания понятийного и статистического анализа. Цитируя «анархиста от методологии» Фейерабен-да (1975), можно сказать, что для исследования валидности «подходит» чуть ли не все. Важно, что в процессе опробования любых возможностей устанавливаются разумные пределы,
post hos (лат.) — после-этого (прим. перев.).
3.2.8. Некоторые эпистемологические «строительные»
блоки понятия валидности в психодиагностике Концепция валидности в психодиагностике находится в центре теоретических, методологических изысканий и вопросов методического обеспечения, что обусловливает комплексный характер этой концепции. В данной главе обсуждаются некоторые основные проблемы концепции валидности. За основу взята статья Мсссика (1989), в которой автор предпринимает попытку связать концепцию валидности с общими эпистемологическими принципами (личное сообщение, 26 августа, 1993), что является достаточно трудной задачей. Сам Мессик оценивает результаты своей работы скептически, считая, что это в большей степени изыскания в области философии наук"и, чем строгие научные факты, поскольку ни одно из его утверждений не подкреплено эмпирическими данными. Это замечание показывает, насколько осторожным в суждениях и требовательными к себе должен быть исследователь, обращающийся к основам проблемы валидности в психологии. С другой стороны, разработчики некоторых моделей не считают нужным рассматривать недостатки собственной модели, как, например, психометрики при представлении нелинейных моделей для ответов на задания теста. Этот пример показывает ограниченность эмпирической ориентации, которая в определенные моменты времени являлась преобладающей в психологии.
В определении прогностической, содержательной и кон-структной валидности в психологии пятидесятых годов доминировал логический позитивизм. В рамках этой эпистемологии, с одной стороны, существовала ориентация на логику, синтаксис и структуру, а с другой — на значение, требующее эмпирической верификации. Первая (логическая) относится к логической структуре теорий. Эти теории должны быть сформулированы аксиоматическим, математическим или формально-логическим способом. Абстрактные теоретические термины должны быть связаны с категориями, доступными наблюдению, с помощью правил соответствия, то есть правил взаимодействия, определений или правил интерпретации, описывающих как теоретические понятия, так и соответствующие им экспериментальные процедуры. Хорошо известным примером правил
I 16
соответствия служат операциональные определения психологических конструктов. Строгие требования подробной спецификации психологических понятий не получили полной поддержки в психологии. Наиболее приемлемыми оказались правила соответствия, которые в той или иной степени определяются теоретическими понятиями. Теоретические понятия содержат некоторое «избыточное» значение. Вторая составляющая относится к области значений. Согласно правилам проверяемости теории истины, утверждение является истинным тогда и только тогда, когда оно соответствует законам логики. Это можно интерпретировать как подчинение предписанным конструктам и правилам формулирования выводов или как эмпирическую верификацию значения. Соотношение логического и эмпирического — это старая проблема, восходящая к предложенному еще Кантом различению аналитических и синтетических суждений. Принципу верифицируемости всегда уделялось должное внимание, поскольку он призван «отделять имеющее смысл от бессмысленного» и способствовать исключению всякой метафизики.
Логический позитивизм в своей исходной форме очень быстро показал себя как слишком требовательная и жесткая концепция, чтобы его положения могли оказаться плодотворными для развитии психологического знания. История науки знает примеры того, как концепции, не будучи чисто аналитическими или чисто эмпирическими, оказывались важными и значимыми. Много лет назад категории пространства и времени были названы Кантом априорными синтетическими суждениями. Эти категории, существование которых невозможно в рамках логического позитивизма, имеют форму общих законов и гипотетических конструктов, и допускают возможность проверки эмпирических заключений.
Логический позитивизм предполагает возможность двух интерпретаций значения. С одной стороны, значение всецело зависит от данных эмпирического опыта (эмпиризм, позитивистская составляющая), с другой стороны, значение определяется также связью утверждения с другими утверждениями (логическая составляющая, структурализм).
Структурный принцип, то есть определение абстрактных, бессодержательных конструктов с помощью набора правил, до сих пор оказывает влияние на развитие психо-
диагностики. Примером может служить современная теория тестов с абстрактной нелинейной вероятностной моделью. Позитивистские принципы проявляются и в подчеркивании эмпирического и операционального определений. Эмпирическая интерпретация абстрактных бессодержательных конструктов — это не простой процесс. Гипотетические конструкты должны быть дополнены системой опытного знания, то есть система с бессодержательными элементами и абстрактными отношениями должна быть соединена с элементами, которые могут быть почерпнуты из наблюдений. Роскам (1991) формулирует это положение (цит. по Hem pel, 1970, стр. 688) следующим образом: теоретическая проблема «плавает» в океане данных и пытается установить с ними контакт, но как это сделать? Роскам считает, что связи не могут быть образованы на основе семантического содержания конструктов, для этого необходимо наличие сходства по форме и структуре. Конструкт — это не семантическая единица, но его необходимо описать как набор определенных элементов и связей. Теоретическая система называется номологической сетью. В рамках этой сети происходит формулировка выводов, прогнозов, утверждений об отношениях. Возможна эмпирическая проверка этих утверждений. Связи между абстрактной и эмпирической системами носят вероятностный характер, используемые процедуры лишь частично «покрывают» конструкты. Считается, что конструкты имеют дополнительное (избыточное) значение. Результат взаимодействия элементов и отношений номологической сети с эмпирическими данными важен для обеих сторон этого процесса, поскольку становится ясно, получают ли поддержку эмпирические конструкты, возможно ли дальнейшее существование номологической сети, являются ли данные адекватными, надежными и валидными.
Следующая характеристика, влияющая на психологические и диагностические исследования и имеющая своим истоком позитивизм,— это предпочтение дедукции. Дедуктивная номологическая модель содержит логические, теоретические (гипотетические) отношения, интерпретация которых носит вероятностный характер. Объяснить какой-либо феномен — значит представить его как проявление общего закона. Если какой-либо феномен яв-
I 18
ляется частным случаем общего закона, то он может быть объяснен и предсказан. Подчеркивается, что гипотезы выводятся или, по крайней мере, формулируются без какого бы то ни было обращения к данным. Ван дер Хейден (1995) приводит примеры исследований, в которых многие сторонники клинического подхода честно признавали, что иногда они переформулируют гипотезы по мере получения данных. Это часто называется «предложением, делаемым задним числом» («Harking»), т.е. это выдвижение гипотез уже после того, как стали известны результаты (см. также Кегг & Harris, в печати). Эти авторы указывают на то, что такая практика является достаточно распространенной в некоторых школах.
Логический позитивизм влияет на развитие концепции конструктной валидности. Конструктная валидизация касается отношений, специфицированных номологической сетью. По крайней мере, некоторые элементы и отношения нуждаются в эмпирической интерпретации, тоестьонидол-жны быть операционализированы и соотнесены между собой тем или иным способом.
Мессик (1989) пришел к выводу, что исходные строгие требования логического позитивизма не были использованы в «чистом виде», они были адаптированы к возможностям конкретных эмпирических исследований. Значение логического позитивизма для психологии он определяет как (стр.23) «освещение того, как должна быть представлена роль конструктов в психологической теории и измерении». В психологии не слишком сильны «принудительные» элементы логического позитивизма, но дидактические правила анализа конструктов, взаимодействие между конструктами, их отношения представляются достаточно важными и ценными. Мессик согласен с Кронбахом, утверждающим, что было бы слишком претенциозным использовать позитивистскую эпистемологию в «нашей незрелой науке». Это замечание еще раз показывает, с каким уважением психологи относятся к эпистемологии. В философии логический позитивизм был популярен в течение короткого времени, и тем более удивительно, что он до сих пор остается идеалом познания в психологии.
Идеология логического позитивизма оказала значительное влияние на развитие концепции валидности в психоло-
гии. Попиер (1939/1959) подверг критике верификацию логического позитивизма. Он указывал на возможность фальсификации утверждений с помощью других правдоподобных утверждений. Не бывает единственно возможного объяснения. Существует множество п равдоподобных и конкурирующих между собой объяснений. Впрочем, это положение не получило распространения в исследованиях конструктной валидности, возможно, из-за относительного характера объяснений. Кук и Кэмпбелл (1976), обсуждая вопросы внутренней валидности в квазиэксперименте, выдвинули альтернативное объяснение.
Проверяемость и фальсифицируемость предполагают строгое разграничение теоретических и эмпирических терминов. Считается, что иногда такое разграничение невозможно. Концепция исследовательских парадигм предполагает, что каждая теория в какой-то степени сама создаст свои собственные данные и факты (Kuhn, 1962, 1970). Хотя эти представления достаточно хорошо известны в психодиагностике, тем не менее они редко становятся предметом дискуссий.
Существование различных парадигм с их собственными исследованиями и собственными «истинами» обусловливает наличие релятивизма. Конструктивизм и контекстуа-лизм относятся к радикальному релятивизму в определенной степени из-за своей приверженности позиции, что научное знание образует всего лишь одну из многих эквивалентных парадигм или один из подходов. Применительно к психодиагностике, можно утверждать, что невозможно установить истинные показатели испытуемого, поскольку полученные показатели во многом зависят от контекста, с помощью же методик оценивается «сконструированный» человек. В ситуации тестирования и в эксперименте испытуемый является «сконструированным» субъектом. При том, что исследователи все-таки принимают во внимание относительный характер полученных результатов, главным предметом интересов психодиагноста остаются стабильные характеристики поведения, мышления, эмоций. Отмечается, однако, что исследования зависимы от контекста. Конструктивисты обычно не признают «ремесленную» работу психодиагностов, ими разработан метод естественного наблюдения и качественного анализа.
Релятивизм предполагает эквивалентность любого ответа на вопрос или любого решения проблемы. Считается, однако, что по определенным причинам некоторые ответы и решения «лучше» других. Теории и конструкты в той или иной степени противоречат реальности. Лакатос (1978) утверждает, что исследовательские программы имеют определенную продолжительность сушествования. Их «ядерные» конструкты какое-то время сохраняются, будучи предметом эмпирической проверки и обсуждения. Программа может быть приостановлена или изменена, если ее концептуальные решения становятся неудовлетворительными, а эвристическая сила падает. При отсутствии подтверждения со стороны эмпирических данных теории и основные понятия исследовательской программы становятся изолированными. В этой ситуации программа может быть заменена новыми теориями и концепциями. Таким образом, никакого релятивистского объяснения тому, что программы возникают и исчезают, нет. Функционирование программ — их «жизнь» и «смерть» — подчиняется рациональным законам. «Рационалистическая» ориентация не предполагает, что теории должны быть немедленно заменены, когда появляются альтернативные теории или если эм-пирические исследования не дают ожидаемого подтверждения. Эта ориентация способствует проведению исследований конструктной валидности.
В данном разделе мы попытались показать, что несколько различных эпистемологических концепций оказали влияние на развитие понятия валидности в психологии. Это дало основание для упрека в том, что данное понятие с философской точки зрения противоречиво (Norris, 1983). Понятие валидности в психологии должно охватить столь сложную и многостороннюю реальность, что сосуществование различных критериев и точек зрения вполне возможно.
3.2.9. Конструктная валидность и системы исследования
Мессик (1989) попытался прояснить понятие валидности, используя концепцию «системы исследований», представленную эпистемологом Чечменом (1971). Последний предпринял попытку представить и проанализировать эпистемологические теории в виде системы исследовательских
вопросов (inquiry). Каждая такая система имеет свои специфические «строительные» блоки или информационные единицы, с помощью которых представляется существо проблемы. Имеются также гарантии того, что само представление проблемы будет отвечать требованиям валидности.
В системе Лейбница основным является формальный или символический способ представления проблемы, точнее эпистемологической проблемы познания. Набор простейших аналитических истин и системы правил и операций образуют основу дедукции теоретических суждений. Критериями валидности являются согласованность, полнота и
др.
Учение Локка применяет эмпирический и индуктивный подход к постановке проблемы. Система знаний развивается путем обобщения данных наблюдения. Критериями валидности являются согласие экспертов, объективность, беспристрастность к данным и методам их сбора и анализа.
Мессик замечает, что обе эти системы пригодны для анализа хорошо структурированных проблем. В том случае, когда проблема плохо структурирована, стоит вечный вопрос о том, как сформулировать се суть. По-видимому, во многих случаях ученые еще не могут найти адекватный способ представления проблем. Это те проблемы, о которых в одной из своих ранних работ (1916) Витгенштейн сказал: «О чем нельзя говорить, о том должно молчать».
Система исследовательских вопросов у Канта содержит способ представления проблемы, интегрирующий подходы Лейбница и Локка. В рамках этой системы существует, по крайней мере, два подхода к представлению проблемы и к систематизации данных или совокупности фактов. Эти подходы могут в одних случаях дополнять друг друга, в других случаях — находиться в антагонистических отношениях. В течение долгого времени наилучшей считалась та теория представления проблемы, которая более успешно оперировала эмпирическими данными.
Диалектическая система Гегеля содержит противоположные способы представления проблемы. Для анализа одних и тех же данных используются две конкурирующие теории. Противоположность позиций со всей наглядностью обнаруживается в публичном споре. Конфликт позиций пе-
реносится на более высокий уровень — уровень интеграции, гдеи«ст тмается». Возможно противостояние интегрированной теории новым конкурирующим теориям, так что диалектический процесс может продолжаться. Конечно, этот процесс развертывается между идеями, а не между людьми.
Чечмен рассматривает еще одну, не столь хорошо известную систему, систему Синджера. Эта система содержит описание перечисленных систем и рассматривает связь каждой из них с остальными. Данный метод способствует лучшему пониманию преимуществ каждой системы. Критерием валидности является прогресс путем последовательного приближения.
В психологических исследованиях валидности основное значение имеют системы Лейбница и Локка. Система Канта, рассматривающая альтернативные модели, используется не столь часто. Диалектическая система также используется редко, возможно, из-за трудностей формулирования противоположных теорий. Другой весьма вероятной причиной не столь широкой распространенности диалектической модели является опасение скатиться к релятивизму, если к каждой теории добавлять противоположную. Мессик считает, что «метарефлексия» в системе Синджера могла бы способствовать проведению достаточно «сбалансированных» исследований конструктной валидности.
Таким образом, в психологических исследованиях валидности доминируют формально структурная (Лейбниц) и эмпирическая (Локк) системы постановки проблем. Мессик считает необходимыми и полезными для исследований валидности увеличение числа соперничающих теорий и анализ всех систем. Его рассуждения напоминают в той или иной степени аргументацию из концепции фальсификации Поппера.
3.3. Исследование валидизации и понятия, несущие высокую смысловую нагрузку
В завершение данной главы приведем пример того, что диагностические категории и психологические конструкты характеризуются смысловой нагрузкой. Мессик указывал
на то, что наши категории и конструкты не являются нейтральными. Рассматриваемый нами пример заимствован из работ клинического психолога Ричарда Бенталла (1992). Предметом его анализа является феномен счастья, который, как он считает, следует отнести к числу психиатрических расстройств.
С сожалением Бенталл говорит о том, что клинические психологи слишком мало внимания уделяют рассмотрению феномена счастья. По мнению автора, этот феномен является достаточно важным и заслуживает того, чтобы быть представленным в учебниках по патопсихологии и в классификации психиатрических расстройств (DSM IV-R).