Критерии эффективности практической работы психодиагноста
Критерии эффективности практической работы психодиагноста связаны со следующими важнейшими факторами его профессиональной деятельности:
- обобщенной теорией;
- средствами и способами получения психологической информации;
- средствами и способами передачи психологической информации.
Если обобщенная теория, особенности владения ею отражают как уровень развития науки, так и степень профессиональной зрелости психодиагноста, то средства и способы получения психологической информации специфичны тем, что сама процедура их применения включает взаимодействие психодиагноста и обследуемого человека. Это значит, что в результате измерений получаются данные, которые будут зависеть не только от психодиагноста и уровня его квалификации, но и от тактики и стратегии поведения обследуемого.
Диапазон, в котором можно использовать стандартные психодиагностические методы, довольно узок и реально имеет смысл только на той выборке исследуемых, для которой он был создан и проверен на надежность, валидность, репрезентативность[12].
Эффективность работы практического психолога со стандартным, психометрическим методом будет определяться соответствием целей применения теста или методики -для исследуемой выборки. Перенесение без предварительной перепроверки устойчивости тестовых норм теста с одной выборки на другую приводит к ошибкам.
Если психодиагност применяет тест, он должен точно знать тестовые нормы для исследуемой выборки.
Ошибки, которые возможны при отсутствии такой проверки, отражаются на прогностической валидности теста. Особенно это относится к зарубежным тестам, которые отечественные психологи склонны использовать без соответствующей нормативной проверки. Реальные языковые и межкультурные различия могут оказать существенное влияние на результаты - получение и интерпретация психологической информации будут существенно искажены.
Для того чтобы убедиться в пригодности того или иного теста, психодиагност должен уметь повторить процедуру, с помощью которой конструировался и обосновывался тест его создателями.
Психодиагност, применяющий методики, должен знать требования к методикам разного типа - это тоже показатель эффективности его работы, так как владение требованиями к методикам отражает ориентацию психодиагноста на профессионально оправданные процедуры получения психологической информации, а не на уровень житейской или обыденной психологии.
Остановимся на требованиях к методикам, которые сформулированы в отечественной психологии". Измерительные методы (тесты) должны удовлетворять следующим требованиям:
- должны быть однозначно сформулированы цели, предмет и область применения методики. Предмет, диагностический конструкт должен быть соотнесен с уже имеющимися теоретическими обоснованиями, проверенными на релевантность. Область применения должна быть четко выделена и обозначена, указан контингент обследуемых. Необходимо четко обозначить цели использования результатов;
- процедура проведения должна быть задана в виде однозначного алгоритма, который можно было бы передать ЭВМ или специалисту, не имеющему специальных психологических знаний;
- процедура обработки должна включать статистически обоснованные методы подсчета и стандартизации тестового балла (по статистическим или критериальным тестовым нормам). Выводы (диагностические суждения) на основе тестового балла должны сопровождаться указанием на вероятностный уровень статистической достоверности этих выводов;
- тестовые шкалы должны быть проверены на репрезентативность, надежность и валидность в заданной области применения. Другие разработки и пользователи должны иметь возможность повторить стандартизационные исследования в своей области и разработать частные стандарты (нормы);
- процедуры, основанные на самоотчете, должны быть снабжены средствами контроля за достоверностью, позволяющими автоматически отсеивать недостоверные протоколы;
- головная методическая организация определенного ведомства (область применения) должна вести банк данных,
собранных по тесту, и проводить периодическую коррекцию всех стандартных методик. Экспертные методы:
- должны быть однозначно сформулированы цели, предмет и область применения метода. Предмет должен быть соотнесен с уже имеющимися теоретическими обоснованиями, проверенными на релевантность. Область применения, контингент испытуемых должны быть четко обозначены. Необходимо также четко обозначить цели использования результатов. Инструкция по применению снабжается указанием на требуемую квалификацию экспертов, их необходимое количество для получения надежных данных по методу независимых оценок;
- инструкции к проведению должны пройти специальные испытания на однозначность их выполнения экспертами по отношению к некоторому эталонному набору данных (тестов, рисунков, звуко- и видеозаписей и т. п.);
- процедура обработки результатов должна включать в себя протоколирование промежуточных этапов обработки данных, которое дало бы возможность перепроверить конечный результат другому эксперту;
- пользователи и разработчики должны иметь возможность повторить нормативное исследование по измерению экспертной согласованности на эталонном наборе данных;
- головная организация должна вести банк данных, обеспечивая подготовку пользователей и переподготовку их в соответствии с пересмотренными стандартами методики.
Все методики должны проходить аттестацию в рамках головных методических организаций, которые составляют каталог методик, прошедших аттестацию.
Критерии эффективности работы практического психодиагноста во многом определяются его возможностями в составлении программы обследования - в подборе батареи методик. Ее составление основывается на принципе - максимум надежности при минимуме затрат.
Планирование программ обследования предполагает осуществление следующих операций:
1. Определить, на что метод направлен: на простое или ин-тегративное качество личности; на действие или на переживание или на содержание когнитивных процессов. Исходя из этого выбирается либо методика, либо батарея методик или тестов. Далее выбирается определенный тип метода: для изучения действий и переживаний чаще всего используются оценочные шкалы и самооценочные шкалы. Для изучения качеств личности используются опросники, проективные или другие методы.
Батарея тестов состоит из нескольких тестов для изучения различных аспектов одного качества внутреннего мира человека (например, векслеровские шкалы интеллекта). Набор тестов состоит из нескольких тестов, посредством которых исследуется несколько разных, взаимно не связанных качеств внутреннего мира человека (например, 16-факторный опрос-ник Кеттела, ММРУ и др.).
2. Решить вопрос о том, каким образом с помощью выбранного метода будет определяться изучаемое свойство внутреннего мира человека.
Любая методика представляет собой стимульный материал, организующий ситуацию работы с ним, материал методики и будет определять способы действия исследуемого, в которых будет проявляться исследуемое качество. С этой точки зрения, по психологическому механизму порождения ответов, методы будут делиться следующим образом:
а) методы, требующие от субъекта лишь выражения определенного отношения (согласие, ожидание, отрицание);
б) методы, требующие активности памяти (дидактические тесты, тесты способностей, анамнестические беседы);
в) методы, работа в которых зависит от практического мышления;
г) методы, предполагающие поиск и установление сложных связей и отношений;
д) методы, основанные на идее проекции состояний исследуемого на материал стимулов.
3. Основным вопросом, который необходимо решить, является вопрос о том, с помощью чего мы будем определять, исследует ли наш метод то, на что он направлен. С точки зрения построения и стандартизации это вопрос о критериях валидности. Имеется ли такой критерий вообще в нашем распоряжении? Является ли он репрезентативным пользователем исследуемой характеристики личности? Является критерий простым или комплексным? Комплексный критерий состоит из нескольких относительно легко познаваемых компонентов. Например, вождение автомобиля - это комплексный критерий, содержащий такие элементы, как скорость реакции, острота зрения, наблюдение за движением транспорта, за дорожными знаками, готовность к решению сложных ситуаций, надежность и т. д. Поставленный психиатром диагноз «невротик», «здоровый» - это простой критерий, несмотря на то, что за ним стоят сложные явления внутреннего мира человека, но с точки зрения, например, проверки опросника для дифференциации здоровых и невротиков можно понимать упрощенно.
4. Надо решить вопрос о том, для какой цели метод создан? Для постановки диагноза, или даже дифференцированного диагноза, или для отбора и распределения кадров. Чем сложнее цель, для которой метод создан, тем он должен быть чувствительнее и разработанное. Разница есть и в методах, предназначенных для практической диагностики и для научных исследований. Первые должны иметь разработанные нормы и понятную интерпретацию результатов, в то время как для научных исследований достаточно представить данные в первичных результатах и интерпретировать их на уровне операциональных определений или в теоретических понятиях.
5. Кто будет пользователем методами? Этот вопрос требует решения, так как если это психолог, тогда метод должен быть гораздо сложнее, чем когда им пользуется обученный неспециалист.
6. Надо определить, для какой популяции метод предназначен. Решающее значение будет иметь то, кто с помощью этого метода будет обследоваться - дети или взрослые, больные или здоровые, грамотные или неграмотные испытуемые, предназначен он для группового или индивидуального обследования и т. д.
7. Есть ли какие-нибудь требования ко времени проведения обследования? Этот момент важен, так как время может быть фактором, влияющим на показатели результативности обследуемого, - время решения задачи, качество задач, решенных за единицу времени, - важный показатель в тестах достижений.
8. Надо определить требования к экономичности метода -нужны ли специальные пособия, место для проведения обследования, оборудование и т. п.
9. Только после решения этих вопросов, обдумывания более или менее внешних предпосылок можно подойти к собственному построению метода. При построении его постоянно учитывается формальное и содержательное соответствие отдельных заданий теоретическим и практическим основам метода.
Основным критерием качества метода является его валидность, то есть обоснованность, достоверность.
С формальной точки зрения валидность бывает подлинная, которая выражает отношение между результатами метода и тем, что с помощью метода изучалось, и ложная, в которой зафиксирована видимость ценности метода. Подлинная валидность в зависимости от характера критерия, с помощью которого она проверяется, разделяется на эмпирическую и теоретическую, текущую и прогностическую.
Ложная валидность, как показывают исследования, имеет следующие варианты: очевидная валидность, валидность, основанная на опыте, на убеждении и на желании.
Очевидная валидность исходит из того, что якобы данный метод исследует реально существующие факты и закономерности. Например, неуверенность в себе исследуется с помощью вопросов на неуверенность, а знания по истории с помощью конкретных вопросов по истории и т. п. Очевидная валидность соответствует подлинной валидность по содержанию только в том случае, если это дидактические тесты или тесты знаний. Во всех остальных случаях надо исследовать тест на валидность.
Валидность, исходящая из опыта, основывается на личном чувстве психолога, что так он «понимает испытуемого».
Валидность, опирающаяся на убеждение, исходит из необоснованного убеждения, что метод хорош, так как, например, хорошей является теория или результаты, полученные с его помощью.
Валидность всех психодиагностических методов, кроме дидактических, проверяется психометрическими методами. Процесс валидизации осуществляется с помощью подсчета различных коэффициентов корреляции для подсчета отношения между результатами метода и значением критерия. Коэффициент валидности может быть выражен и с помощью теста, коэффициента эктропии, теста X2, с помощью прогностических таблиц и иных мер отношений.
Теоретическая валидность определяется на основе логического доказательства и эмпирического подтверждения последствий, вытекающих из теории, определяющей метод и его интерпретацию. Преимуществом теоретической валидизации является применение факторного или дискриминационного анализа, но в матрицу анализируемых переменных должны входить и методы с известной валидностью, чтобы с их помощью можно было адекватно интерпретировать факторы и синдромы.
Валидность отвечает на вопрос «Измеряем ли мы то, что думаем измерять». С этой точки зрения можно говорить о следующих типах валидности:
1. По содержанию выражает соответствие между тестом и исследуемой характеристикой. Пригодность методики определяется, например, на основании репрезентативного сходства между содержанием вопросов (задании) и компонентами изучаемой характеристики личности; способ ее определения - логико-семантический.
2. Текущая валидность выражает соответствие между результатами и параллельно применяемыми критериями. Часто используется метод известных групп и сравниваются результаты обеих групп. Важна точная идентификация известных групп.
3. Прогностическая валидность выражает соответствие между результатами теста и критерием спустя определенное время. Например, при исследовании тревожности мы анализируем поведение и сопоставляем его с результатами тестирования. Подходящим критерием, например, может быть успеваемость в школе и т. п.
4. Конструктная валидность выражает соответствие между тестом и изучаемой модальностью внутреннего мира человека. В этих целях часто результаты тестирования сравниваются с надежными тестами, измеряющими эту модальность.
Эмпирически очевидные показатели, которые служат для проверки валидное™ теста, обозначаются термином критерий. В большинстве процедур по валидизации имеет место внешний критерий. Обычно им является знакомый и очевидный индикатор психической характеристики, для определения которой и создается метод.
Критерием чаще всего бывает проявление изучаемой характеристики в повседневной жизни. Однако это должны быть такие данные, которые сами по себе не могут заменить метод, иначе было бы бессмысленно создание методики. Достаточно тогда было бы использовать в качестве метода сам критерий. В патопсихологии критерием является диагноз врача. В промышленности - количество аварий, количество поощрений или изобретений и др. В школе критерием может быть оценка успеваемости и поведения.
Критерий - это очевидный показатель тех характеристик личности, именно показатель, определяемый независимо от предъявления теста. Было бы ненаучным, если бы критерий исследовался и выражался - сознательно или неосознанно -в зависимости от знания тестовых результатов отдельных испытуемых.
Критерием может служить и ранее проверенный практический тест или общепринятая хорошая теория.
Критерием может быть и возраст, при условии, что с возрастом регулярно повышаются или снижаются показатели изучаемого явления.
В группу деятельностных критериев относят, например, производительность труда, качество результатов труда, заработок и др. К постоянным и объективно данным критериям относят возраст, пол, количество пропусков на работе, текучесть кадров и т. п.
Результаты критерия редко бывают представлены в шкальных единицах (то есть интервалах или в равных единицах измерения в системе измерения). Чаще всего в единицах квантила: это порядковые степени, порядковое место или только качественные (номинальные) категории (типы). Тест имеет столько валидностей, сколько имеется критериев. В традиционной теории тестов одним из основных критериев качества теста является его надежность.
Имеется в виду, что надежность метода обозначает, что результаты одних и тех же испытуемых не меняются даже при повторном обследовании после более длительного времени.
Надежность проявляется в том, что в руках разных экспериментаторов выявляется одно и то же, результаты также независимы и от социодемографических факторов.
Источники результатов исследования можно рассматривать на следующих уровнях: а) несовершенство психодиагностического метода, который порождает постоянные и случайные ошибки; б) ситуация обследования (влияет на результаты время дня, размещение испытуемых при групповом тестировании и т. п.); в) личность экспериментатора; роль, в которой он выступает для обследуемых; г) психическое функциональное состояние обследуемых; д) способ оценивания результатов и их интерпретация.
Интерпретация результатов является объективной и однозначной только при условии, что она касается однозначного сравнения диагностической информации с эталоном или количественной нормой. Но когда психолог пытается объяснить, какой смысл имеет диагностическая информация, какое место она занимает в структуре деятельности субъекта, он попадает в область не науки, а искусства.
Таким образом, критерий эффективности практической работы психодиагноста определяется надежностью инструментов его работы и его профессиональной позиции, в которой большое место занимает рефлексия на содержание обобщенной психологической теории и его личное отношение к своей профессии, позволяющее строить отношение с клиентом, заказчиком и пользователем при получении психологической информации.
Задания для самостоятельной работы