Интеграция экспертных оценок
Очень часто в задачах экспертной оценки мы имеем дело с необходимостью построить суммарную оценку объекта, то есть подсчитать так называемый «ИНТЕГРАЛЬНЫЙ РЕЙТИНГ» по оценкам, которые эксперты дают различным признакам (параметрам, показателям) объекта. Вспомним опять же всем известный пример с фигурным катанием. Общая оценка фигуриста суммируется из независимых оценок по двум показателям: «за технику исполнения» и «за артистизм».
Так и в школьном обучении. Например, интегральная успеваемость («рейтинг успеваемости») под-считывается путем суммирования (или усреднения) оценок учеников по всем предметам. Но правильно ли, что ведущие предметы (математика, родной язык) вносят в интегральный рейтинг такой же вклад, как относительно второстепенные предметы (хотя бы по числу учебных часов в неделю), как пение, рисование и физкультура? Можно, например, учесть более
Основы психодиагностики
важное значение главных предметов путем суммирования оценок по этим предметом с более весомым коэффициентом. Такой весовой коэффициент может, например, отражать число учебных часов в неделю. Тогда обобщенная формула рейтинга R получит следующий вид:
R = Р1 • А1 + Р2 • А2+...Рк • Ак,
■
где А1 — оценка объекта (ученика) по 1-му покат зателю,
Ак — оценка объекта (ученика) до k-му показателю,
Р1 — значимость (вес) 1-го показателя, Рк — значимость (вес) к-го показателя.
В упомянутой выше программе EXPAN такой показатель рассчитывается для всех учеников по всем признакам и по всем экспертам (в программе, естественно, реализована более сложная и универсальная формула, позволяющая привести рейтинг к единой шкале от 1 до 1000 с учетом разного количества показателей, разного количества экспертов и, возможно, разных оценок значимости Pi для к критериев, которую дают разные эксперты).
Конечно, пример с оценками по учебным предметам есть только пример, призванный пояснить студентам смысл формулы «интегрального рейтинга». Сам по себе этот пример не имеет по сути никакого психодиагностического значения.
Более серьезный содержательный эффект подобный подход может иметь тогда, когда оценке подвергаются относительно элементарные составляющие такого, например, интегрального свойства, как «уровень сформированности учебной деятельности». Оценки по предметам не всегда точно отражают этот наиважнейший параметр, предопределяющий пер-
Психодиагностика как научная технология
спективы ученика на многие годы вперед, включая поступление и обучение в вузе, где важно иметь развитые навыки самообучения. Вот примерный и далеко не полный перечень возможных показателей для экспертной оценки (к ней, очевидно, должны быть привлечены учителя по всем главным предметам, имеющие дело с данным классом):
1) умение «активно слушать», воспринимать и усваивать новый материал со слуха, во время объяснений учителя на уроке;
2) умение самостоятельно читать и усваивать новый материал по учебнику и другой учебной литературе;
3) высокий темп и точность действий по выполнению письменных заданий (самостоятельных, практических и контрольных работ) на уроке,
4) аккуратное выполнение домашних заданий, наличие своевременной и полной отчетности по письменным домашним заданиям и другим домашним работам;
5) умение удачно отвечать с места;
6) умение удачно отвечать у доски, объяснять и рассказывать усвоенный материал;
7) умение творчески применить усвоенный ранее материал к решению нового задания (умение сравнить новый и старый материал, сделать правильные выводы на основе этого сравнения), умение самостоятельно обобщать, интегрировать приобретенные
знания; И т. п.
Уже этот далеко не полный и довольно поверхностный список так называемых обобщенных «учебных умений» позволяет построить весьма полезный для педагогической работы «сквозной профиль» ученика. При этом выясняется (и это легко будет видеть на графической модели профиля), что, к примеру» У данного ученика Сидорова практически по всем предметам неплохо обстоит дело с «усвоением», но
5. Основы психодиагностики
плохо с «применением» знаний, а у ученика Семенова — неплохо с работой в классе, но совсем плохо -— с работой дома. Кстати, программа ЭКСПАН суммирует все экспертные оценки и строит такой профиль автоматически.
Таким образом, кроме интегрального рейтинга весьма информативен именно диагностический профиль. Он несет в себе более ценную структурную, качественную, а не только количественную информацию. По форме профиля (по наличию пиков и впадин на профиле) можно судить в данном случае о стиле учебной деятельности, устойчиво проявляющимся в работе ученика по разным предметам и с разными учителями. Последующий анализ причин, почему, например, Семенов не может работать дома, позволяет вскрыть важные факторы, воздействующие на данного ребенка (как такие простейшие внешние факторы, как отсутствие подходящих квартирных условий, так и менее очевидные факторы, как сверхвключенность в дворовую компанию или «телевизионный фанатизм» в развитой стадии). Вполне вероятно, что еще не исчерпаны элементарные возможности по внешней коррекции и устранению этих факторов (выполнение домашних заданий в школе, например), которые могут принципиально улучшить общие показатели, общую успеваемость и интегральное самочувствие ребенка в школе.
В этом разделе мы, конечно, уделили больше внимания общей формально-логической схеме применения методов наблюдения и экспертной оценки. Огромное разнообразие всевозможных вариантов применения этих методов здесь перечислить было просто невозможно. Творческое овладение педагогическим коллективом школы (под методическим руководством школьного психолога) подобными на самом деле очень доступными и практичными методами позволит школе очень гибко и быстро решать
Психодиагностика как научная технология
самые разнообразные задачи.
Ключевые термины: поисковое наблюдение, стан-дартизированиое наблюдение, аналитическое наблюдение, кодификация признаков, протокол наблюдения, согласованность экспертных оценок, надежностъ-ва-лидностъ экспертных оценок, интегральный экспертный рейтинг.
2.3. МЕТОД ТЕСТОВ:
НАДЕЖНОСТЬ, ВАЛИДНОСТЬ И СТАНДАРТИЗАЦИЯ
Как уже отмечалось неоднократно в предыдущих главах, метод тестов является одним из основных в современной психодиагностике, а по уровню популярности в образовательной и профессиональной психодиагностике он прочно удерживает первое место в мировой психодиагностической практике уже фактически в течение столетия. Договоримся понимать под тестами в этом разделе методики, которые состоят из серии заданий с выбором из готовых вариантов ответа. При подсчете баллов по тесту выбранные ответы получают однозначную количественную интерпретацию и суммируются. Суммарный балл сравнивается с количественными тестовыми нормами, и после этого сравнения формулируются стандартные диагностические заключения.
»
Достоинства метода тестов
Популярность метода тестов объясняется следующими главными его достоинствами (ниже в качестве базы сравнения имеются в виду главным образом
Х31
Основы психодиагностики
традиционные устные и письменные экзамены):
1) Стандартизация условий и результатов. Тестовые методики относительно независимы от квалификации пользователя (исполнителя), на роль которого можно подготовить даже лаборанта со средним образованием. Это, однако, не означает того, что для подготовки комплексного заключения по батарее тестов не надо привлекать квалифицированного специалиста с полноценным высшим психологическим образованием.
2) Оперативность и экономичность. Типичный тест состоит из серии кратких заданий, на выполнение каждого из которых требуется, как правило, не более полминуты, а весь тест занимает, как правило, не более часа (в школьной практике это один урок); тестированию одновременно подвергается сразу группа испытуемых, таким образом, происходит значительная экономия времени (человеко-часов) на сбор данных.
3) Количественный дифференцированный характер оценки. Дробность шкалы и стандартизованность теста позволяет рассматривать его как «измерительный инструмент», дающий количественную оценку измеряемым свойствам (знаниям, умениям в заданной области). Хороший тест позволяет различать не только три категории учеников-отличников, «середнячков» и «хвостистов», но и хорошо дифференцировать испытуемых на полюсах шкалы — отличать просто способных от очень способных и талантливых, а среди отстающих отличать небезнадежных от «безнадежных» (или совершенно неподготовленных). Кроме того, количественный характер тестовых результатов дает возможность применить в случае тестов хорошо разработанный аппарат психометрики, позволяющий оценить, насколько хорошо работает данный тест на данной выборке испытуемых в данных условиях.
-
Психодиагностика как научная технология
4) Оптимальная трудность. Профессионально сделанный тест состоит из заданий ОПТИМАЛЬНОЙ ТРУДНОСТИ. При этом средний испытуемый набирает примерно 50 процентов из максимально возможного количества баллов. Это достигается за счет предварительных испытаний — психометрического экспериимента, или пилотажа. Если в ходе пилотажа становится известным, что с заданием справляется примерно половина из обследованного контингента, то такое задание признается удачным и его оставляют в тесте.
5) Надежность. Это, может быть, самое главное достоинство тестов. «Лотерейный» характер современных экзаменов с вытягиванием «счастливых» или «несчастливых» билетиков давно уже стал притчей во языцах. Лотерейность для экзаменующегося здесь оборачивается низкой надежностью для экзаменатора — ответ на один фрагмент учебной программы, как правило, не показателен для уровня усвоения всего материала. В отличие от этого, любой грамотно построенный тест охватывает основные разделы учебной программы (тестируемой области знаний или проявлений какого-то умения или способности). В результате возможность для «хвостистов» выбиться в отличники, а для отличника вдруг «провалиться» резко сокращается.
Назовем также ряд достоинств, которые в логическом смысле являются следствиями, производными от перечисленных выше, но заслуживают самостоятельного упоминания.
6) Важнейшим социальным следствием перечисленных выше достоинств метода тестов является Справедливость. Ее следует понимать как защищенность от предвзятости экзаменатора. Хороший тест ставит всех испытуемых в равные условия. Наиболее сильно субъективизм экзаменаторов проявляется, как известно, не в трактовке уровня решенности
Основы психодиагностики
задачи (не так просто назвать черное белым — решенную задачу нерешенной), а в тенденциозном подборе заданий — своим полегче, чужим — труднее. Во введении к настоящему пособию уже говорилось, что именно тесты обеспечивают важнейшую функцию школы, как социального фильтра, — функцию «социально-профессиональной селекции». То, насколько справедливой оказывается подобная селекция, имеет гигантское значение для развития общества. Поэтому так важно всем, кто имеет доступ к тестам и их результатам, учиться культуре грамотного и гуманного применения тестов. Ибо только добросовестное и квалифицированное отношение пользователей к тестам превращает их в инструмент, повышающий, а не понижающий уровень справедливости в обществе.
7) Возможность компьютеризации. В данном случае это не просто дополнительное удобство, сокращающее живой груд квалифицированных исполнителей при массовом обследовании. В результате компьютеризации повышаются все параметры тестирования (например, при адаптивном компьютерном тестировании резко сокращается время тестирования — см.2.6). Специально подчеркнем, что компьютеризация — это мощный инструмент обеспечения информационной безопасности (достоверности диагностики). Компьютерная организация тестирования, предполагающая создание мощных информационных «банков тестовых заданий», позволяет технически предотвратить злоупотребления со стороны недобросовестных экзаменаторов. Выбор заданий, предлагаемых конкретному испытуемому, может производить из такого банка сама компьютерная программа прямо в ходе тестирования, и предъявление данному испытуемому определенного задания в этом случае является таким же сюрпризом для экзаменатора, как и для испытуемого.
Психодиагностика как научная технология
8) Психологическая адекватность. Это важнейшее психологическое следствие оптимальной сложности. Наличие в тесте (по сравнению с традиционными экзаменационными вариантами) большого количества кратких заданий средней трудности дает многим испытуемым (особенно тревожным, не уверенным в себе) шанс «зацепиться», поверить в себя, активизировать психологически оптимальную установку «на преодоление». Ведь когда такой испытуемый остается лицом к лицу перед одной-двумя очень сложными и большими задачами и не видит, как можно с ними справиться вообще, то он падает духом и не раскрывает всех своих возможностей. А если заданий много, и часть из них явно начинает «поддаваться» (испытуемый уверен, что он с ними справится), человек в процессе тестирования ободряется и начинает «бороться» за максимальный результат. Уже упомянутое нами свойство оптимальной сложности важно для теста тем, что оно не только обеспечивает измерительную (различающую) силу тесту, но и обеспечивает оптимальный психологический настрой испытуемых. Человек не является пассивным объектом измерений при тестировании (подобно гире при взвешивании) — он всегда остро эмоционально реагирует на тест. Тестовая ситуация оптимальной сложности является оптимальным возбудителем — люди испытывают нормальный уровень стресса (напряжения), необходимый для того, чтобы показать наивысший результат. Недостаток стресса (в случае легкого теста), а тем более избыток (в случае трудного) искажают результаты измерения. Этого, как правило, совершенно не понимают организаторы наших конкурсных экзаменов, пытающиеся в случае высокого конкурса дать абитуриентам задачки посложнее («на засыпку») — создается избыточный стресс, который не дает возможности проявить себя людям, подготовленным хорошо, но
Основы психодиагностики
обладающим пониженной стрессоустойчивостью.
Во многих странах внедрение метода тестов (равно как и сопротивление этому внедрению) тесно связано с социально-политическими обстоятельствами. Внедрение хорошо технически оснащенных тестовых служб в образовании — важнейший инструмент в борьбе с коррупцией, поражающей правящую элиту (номенклатуру) во многих странах. На Западе тестовые службы работают независимо от «выпускающих» (школы) и «принимающих» (вузы) организаций и снабжают абитуриента независимым сертификатом о результатах тестирования, скоторым он может отправляться в любое учреждение. Эта независимость службы тестирования от выпускающих ипринимающих организаций является дополнительным фактором демократизации процесса селекции профессиональных кадров в обществе, дающая талантливому и просто работоспособному человеку лишний шанс проявить себя.
Однако все перечисленное выше не означает, что метод тестов не обладает некоторыми весьма серьезными недостатками, не позволяющими свести всю диагностику способностей и знаний исключительно к тестированию.