Экспериментально-теоретическое обоснование технологии САД
1) Предназначение технологии «Семантического анализа деятельности».
Методика САД предназначена для измерения характеристик психической деятельности индивида в процессе интериоризации, то есть ориентировочной психической деятельности человека, которая состоит из операциональной (ОЧ) и мотивационной (МЧ) частей*.
* Гальперин П.Я. Введение в психологию. — М., 1976; Теория поэтапного формирования умственных действий // Исследование мышления в советской психологии. — М., 1966.
Измерение ОЧ происходит в процессе формирования у человека нового умения или навыка. Темп усвоения этого знания посредством регистрации количества единиц отработанного стимульного материала по схеме ориентировочной основы действий (схема ООД) определяет уровень развития ОЧ.
Параллельно с измерением ОЧ через определение специфики усвоенных (то есть правильно отработанных в тесте) стимульных единиц оценивается и МЧ.
Таким образом, методика САД измеряет как форму (специфику) усвоения новой информации (мотивацию), так и темп (скорость) этого усвоения (то есть когнитивные характеристики), которые характеризуют индивидуализацию интериоризационных процессов человека.
Каким образом фиксируется эта индивидуализация? Во-первых, испытуемым предлагается специфический или профессионализированный стимульный материал, отражающий определенный вид реальной деятельности посредством семантических стимульных единиц — «слов-тем» (О. Маурер, 1954), то есть ключевых понятий. Понятия подобраны в соответствии со специальной процедурой: соблюдением принципов наибольшей частоты употребления в речи, дифференцированности и наименьшей привычности (Л. Постмен). Во-вторых, испытуемые должны произвести логический анализ (дать логическое определение) стимулам-понятиям при помощи имеющейся логической схемы, которая выступает в роли схемы ООД* или «подсказки».
* Схема ориентировочной основы действий.
Как правило, испытуемый (ребенок-подросток)* дает наиболее адекватное определение стимулам-понятиям, взятым из значимой для него сферы деятельности, так как индивидуальное семантическое поле отпрофилировано в соответствии со спецификой предметной деятельности социума, представителем которого является испытуемый субъект.
* Первоначально методика САД разрабатывалась для испытуемых подросткового возраста.
Фиксация (на регистрационном бланке) количества и качества (профиль) правильно отработанных стимулов-слов показывает темп и направленность психической познавательной деятельности испытуемого (обучаемость).
2). Конструкция технологии САД.
Методика САД состоит из двух субтестов (заданий). Первое задание — Стартовый тест (СТ) является тренировочно-подготовительным и знакомит испытуемых с логической схемой и порядком отработки регистрационных бланков. Результаты СТ могут учитываться и в процессе диагностики. Второе задание — Семантический анализ мотивации (САМ) - зачетное, в ходе его отработки фиксируется темп и направленность процесса усвоения стимульных единиц (слов-понятий), взятых из различных областей реальной предметной деятельности.
Субтесты (задания 1 и 2) имеют одинаковую композиционную структуру и состоят из стимульной, обучающей (ориентировочной) и регистрационной частей.
Стимульная часть Стартового теста (задание 1) представляет собой набор слов из ограниченного числа букв. Принято во внимание то обстоятельство, что испытуемый должен иметь начальные ориентировки: знание русского языка и понимание смысла элементарных геометрических фигуробразов. Слова-стимулы составлены из букв русского алфавита (к, о, п, р, т) в соответствии с начальными буквами названий геометрических фигур (квадрат, окружность, прямоугольник, ромб, треугольник). Испытуемым предлагается мысленно по букве «собрать» слово-стимул, причем порядок букв определяется очередностью вписывания одной фигуры в другую. С учетом этого условия составлены несколько слов-стимулов (задач): ТОПОР, КОТ, РОТ, ТОК, КРОТ, РОКОТ, ОКОП, ТОРТ, КРОТ и т. д., которые помещены в регистрационный бланк в графу «Содержание» и предъявляются испытуемым.
Ориентировочная (обучающая) часть теста представляет собой схему ООД, которая указывает оптимальный и альтернативный пути решения задачи. В схеме представлены вопросы и варианты ответов (да-нет). Вопросы определяют последовательность вписывания фигур и соответственно порядок букв в формируемом слове. Процедура формирования каждого последующего слова начинается с первого вопроса.
Отработка задания заканчивается с завершением формирования последнего слова-стимула. В результате в регистрационном бланке напротив каждого стимула в графе «№ ответов» записывается цифра, которой обозначена последняя буква.
Правильность выполнения задания оценивается по «ключу». За каждый правильный ответ испытуемым присваивается один «сырой» балл. Минимальное количество ответов — ноль, максимальное соответствует количеству слов-стимулов.
Стимульным материалом для второго задания являются понятия из различных сфер человеческой деятельности. Работа со стимульным материалом — довольно сложный многоступенчатый процесс, который должен учитывать основные особенности «чувственной ткани» испытуемого: процессов восприятия, узнавания и усвоения стимула.
Экспериментально доказано, что существует положительная связь между предпочтением известных значений слов-стимулов и порогом их различения, то есть сенсибилизирующее (опережающее) влияние мотивации на перцепцию (Дж. Кэттелл, В. Брайан, Н. Хартер, Л. Постмен,Дж. Брунер и др.), между частотой, с которой слова встречаются в языке, и быстротой их «узнавания» субъектом (Р. Соломон, М. Хауес). Сделан методологический вывод (Л. Постмен) о том, что при исследовании мотивации необходимо, во-первых, сделать фактор «привычности» слова-стимула постоянным или учитывать коэффициент его изменения и, во-вторых, учитывать характер знакомости слов.
Таким образом, при отборе слов-стимулов для измерения мотивации учитывается их низкая привычность для данной популяции, константность по частоте употребления в речи и максимальная дифференцированность по объекту, который они обозначают.
Первым этапом отработки стимульного материала является отбор при помощи частотного словаря русского языка 100 — 150 слов с относительной равночастотностью употребления в речи и относительной дифференцированностью по исследуемым признакам (близость к ключевым понятиям, например: «человек» и «техника»). Второй этап представляет собой оценку экспертами-профессионалами слов по их смысловой близости к ключевым понятиям. Расчет коэффициента «близости» средневзвешенной оценки:
где СЭО = Σ Оцэкспертов
СЭОmах = 5Н; при N — количество экспертов.
Причем Рэо должен быть больше 0.5.
На третьем этапе производится экспертиза (при помощи экспертов — представителей популяции) слов-понятий по степени привычности при средневзвешенной оценке менее 0.7. Формирование стимульного материала в соответствии с требованиями ориентировочной части методики и разработка регистрационного бланка является четвертым этапом.
Ориентировочная часть представляет собой формально-логическую схему анализа понятий (определение понятий по смысловым формально-логическим признакам). Схема оказывает функциональную помощь испытуемым в этой работе. Слова-понятия, которые наиболее знакомы или интересны испытуемым, получают адекватное логическое определение. Эта адекватность отражает ориентированность испытуемых на определенную семантическую область. Предполагается, что испытуемый добьется больших результатов в этой области деятельности, то есть мотивирован на ее качественное выполнение, проявляет интерес к ней, у него ярко выражена определенная личностная направленность. Слово — это уже обобщение, то есть отражение деятельности индивида (В. Гумбольдт, Л. С. Выготский). Именно в этой семантической единице (слове-понятии) кроется обобщенный образ реальной предметной деятельности*. Адекватный индивидуальный смысл понятия относительно его общественного значения, то есть точный формальный анализ слова, отражает направленность индивида к определенной сфере деятельности.
* Вл. Соловьев. Теоретическая философия. 1899. С. 142-146.
Таким образом, ориентировочная часть измеряет степень усвоения или приоритетности усвоения испытуемым специфически направленной (профессиональной) информации и прогнозирует успешность как обучения, так и мотивацию его к определенной предметной деятельности.
Структура второго задания представляет собой семи- или трехступенчатую логическую схему* с результирующими табличками в конце каждого этапа выполнения задания. Регистрационная табличка обозначена цифрой и словесным определением понятия, отражающим его формально-логические признаки. Если слово-стимул соответствует, по мнению испытуемого, определенной результирующей табличке, то полученная цифра заносится в регистрационный бланк. Анализ каждого понятия-стимула начинается с первого вопроса. Оценка правильности ответов осуществляется при помощи «ключа». За каждый правильный ответ начисляется один «сырой» балл. Минимальная суммарная оценка — ноль баллов, максимальная определяется количеством исследуемых слов-стимулов.
* Существуют полный и сокращенный варианты САД.
Для отработки элементов структуры САД был проведен корреляционный анализ взаимосвязи субтестов СТ и САМ (рис. 8).
Рис. 8. Интеркорреляционная матрица субтестов САД
Выявлена слабая прямая связь между субтестами, что позволяет сделать вывод об их несовместности (Славин М.Б., 1989; Кулагин Б. В., 1984). Наибольший вес в тестовой структуре имеет второе задние (Rxу = 0.89), выполняющее основную диагностическую функцию в процессе обследования.
3). Процедура обследования, обработка и интерпретация результатов.
Выполнение методики САД может осуществляться в индивидуальном и групповом вариантах. В групповом варианте испытуемые по возможности изолируются друг от друга (рассаживаются по одному за стол).
Инструкция испытуемым является первичной ориентировкой в процессе формирования установки на совместную психодиагностическую деятельность испытуемого и экспериментатора. В инструкции в популярной форме изложен алгоритм выполнения заданий, даны опорные ориентиры и признаки этапов экспериментального действия. В ней приводится конкретный пример, иллюстрирующий порядок работы испытуемого, определены форма записи результатов в регистрационный бланк, время работы и ограничительные правила. Руководитель обследования устно объясняет непонятные испытуемым положения инструкции, нормативные правила и условия работы.
Примерная инструкция к субтесту «СТ» (первое задание САД)
В первом задании при помощи ориентировочной схемы собираются буквы в слова (десять слов). Время работы 5 минут.
Решается необычная задача-игрушка. Представьте, что перед Вами слово, состоящее из первых букв названий геометрических фигур ( квадрат — «К», окружность — «О», ромб — «Р», прямоугольник — «П», треугольник — «Т»).
Порядок вписывания фигур определяет последовательность букв в слове. Например: если в ромб вписать окружность, а в нее - квадрат, то начальные буквы фигур, вписанных одна в другую по порядку, образуют слово «РОК». На следующем листе приведена схема, определяющая порядок вписывания геометрических фигур. Этот порядок дает возможность, отвечая на вопросы, двигаться по схеме, составляя по порядку буквы в слова.
В регистрационном бланке (рис. 9, задание 1) в графе «СОДЕРЖАНИЕ» помешены 10 слов (РОК, КОТ, ТОПОР и т. д.). Нужно мысленно проследить порядок вписывания букв первого слова, отвечая на поставленные вопросы, начиная с первого. Когда Вы отыщете последнюю букву исследуемого слова, то рядом в схеме обнаружите цифру, которую необходимо записать в регистрационный бланк напротив исследуемого слова в графе «№ ответа».
Затем мысленно совершите такой же путь со вторым словом и т. д. до конца. Отработку каждого слова начинайте с первого вопроса.
Работайте самостоятельно! Желаем удачи!
Примерная инструкция к субтесту «САМ» (второе задание САД)
Во втором задании при помощи логической схемы производится логический анализ восемнадцати слов-понятий. Время работы 20 минут.
Вам необходимо мысленно «провести» по логической схеме каждое из слов-понятий, помещенных в регистрационный бланк (рис. 9, задание 2). Логическое определение понятия заключается в поочередном ответе на поставленные вопросы. В схеме рядом с наиболее трудными вопросами помещены пояснения. Ввиду неоднозначности некоторых вопросов могут возникнуть проблемы понимания. Для этого и даются пояснения. Если и они не развеют Ваших сомнений, то попросите помочь руководителя тестирования, предварительно подняв руку.
В качестве примера разберем понятие «БАЛТИЙСКОЕ МОРЕ».
1?— это непустое понятие, так как Балтийское море существует и обозначается именно этим термином.
2?— да, это конкретное непустое понятие, оно является понятием о существующем конкретном объекте.
3? — отрицательный ответ на данный вопрос говорит о том, что исследуемое понятие не отражает посторонние признаки, а именно те, которые принадлежат объекту.
4? — отрицание относительности данного понятия объясняется тем, что в любых условиях, с любой точки зрения Балтийское море абсолютно.
Таким образом, «Балтийское море» есть абсолютное, конкретное непустое понятие!
?— ответ на вопрос о «конечности» данного понятия очевиден, так как в данном случае имеет место конкретное определение — не просто МОРЕ, а именно Балтийское.
? — понятие «Балтийское море» имеет единственное число - это очевидно.
? — на последний вопрос помогает ответить подсказка (табличка, обозначенная штрих-пунктиром) — это не собирательное понятие.
В результате нашего логического исследования мы вышли на табличку, обозначенную цифрой 8, - РЕГИСТРИРУЮЩЕЕ ЕДИНИЧНОЕ НЕСОБИРАТЕЛЬНОЕ ПОНЯТИЕ. Данное определение можно запомнить, а цифру записать в регистрационный бланк напротив позиции «БАЛТИЙСКОЕ МОРЕ» в графе «№ ответа».
Таким образом и продолжайте работу!
Работайте самостоятельно! Желаем удачи!
Регистрационный бланк САД
Фамилия И. О._________________
Рис. 9. Регистрационный бланк к тесту САД (1993)
По требованию экспериментатора обследуемые заполняют «паспортные данные» в регистрационном бланке и по команде начинают работать. Время отработки заданий хронометрируется. В ходе тестирования экспериментатор контролирует действия испытуемых. После тестирования регистрационные бланки сдаются руководителю.
Отработка регистрационных бланков осуществляется при помощи «ключа». За каждый правильный ответ испытуемому присуждается один «сырой» балл. Таким образом, на регистрационном бланке в соответствующих графах (Σ отв. 1 =; Σ отв.2 =; Σ т =; Σ г =) записываются соответственно сумма баллов, набранных при отработке первого и второго заданий, которые отражают темп познавательной деятельности (обучаемости) испытуемых, и сумма баллов по профилю их направленности (мотивации) деятельности.
Результаты обследования интерпретируются по двум направлениям. Во-первых, высокий общий суммарный балл по двум тестам показывает высокую способность испытуемого к усвоению предложенной информации, то есть высокую общую обучаемость. Во-вторых, высокий суммарный балл по определенным профилям деятельности в конкретной профессиональной сфере определяет направленность (мотивацию) испытуемого. Исходя из этого делается вывод о темпе обучаемости и профессиональной направленности испытуемого.
4). Расчет надежности методики САД.
Под надежностью тестов понимается согласованность результатов неоднократного тестирования при помощи данной методики (А. Анастази, 1982). Надежность методики САД определялась тремя способами: ретестирования, параллельного тестирования и методом «расщепления» (надежность частей) теста.
а) Ретестовая надежность определялась при помощи коэффициента корреляции Пирсона через интервал ретестирования пять, два месяца и две недели. Величина коэффициентов надежности (Rхх) показана ниже в табл. 15.
Таблица 15
Величина коэффициентов надежности (Rхх) ТПА-САД
Интервал ретестирования | Субтесты (СТ/САМ) | Величины коэффициента надежности (Rxx) | Доверительный интервал |
5 месяцев | СТ | 0.6 | 0.01 |
САМ | 0,58 | 0.01 | |
2 месяца | СТ | 0.7 | 0.01 |
САМ | 0.54 | ||
2 недели | СТ | 0.8 | 0.01 |
САМ | 0.59 | 0.01 |
б) Расчет надежности методики методом параллельных форм осуществлен при использовании методики Равена (Дж. Равен, 1936) и семантического дифференциала (Ч. Осгуд, 1952) в качестве параллельных тестов. Показатели методики Равена использованы как опорные для сопоставления с показателями обучаемости (темпа усвоения информации), а семантического дифференциала (СД) — с показателями направленности.
В первом случае коэффициент надежности (Rxx) определен при помощи формулы:
где x1i — показатели обучаемости методики САД;
x2i — показатели методики Равена;
N — объем выборки.
Коэффициент корреляции СТ с показателями методики Равена (В и ∑) составил Rxx = 0.4, а теста САМ с показателями методики Равена (С, Е и ∑) — 0.47 при с < 0.01.
При определении надежности мотивационной части САД сопоставлены показатели СД и аналогичные показатели САМ, измеренные в дихотомической шкале наименований. В качестве коэффициентов надежности использованы коэффициент контингенции (Q) и коэффициент ассоциации (Ф), которые равны, соответственно, Q = 0.8; Ф = 0.5 (с ≤ 0.01).
в) Расчет надежности методом расщепления теста осуществлен при помощи формулы [32]:
где К — число задач в заданиях;
pi — доля 1-го варианта ответа на i-й вопрос;
qi — доля 2-го варианта ответана i-й вопрос.
При К- 18 (тестСАМ); Σpi*qi = 3.69; Σ х2= 16.16; Rхх = 0.82 (р = 0.05).
Интерпретация коэффициента надежности: 82% дисперсии результатов теста САМ зависят от истинной дисперсии по измеряемому свойству (обучаемости), а 18% — от дисперсии ошибки (или вследствие других влияний неких факторов).
5). Расчет валидности методики САД. Проблема валидности технологии САД требует особого и длительного разговора. На наш взгляд, главным здесь является пункт, посвященный перекрестной валидизации. Так как тест создавался для задач профориентации молодежи и был рассчитан на подростков, обучающихся в школе, то в основе своей он содержит принцип измерения профилированной обучаемости. Он оптимален для реализации целей диагностики обучаемости студентов, учащихся различных курсов и колледжей. Но как только пользователь касается сферы смыслообразования, исследования мотивации и операциональной части в процессе реальной деятельности взрослых людей, методика меняет свой предметный облик. Она начинает «видеть» тех испытуемых, которые имеют малый опыт, менее успешны, у которых еще не завершен процесс обучения-становления как профессионала. Тест продолжает фиксировать процесс интериоризации, а ему уже навязывают другой «внешний критерий», а именно поиск наиболее профессионально успешных. Объяснение здесь простое: в ситуации научения внешний критерий — это скорость и качество сформированного навыка, а в реальной профессиональной деятельности навык продолжает формироваться только у менее опытных и поэтому менее квалифицированных испытуемых. Методика, оценивая обучение, в первом случае высоко коррелирует с результатом, а во втором — практически не соответствует ему.
На этих проблемах концептуальной и перекрестной валидности мы подробнее остановимся ниже.
Внутренняя ваяидность ТПА-САДопределяется путем исследования концептуальной, содержательной, конструктной, операциональной и расчета эмпирической валидности.