Особенности классического условного рефлекса
Смысл классического условнорефлекторного научения заключается в том, что через определенные интервалы времени после условного раздражителя предъявляется какой-либо безусловный (подкрепляющий) раздражитель. Подкрепляющий раздражитель (подкрепление) следует за условным сигналом независимо от того, будет ли осуществляться видимая ответная реакция организма или нет. При достаточно многократных повторениях условного и безусловного раздражителей, изолированное действие условного стимула начнет вызывать условную реакцию, которая полностью или частично имитирует безусловную реакцию на подкрепляющий раздражитель. По мнению А. С. Батуева, "благодаря этим условным рефлексам обеспечивается
первичная ориентация животного по признакам окружающей среды еше с самого начала любого поведенческого акта. С помощью классических условных рефлексов животное адаптируется к внешней среде. Принимая во внимание модулирующее значение физиологических потребностей, в этих случаях животное все же выступает в качестве достаточно пассивного участника событий, не имеющего возможности кардинально изменить их последовательность. Деятельное же, активное начало сведено к достаточно простым безусловнорефлекторным актам".
Выработка классических условных рефлексов подчиняется следующим правилам:
1. Для образования условного рефлекса необходимо совпадение во времени (сочетание) двух раздражителей: безусловного и индифферентного (условного). Под безусловным раздражителем понимается такое воздействие на животное, которое вызывает врожденную (безусловную) реакцию - глотание (при попадании пищи в рот), слюноотделение, почесывание и т. п. В качестве условного раздражителя, как правило, используются воздействия, не имеющие отношения к данной безусловной реакции, т.е. безразличные, индифферентные ей.
2. Условный раздражитель должен предшествовать действию безусловного раздражителя. При обратном порядке следования раздражителей условные рефлексы не образуются, или возникают с большим трудом. Для большинства условных рефлексов наиболее эффективно 0,5-секундное опережение условным раздражителем безусловного.
3. Условный раздражитель должен быть физиологически более слабым по сравнению с безусловным. Например, звуковая команда должна быть такой силы, чтобы не вызывать выраженной ориентировочной реакции со слухового анализатора. Увеличение интенсивности безусловного раздражителя (подкрепления) обычно повышает скорость научения, но только до определенного уровня.
4. Для образования условного рефлекса необходимо нормальное, рабочее состояние высших отделов центральной нервной системы. Образование условных рефлексов возможно лишь при определенном уровне возбуждения мозга. На фоне различных видов торможения научение происходит очень медленно или не происходит вовсе.
5. Во время отработки условного рефлекса кора головного мозга должна быть свободна от других видов деятельности. Если у животного во время образования условного рефлекса выражена какая-либо посторонняя потребность, научение, как правило, не происходит.
Существует несколько классификаций условных рефлексов:
1) по рецепторному признаку:
- экстероцептивные условные рефлексы образуются на раздражения внешней среды;
- интероцептивные условные рефлексы образуются на раздражения из внутренней среды организма. Такие рефлексы образуются более медленно по сравнению с экстероцептивными; ;
- проприоцептивные условные рефлексы образуются при сочетании раздражения мышц и сухожилий с безусловным рефлексом;
2) по эффекторному признаку:
- вегетативные условные рефлексы образуются на базе всех без исключения обменных процессов, протекающих в организме;
- сомато-двигательные условные рефлексы образуются на базе безусловнорефлекторных двигательных реакций. Простые двигателыю-оборонительные рефлексы образуются очень быстро;
3) в зависимости от соотношения во времени действия условного и безусловного
раздражителей:
- наличные условные рефлексы, образующиеся при совпадении во времени условного раздражителя и подкрепления. К наличным относят совпадающие условные рефлексы, когда подкрепление почти сразу же (не позднее 1-2 сек) присоединяется к действию условного раздражителя. Оставленные условные рефлексы при образовании которых подкрепление присоединяется к условному раздражителю спустя 5-30 сек. Запаздывающие рефлексы, когда подкрепление предъявляется после длительного изолированного действия условного раздражителя:
- следовые условные рефлексы, при образовании которых условный раздражитель и подкрепление отделены друг от друга определенными интервалами времени, то есть подкрепление сочетается с какими-то остаточными процессами возбуждения в анализаторных клетках коркового пункта условного раздражителя. В данном случае условным раздражителем становится не сам сигнал, а какой-то след от его действия. При образовании таких рефлексов, время между действием условного и безусловного раздражителей может составлять от 1 до 4 минут;
4) в зависимости от структуры условного сигнала:
- условные рефлексы на простые раздражители;
- рефлексы на одновременные комплексные раздражители, состоящие из нескольких компонентов, действующих одновременно:
- рефлексы на последовательные комплексные раздражители, отдельные компоненты которых действуют последовательно, накладываясь друг на друга;
- условные рефлексы на цепи раздражителей, когда отдельные компоненты сложного раздражителя действуют последовательно не совпадая друг с другом. Условные рефлексы на сложные раздражители вырабатываются быстро и легко, как на простые раздражители. Сначала условнорефлекторная реакция возникает не только на сложный раздражитель, но и на его отдельно взятые компоненты при их изолированном применении. По мере упрочнения условного рефлекса, его компоненты постепенно утрачивают сигнальное значение изолированного применения и сливаются в единое целое;
5) в зависимости от особенностей подкрепления:
- условные рефлексы первого порядка, образующиеся на базе безусловных рефлексов, то есть при безусловнорефлекторном подкреплении;
- условные рефлексы высшего порядка, образующиеся на базе ранее выработанного условного рефлекса. Условные рефлексы второго порядка образуются при соблюдении определенных правил: пауза между вторичным условным раздражителем и первичным должна быть не менее 10 сек (если эта пауза будет меньше, то вместо условного рефлекса второго порядка, образуется условный тормоз). Чем сильнее вторичный раздражитель, тем труднее образуется условный рефлекс второго порядка. Условные рефлексы более высокого порядка (выше третьего) у собак выработать не удается:
- подражательные условные рефлексы, при выработке которых подкреплением является не безусловное раздражение, а лишь вид действия другого животного (однако в последнее время выяснилось, что это не так);
- ассоциации, образующиеся при сочетании индифферентных раздражителей, на базе ориентировочных реакций.
Выделяют также условные рефлексы на отношение (вес, размер и т.п.) и на временные интервалы (время). Условные рефлексы "на время" могут быть выработаны
на различные периоды - от нескольких секунд до часов.
Динамический стереотип.
Под динамическим стереотипом понимают зафиксированную систему условных и безусловных рефлексов, объединенных в единый функциональный комплекс. образующийся под влиянием стереотипно повторяющихся изменений и воздействие внешней и внутренней среды организма.
Неизменный, стереотипный порядок следования раздражителей получил название внешнего стереотипа.
Динамический стереотип вырабатывается с трудом, но образовавшись, приобретает инертность и при неизменных условиях существования становится все прочнее и прочнее. Переделка динамического стереотипа возможна, но представляет большую трудность для нервной системы.
Словарь терминов:классический условный рефлекс, условный раздражитель,безусловный раздражитель, подкрепляющий раздражитель, индифферентный раздражитель, экстерорецепторы, интерорецепторы, проприорецепторы, динамические стереотип.
Контрольные вопросы: В чем различия условного и безусловного раздражителей? Назовите условия образования классического условного рефлекса. По каким параметрам классифицируют классические условные рефлексы? Приведите пример формирования классического условного рефлекса при дрессировке? Что такое динамический стереотип? Роль динамического стереотипа в дрессировке.
9.5. Научение на основе образования инструментальных условных рефлексов (оперантное научение)
Отцом инструментальной формы научения считается Э. Торндайк, который еще в конце 19 века назвал такую форму научения обучением "методом проб, ошибок и случайного успеха". Но основной вклад в изучение закономерностей образования инструментальных условных рефлексов внес американский ученый Беррес Фредерик Скиннер. Предложенное им определение оперантного научения и оперантного условного рефлекса сейчас наиболее употребимы при характеристике инструментальной формы научения. Может быть не очень систематично, но популярно и талантливо оперантный метод научения и оперантный метод дрессировки изложен в работах американского психолога и дрессировщика Карен Прайор.
В противовес методике И. П. Павлова, Скиннер разработал методику свободного оперантного поведения, при которой животному позволяют совершать различные действия, нужные из которых подкрепляют. Чаще всего для таких опытов выбирались крысы и голуби, хотя использовались и другие животные, а также человек. Знаменитый "ящик Скиннера" на самом деле представляет собой ящик с одной из сторон которого имеется педаль (рычаг), который соединен с кормушкой. Снаружи за стенкой расположен сложный механизм, функция которого состоит в том, что после каждого нажатия на педаль в кормушку падает гранула корма. Как только крысу сажают в ящик, она начинает активно исследовать его - обнюхивать и карабкаться на стенки. При этом случайно нажимает на педаль после чего в кормушку падает корм. Обычно животное этого не замечает, но найдя пищу, съедает ее. Продолжая обследовать ящик, крыса
случайно нажимает на педаль и постепенно обнаруживает зависимость между действием и результатом. Как только временная связь станет для нее понятной, крыса начинает нажимать на педаль, когда захочет есть. Характерно, что вначале крыса нажимает на рычаг очень редко, затем число нажатий начинает медленно расти. После примерно 140 минут опыта число нажатий вдруг возрастает очень быстро. Совсем не обязательно ждать от животного случайного нажатия на рычаг. Это действие можно провоцировать (инициировать) различными способами, например, для обучения голубя клевать педаль, к ней можно приклеить зернышко. Если говорить о наработке форм поведения связанных с пищевой потребностью, то рекомендуется понизить массу тела животного до 80% (!) от первоначальной, то есть создать у животного выраженную пищевую потребность (мотивацию).
Хотя открытие и изучение инструментальных условных рефлексов считается заслугой американской науки, они исследовались и в школе И. П. Павлова (например, А Г. Ивановым-Смоленским, Г. Зеленым). Известный польский ученый Ю. М. Конорски, который также является учеником Павлова, считается одним из создателей теории об инструментальных условных рефлексах, которые он называл условными рефлексами второго типа.
Однако еще раньше в России описал эту форму научения и использовал ее в своей работе талантливый цирковой дрессировщик В. Л. Дуров.
Обстоятельства и ситуации в которые попадают животные вынуждают их совершать те или иные формы поведения, приспосабливаясь или активно сопротивляясь. Ученые назвали такое поведение оперантным (от латинского operatic - действие). Действия животных приводят к каким-либо последствиям или результатам, от которых зависит, будут ли они повторять эти действия или избегать их. То есть инструментальные условные рефлексы строятся на основе активной целенаправленной деятельности животного. Последовательность событий и результат их в данном случае, зависят не только от внешней сигнализации, но и от поведения самого животного. Таким образом, первое отличие инструментального условного рефлекса от классического заключается в активной, целенаправленной деятельности обучающегося животного. Вторым отличием является то. что инструментальный рефлекс не воспроизводит лежащую в его основе безусловную реакцию, в то время как классический условный рефлекс частично или полностью воспроизводит ее.
При образовании инструментальных условных рефлексов основную роль играет внутренняя активность животного - его потребность и мотивация. То есть в основе поведения лежит не внешняя сигнализация, а внутренняя потребность животного. И считается, что выбор реакции животным определяется не вызывающим ее раздражителем, а установлением временной последовательности между реакцией, выполняемой животным в данной ситуации и подкрепляющим раздражителем. При классических условных рефлексах связь устанавливается между стимулами и результатом, а при инструментальном научении, она возникает между реакцией и результатом. Таким образом, действие животного приобретает сигнальную функцию по отношению к результату (подкреплению).
Эффективность научения в форме образования инструментальных условных рефлексов заключается не только в том, что животное само стремится совершить какое-либо действие, но и в том, что подкрепление - это не просто событие, связанное временной последовательностью с каким-либо сигналом, а всегда удовлетворение доминирующей потребности, поэтому и становится биологически важным, а действия приводящие к нему - биологически целесообразными.
Несмотря на кажущуюся близость инструментальных условных рефлексов двигательным классическим рефлексам, специальными исследованиями было доказано существование различий между ними. В одном из них собака должна была до тех пор реагировать на первый раздражитель, пока не предъявлялся второй, за которым следовало пищевое подкрепление. Оказалось, что первый раздражитель вызывал инструментальную реакцию, не сопровождающуюся слюноотделением, тогда как второй вызывал слюноотделение.
Но следует отметить, что хотя естественное поведение животных в основном инструментально, в формировании поведенческого акта трудно различить роль и участие того или иного вида условного рефлекса.
Этапы оперантного научения:
1. Создание состояния выраженной потребности у животного.
2. Первичная инициация нужного поведения (поведенческого акта) одним из способов дрессировки. При этом избегаются способы болевого воздействия (оборонительного поведения) и предпочитаются способы, основанные на отборе поведения.
3. Создание условий при которых животные самостоятельно воспроизводят первично инициированное поведение.
4. Введение стимула, санкционирующего данный поведенческий акт.
5. Использование свойств подкрепления и тренировочного процесса для закрепления поведенческого акта до навыка.
Оперантное научение может быть основано на любой потребности, выбор которой определяется задачами дрессировки и особенностями животного. Например, для одной собаки при отработке навыка подхода к дрессировщику, можно применить социальную потребность (потребность в стае), для другой эффективней использование пищевой потребности, а с третьей - приходится применять потребность в самосохранении или оборонительную.
Инициировать нужное поведение можно любым способом, однако в оперантной дрессировке наиболее употребимы способы отбора поведения, усиления поведенческого акта или его элемента и наведения. Важно вовремя прекратить применение вспомогательных способов, добиваясь самостоятельности животного.
Введение команды можно осуществить как на втором этапе, так и после отработки необходимого действия.
При оперантном научении подкреплению придается особое значение, так как оно определяет скорость и эффективность научения. При этом учитывают знак, величину, режим и время подкрепления. С подкреплением связано несколько "золотых" правил дрессировки:
1. Закрепляется то, что подкрепляется.
2. Отмена положительного подкрепления несет информацию отрицательного подкрепления.
3. Вариабельный режим подкрепления способствует более быстрому закреплению действия и более медленному его угашению.
Многократное повторения действия, связанное с изменением режима подкрепления и сменой мотивации, обеспечивает автоматизацию поведенческого акта до навыка.
Словарь терминов: инструментальный (оперантный) условный рефлекс, oneрантное поведение, вариабельный режим подкрепления, стимул.
Контрольные вопросы: Назовите основные отличия инструментального условного рефлекса от классического условного рефлекса. В чем заключается смысл научения по методу проб, ошибок и случайного успеха? Приведите пример выработки оперантного условного рефлекса при дрессировке. Почему отмена положительного подкрепления воспринимается животным как отрицательное подкрепление?
Имитационное научение.