Часть 2. Волновые нейронные сети

Фоновая активность

Вернемся к описанию работы реальных нейронов. Сигналы от одних нейронов через их аксоны поступают на входы других нейронов. В химических синапсах происходит выброс медиатора, который в зависимости от типа синапса оказывает либо активирующее, либо тормозящее воздействие на принимающий сигнал нейрон. Чувствительностью синапса, которая может меняться, определяется вклад этого синапса в общее возбуждение. Если суммарное воздействие превышает определенный порог, то происходит деполяризация мембраны и нейрон генерирует спайк. Спайк – это одиночный импульс, продолжительность и амплитуда которого не зависит от того, какая синаптическая активность его породила.

Самая простая модель, навеянная импульсной активностью нейрона, – это модель порогового сумматора. При этом, исходя из того, что спайк можно сопоставить с бинарным сигналом, полагают, что входы и выход сумматора принимают значения только 0 и 1. Если на входы такого формального нейрона подавать импульсную картину, повторяющуюся от такта к такту, то нейрон в зависимости от настройки его весов должен либо каждый такт выдавать ответный сигнал, либо молчать. Это вполне логично – постоянная входная картина соответствует постоянному результату на выходе.

Если попытаться приблизить модель порогового сумматора к реальности, то первое, что придется сделать – это допустить, что картина входной активности может быть не строго синхронна. То есть сигналы на разных входах могут кодироваться импульсами, имеющими каждый свою частоту. При таком допущении уже нельзя просто использовать мгновенную картину состояния входов. Потребуется подобрать показательный временной интервал и пользоваться накопленной за этот интервал картиной активности. При разных частотах входных сигналов на некоторых интервалах входные импульсы будут образовывать кучности, достаточные для активации нейрона, а на других давать разряжения, оставляя нейрон неактивным. Таким образом, ответ нейрона приобретет собственную частоту, которая будет зависеть от частоты входных сигналов и чувствительности соответствующих синапсов.

Такие рассуждения приводят нас к модели нейрона как линейного сумматора, в которой уровень сигналов на входах нейрона и его ответ описываются не двумя уровнями, а вещественными величинами, которые соответствуют частотам следования спайков. Переход к линейному сумматору позволяет сильно упростить моделирование и отчасти забыть про изначальную химическую природу нейронной активности.

Но все имеет свое начало. Чтобы информация поступила в мозг, необходимы нейроны, взаимодействующие с внешним миром. Чувствительность такого взаимодействия резко отличается от синаптической чувствительности. В синапсах, количество которых у одного нейрона может измеряться десятками тысяч, медиатор высвобождается из пузырьков, имеющих постоянную емкость. Минимальный квант выброса медиатора – это порция из порядка 7 000 молекул. Сенсорные нейроны работают совсем с другими объемами. Так, зрительные палочки активируются буквально от двух квантов света, нейроны-рецепторы обонятельной системы способны обнаружить всего несколько молекул пахучего вещества. Столь высокая восприимчивость достигается за счет механизмов внутреннего усиления сигнала.

Взаимодействие нейрона с окружающей средой происходит за счет белковых молекул – рецепторов, которые позволяют внешнему химическому воздействию изменять состояние внутри клетки. Вещество, которое взаимодействует с определенным типом рецепторов, называют их лигандом. Для синаптических рецепторов лиганды – это те самые нейромедиаторы, что обеспечивают взаимодействие нейронов.

Соседние рецепторы могут соединяться, создавая димеры (рисунок ниже), которые в свою очередь, объединяясь, формируют рецептивные кластеры.

Часть 2. Волновые нейронные сети - student2.ru

Кластеризация рецепторов. А – одиночный рецептор и его взаимодействие с окружающими рецепторами. Б – мономерная рецептивная молекула. В – рецептивный димер. Г – объединение двух мономеров в контактный (Д) и комбинационный (Е) димеры. (Радченко, 2007)

Рецепторы делятся на ионотропные и метаботропные. Ионотропные рецепторы создают ионные каналы, которые перемещают заряженные ионы через мембрану, меняя мембранный потенциал. Когда лиганд взаимодействует с ионотропным рецептором, последний меняет проводимость ионного канала, открывая или закрывая его. Именно такие рецепторы расположены в синаптических щелях. Их совместная работа определяет, быть или не быть спайку, вызванному сложением внешних сигналов.

Несколько иная природа у метаботропных рецепторов. Они располагаются за пределами синапсов и не создают ионных каналов. При взаимодействии со своим лигандом они запускают работу внутриклеточных посредников, которые обеспечивают усиление исходного сигнала в сотни тысяч раз, что в итоге приводит к активации нейрона. Это означает, что даже малая доля вещества, которое является лигандом для метаботропного рецептора, может вызвать у соответствующего нейрона спайк. Такой механизм используют сенсорные нейроны, именно он позволяет им реагировать на ничтожные сторонние воздействия. Но кроме сенсорного восприятия метаботропные рецепторы отвечают и за существенную долю мозговой активности вообще.

Характерный стимул для нейрона – это такая картина входных сигналов, которая совпадает с картиной чувствительности его синапсов. Чем ближе входной сигнал к характерному стимулу, тем выше частота спайков, генерируемых нейроном. Эту реакцию принято называть вызванной активностью. Она возникает у всех тех нейронов, которые как-то отреагировали на текущий образ. Но вызванная активность составляет лишь незначительную часть общей активности мозга. Основная же активность приходится на так называемую фоновую активность (рисунок ниже).

Часть 2. Волновые нейронные сети - student2.ru

Реакция нейрона на стимул и фоновая (спонтанная) активность

Фоновая активность складывается из возникающих время от времени одиночных спайков. Такие спайки называют спонтанными, так как они проявляются независимо от наличия или отсутствия вызванной активности. Если оградить мозг от внешней информации, спонтанная активность на сенсорных зонах не ослабнет, а наоборот, только усилится. Для отдельного нейрона его спонтанная активность выглядит серией случайных спайков. Но для нейронов одной зоны коры эта активность складывается в общий ритм, что суммарно создает значительные электрические колебания. Именно эти колебания можно зафиксировать, приложив электроды к коже головы, что собственно и называется электроэнцефалографией.

Для разных зон коры и разных состояний человека свойственны свои частоты и уровни таких ритмов. Наиболее сильно ритм от отдельной зоны коры прослеживается на участке кожи, находящемся непосредственно над этой зоной. Поэтому для записи ритмов мозга используют набор электродов, равномерно распределенных по поверхности головы. Результат выглядит как набор графиков, каждый из которых записан от своего электрода (рисунок ниже).

Часть 2. Волновые нейронные сети - student2.ru

Пример электроэнцефалограммы. Резкое увеличение амплитуды соответствует началу эпилептического припадка

Если вызванная активность – это следствие работы ионотропных рецепторов, то спонтанная активность – результат срабатывания рецепторов метаботропных. Когда импульсы регулярной или спонтанной активности, распространяясь по аксону, доходят до нейрона получателя, они вызывают выброс медиатора в синаптическую щель. Этот медиатор определяет вклад синапса в процесс вызванной активности нейрона. Затем происходит его обратный захват, и синапс восстанавливается до своего исходного состояния. Но часть медиатора выбрасывается за пределы синаптической щели и растекается по пространству, образованному телами нейронов и телами окружающих их глиальных клеток. Это явление называется спиловером от английского spillover – переполнение, перелив. Расположенные поблизости друг от друга синапсы образуют так называемые синаптические ловушки. В этих ловушках тормозные и активирующие медиаторы создают интерференционную картину. Это значит, что каждое сочетание импульсов вызывает пучность медиатора в определенном уникальном месте мембраны. А.Н. Радченко показал, что метаботропные рецептивные кластеры, расположенные в местах таких пучностей, способны менять свои свойства и впоследствии реагировать на повторение той же окружающей импульсной картины (Радченко, 2007).

Часть 2. Волновые нейронные сети - student2.ru

Различные состояния метаботропного рецептивного кластера (Радченко, 2007)

Радченко описал несколько состояний, характерных для метаботропных рецептивных кластеров, и сопоставил эти состояния с различными стадиями запоминания (рисунок выше). Способность рецепторов влиять на состояние клетки зависит от положения их расщепленных концов. Чем больше расстояние между ними, тем сильнее наружные концы выступают на поверхности, а внутренние проникают в среду клетки. Соответственно, большему расстоянию соответствует большая чувствительность рецептора. При уменьшении расстояния концы рецепторов погружаются в мембрану, и рецепторы утрачивают свою способность влиять на состояние нейрона. Расстояние может управляться мембранным потенциалом нейрона. Деполяризация выталкивает концевые части из мембраны наружу и внутрь клетки соответственно, а гиперполяризация встречно втягивает их в мембрану.

Изначально метаботропные рецептивные кластеры обладают гистерезисными характеристиками. Гистерезис подразумевает, что поведение системы определяется ее предысторией (график ниже). Перейдя в определенное устойчивое насыщенное состояние, система не возвращается обратно после снятия усилия, а остается в этом положении. Для выведения ее из этого положения теперь необходимо приложить обратное усилие, которое после перехода определенного порога переведет систему в другое устойчивое состояние, обладающее тем же свойством «залипания».

Часть 2. Волновые нейронные сети - student2.ru

Гистерезис

Гистерезис придает рецепторам свойства триггера. Реагируя на пучность медиатора, рецепторы могут «залипать» как в состоянии вытолкнутости из мембраны, так и в состоянии погружения в нее. Первое состояние говорит о том, что нейрон становится чувствителен к определенной картине окружающей активности и может отреагировать на ее повторение собственным спайком, второе, наоборот, делает его к ней невосприимчивым. Но это залипание носит краткосрочный характер, так как определенное изменение мембранного потенциала может сбросить кластер в исходное состояние.

Радченко сопоставил такое поведение рецептивных кластеров с краткосрочной (кратковременной) памятью. То есть то, что в каждый конкретный момент определяет нашу мысль – это, с одной стороны, картина активности нейронов, а с другой стороны, такая фиксация следов этой активности, которая позволяет быстро восстанавливать недавние картины. Недолговечность этих следов обеспечивает оперативность памяти. Мы можем быстро вернуться к мысли, которая была секунду или минуту назад, но теряем эту легкость, когда проходят часы или сутки.

Под воздействием медиаторов и сильного сдвига мембранного потенциала рецепторы могут терять гистерезисные свойства и переходить в стабильный режим, который надолго фиксирует приобретенное состояние кластера, что можно сопоставить с долговременной памятью. При этом в зависимости от положения фиксации, вытолкнутое состояние или утопленное, кластер либо реагирует на определенную картину активности, либо наоборот – приобретает стабильную нечувствительность к ней. Эти устойчивые состояния могут храниться очень долго, можно сказать вечно, хотя при определенных условиях и они могут быть перезаписаны.

Далее в нашей модели мы будем исходить из того, что нейроны мозга обладают тремя формами хранения информации. Одна форма – это изменение чувствительности синапсов, что определяет характерный для нейрона образ. Вторая форма – это кратковременная триггерная фиксация на метаботропных рецептивных кластерах картины окружающей активности. И третья – это долговременная фиксация, за счет перехода рецептивных кластеров в устойчивое состояние, части кратковременно зафиксированных картин.

Чувствительность синапсов нейрона описывает единственный характерный для него образ (если не учитывать нейроны с несколькими секциями синапсов). При этом внесинаптическая поверхность нейрона, которая содержит сотни тысяч метаботропных рецептивных кластеров, может хранить сопоставимое число воспоминаний, указывающих, в каких событиях проявлялся этот характерный образ.

Обратите внимание, что импульсная активность нейронов складывается из двух составляющих. Одна составляющая – это картина вызванной активности, которая говорит о том, какие нейроны узнали характерные для них стимулы. Вторая составляющая – это картина условно спонтанной активности, которая существует относительно независимо от первой, и которая создает общий фон работы мозга. Этот фон менее акцентирован, чем вызванная активность, но более масштабен, так как распространен по всему пространству коры.

Волны мозга

Итак, в нашей модели текущее состояние мозга складывается из двух существующих параллельно картин. Первая – это картина вызванной активности нейронов. Она создает описание происходящего через активность ранее сформированных факторов. Вторая картина – это глобальный рисунок фоновой активности.

Отголоски фоновой активности наблюдают, фиксируя электроэнцефалограмму. Записываемые сигналы имеют сложную форму и зависят от места приложения электродов к голове, но, тем не менее, в них достаточно четко прослеживаются отдельные гармонические составляющие. Основные ритмы получили названия:

  • альфа-ритм (от 8 до 13 Гц);
  • бета-ритм (от 15 до 35 Гц);
  • гамма-ритм (от 35 до 100 Гц);
  • дельта-ритм (от 0,5 до 4 Гц);
  • тэта-ритм (от 5 до 7 Гц);
  • сигма-ритм «веретена» (от 13 до 14 Гц).

Природу ритмов традиционно принято соотносить с осциляторными свойствами нейронов. Так, поведение одиночного нейрона описывается уравнениями Ходжкина-Хаксли (Hodgkin, 1952):

⎧⎩⎨⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪CmdVdt=Iion;dmdt=αm(V)(1−m)+βm(V)m;dhdt=αh(V)(1−h)+βm(V)h;dndt=αn(V)(1−n)+βm(V)n;

Iion=−gNam3h(V−VNa)−gkn4(V−Vk)−ge(V−Ve)αm(V)=0,1(25−V)/((exp(25−V)/10)−1)βm(V)=4exp(−V/18)αh(V)=0,07exp(−V/20)βh(V)=1/(1+exp((30−V)/10))αn(V)=0,01(10−V)/(1+exp((10−V)/10))βn(V)=0,125exp(−V/80)

Эти уравнения определяют автоволновой процесс, то есть предписывают нейрону генерировать импульсы. Модель Ходжкина-Хаксли сложна для моделирования. Поэтому существует достаточно много ее упрощений, сохраняющих основные генерирующие свойства. Наиболее популярные модели: Фитцхью-Нагумо (Fitzhugh, 1961), Моррис-Лекара (Morris C., Lecar H., 1981), Хиндмарш-Роуз (Hindmarsh J. L., and Rose R. M., 1984). Многие модели, например, Хиндмарш-Роуз позволяют смоделировать как пачечную активность, так и обособленные спайки (рисунок ниже).

Часть 2. Волновые нейронные сети - student2.ru

Пачечная активность и спайки, возникающие при моделировании нейрона Хиндмарш-Роуз

Объединяя нейроны, генерирующие собственные импульсы, в конструкции, напоминающие строение реальной коры, удается воспроизвести различные эффекты, характерные для групповой активности реальных нейронов. Например, можно добиться глобальной синхронизации нейронной активности или вызвать появление волн. Наиболее известные модели: Вилсона-Кована (H.R. Wilson and J.D. Cowan, 1972) и Куромото (Kuramoto, 1984).

Электроэнцефалограмма фиксирует отголоски совместной активности нейронов, но понятно, что у этой активности есть определенная пространственно-временная организация. Методы оптического наблюдения за активностью коры позволяют увидеть ее в живую. У подопытного животного обнажают участок коры и вводят специальный краситель, чувствительный к изменениям электрического потенциала. Под воздействием суммарных колебаний мембранного потенциала нейронов такой краситель меняет свои спектральные свойства. И хотя эти изменения крайне малы, они, тем не менее, могут быть зафиксированы, например, с помощью диодного массива, выполняющего роль высокоскоростной видеокамеры. Оптические методы не позволяют заглянуть вглубь коры и проследить активность отдельных нейронов, но они дают возможность составить общее представление о течении волновых процессов на ее поверхности.

Часть 2. Волновые нейронные сети - student2.ru

Схема оптической фиксации активности коры (Michael T. Lippert, Kentaroh Takagaki, Weifeng Xu, Xiaoying Huang, Jian-Young Wu , 2007)

Оказалось, что ритмам мозга соответствуют волны, возникающие в точечных источниках и распространяющиеся по коре, как круги по воде. Правда, фронт волны на воде расходится строго по кругу, а фронт волны активности нейронов мозга может распространяться более сложным образом. На рисунке ниже показаны картины распространения волн на 5 миллиметровом участке коры мозга крысы.

Часть 2. Волновые нейронные сети - student2.ru

Картина распространения волны активности на участке коры мозга крысы. Потенциал показан градиентом от синего к красному. 14 кадров с интервалом 6 миллисекунд покрывают один цикл распространения волны (84 миллисекунды – 12 Гц) (Michael T. Lippert, Kentaroh Takagaki, Weifeng Xu, Xiaoying Huang, Jian-Young Wu , 2007)

Очень интересные и показательные видеозаписи волновой активности приведены в работе (W.-F. Xu, X.-Y. Huang, K. Takagaki, and J.-Y. Wu, 2007). Там показано, что волны могут уплотняться, доходя до границы зоны коры, могут отражаться от другой зоны и создавать встречную волну, могут распространяться двойными спиралями и создавать вихри.

Часть 2. Волновые нейронные сети - student2.ru

Компрессия и отражение волны в первичной зрительной коре (W.-F. Xu, X.-Y. Huang, K. Takagaki, and J.-Y. Wu, 2007)

Видео из той же работы (W.-F. Xu, X.-Y. Huang, K. Takagaki, and J.-Y. Wu, 2007):

Используя модели осциллирующих нейронов, можно и в компьютерных экспериментах получить аналогичные волновые картины. Но сама по себе такая пульсация не несет большого смысла. Вполне разумно предположить, что волны активности – это механизм переноса и обработки информации. Но попытки в традиционных моделях объяснить природу этого механизма не дали ощутимых результатов. Кажется логичным допустить, что информация кодируется частотными и фазовыми характеристиками нейронных сигналов. Но это приводит к необходимости учитывать интерференционные процессы и ставит больше вопросов, чем вносит ясности.

Существует гипотеза, что волны «сканируют» кору, считывая с нее информацию для последующей ее передачи (Pitts W., McCulloch W.S., 1947). Это выглядит достаточно здраво, по крайней мере, относительно альфа-волн и первичной зрительной коры. Авторы этой гипотезы Мак-Каллок и Питс особо подчеркивали, что сканирование позволяет объяснить один важный феномен. Дело в том, что информация от первичной зрительной коры проецируется далее по волокнам белого вещества через пучки аксонов, явно недостаточные по своему объему для одновременной передачи всего состояния этой зоны коры. А значит, делали вывод они, сканирование позволяет использовать не только пространственный, но и временной код, что обеспечивает последовательную передачу требуемой информации.

Такая проблема узости проецирующих пучков существует не только для первичной зрительной коры, но и для всех остальных зон мозга. Количество волокон в проекционных путях много меньше количества нейронов, формирующих пространственную картину активности. Связи между зонами явно не в состоянии параллельно передать весь пространственно распределенный сигнал, а значит, требуется понимание того, как происходит сжатие и распаковка транслируемой по ним информации. Предположение о сканировании, хотя и не дает ответа на вопрос о самом механизме кодирования, тем не менее позволяет поставить перед собой правильные вопросы.

Наша модель в объяснении ритмов мозга опирается на приведенное выше описание природы метаботропной активности. Использование представления о том, что в процесс создания ритмов вовлечены не только синапсы нейронов, но и метаботропные рецептивные кластеры, позволяет получить результат, качественно отличающийся от всех классических теорий. Но перед тем как перейти к описанию этого, хочу сделать предупреждение. Я сознательно буду описывать упрощенные идеализированные модели, ставя им в соответствие определенные процессы, свойственные реальному мозгу, но, не утверждая, что мозг работает именно так. Наша задача – показать базовые принципы, понимая, что эволюция ушла далеко вперед и их подлинная реализация значительно хитрее. Можно провести аналогию с развитием вычислительной техники. Современный компьютер достаточно сложен, и если мы начнем описывать базовые принципы классических вычислительных устройств, то окажется, что в чистом виде их уже практически невозможно встретить в современных системах. Базовое представление – процессор считывает из памяти программу и данные, выполняет над данными действия, предписанные программой, и записывает результаты обратно в память. А теперь добавьте к этому использование кэша различных уровней, многопоточность, гиперпоточность, параллельные вычисления с использованием локальной, групповой и общей памяти и тому подобное. И окажется, что трудно найти в реальном компьютере буквальное соблюдение простых правил. Собственно, все это надо учитывать, сопоставляя последующее описание с работой реального мозга.

Итак, возьмем модель участка коры, на которой создадим компактный паттерн вызванной активности. Пока оставим вопрос, как возник этот паттерн. Просто будем полагать, что есть элементы, на которых присутствует постоянный импульсный сигнал. На рисунке ниже нейроны, образующие такой паттерн, помечены красным. В реальной коре это соответствует аксонам, передающим пачечную активность, то есть выдающим серию спайков с высокой частотой. Эти аксоны могут принадлежать нейронам этой же зоны коры, находящимся в состоянии вызванного возбуждения, либо они могут быть проекционными волокнами, идущими от других участков мозга.

Часть 2. Волновые нейронные сети - student2.ru

Паттерн вызванной активности

Теперь заставим свободные нейроны генерировать редкие случайные импульсы. При этом наложим условие, что для случайного спайка требуется определенный уровень окружающей активности. Это значит, что случайные спайки смогут возникнуть только поблизости от уже активных нейронов. В нашем случае они появятся в окрестности паттерна вызванной активности. На рисунке ниже случайные спайки показаны зеленым цветом.

Обычно всю активность нейронов, которая не является вызванной, называют спонтанной или фоновой. Это не очень удачно, так как настраивает на восприятие всей этой активности как случайной. Далее мы покажем, что, в основном, фоновая активность строго предопределена и нисколько не случайна. И только малая ее часть – это действительно совершенно случайные спайки. Такие случайные спайки мы сейчас и создали вокруг активного паттерна.

Часть 2. Волновые нейронные сети - student2.ru

Первый шаг моделирования. Спонтанная активность на фоне вызванной активности

Смоделируем на наших формальных нейронах метаботропные рецептивные кластеры. Для этого дадим нейронам возможность запоминать, когда это необходимо, картину активности ближайшего окружения. Причем не ограничимся одной картиной для одного нейрона, как это было бы, запоминай мы на синапсах, а позволим каждому нейрону хранить множество таких картин.

Сделаем так, что наличие собственного случайного спайка и высокой окружающей активности будет каждый раз основанием запоминать картину окружающих импульсов (рисунок ниже). Далее наши нейроны будут давать единичные спайки каждый раз, когда будет повторяться одна из этих запомненных локальных картин. Чтобы не путать их со случайными спайками, будем называть эти спайки волновыми.

Часть 2. Волновые нейронные сети - student2.ru

Область фиксации активности для одного из нейронов, выдавших спонтанный спайк (он в центре квадрата). При моделировании для простоты использовались квадратные рецептивные поля, что хотя и не соответствует полям слежения у реальных нейронов, качественно не влияет на результат

В итоге на следующем шаге моделирования (рисунок ниже) мы получим картину, в которой будут те же, что и ранее, нейроны с вызванной активностью (красные), нейроны, среагировавшие на запомненные на предыдущем шаге локальные образы (белые), и нейроны, сгенерировавшие спонтанный спайк (зеленые).

Часть 2. Волновые нейронные сети - student2.ru

Второй шаг моделирования. Красные – вызванная активность, белые – волновая активность, зеленые – спонтанная активность

Повторяя шаги моделирования, мы получим распространяющуюся по коре активность с определенным уникальным случайно созданным узором.

Теперь введем условие усталости нейронов. Сделаем так, что после нескольких метаботропных (волновых) спайков нейроны будут терять на время, необходимое для релаксации, способность генерировать новые импульсы. Это приведет к тому, что активность будет распространяться не сплошной областью, а пульсирующими волнами, разбегающимися от своего источника.

Чтобы предотвратить «засорение», заблокируем спонтанную активность в областях, где велико количество релаксирующих нейронов. В результате мы получим кольцо нейронов с волновой активностью, разбегающееся от паттерна вызванной активности (рисунок ниже).

Часть 2. Волновые нейронные сети - student2.ru

Распространение фронта волны. Синие – нейроны, пребывающие в состоянии релаксации

Получившаяся волна по мере удаления от своего центра будет терять плотность фронта и рано или поздно затухнет. На рисунке ниже можно проследить первый цикл ее жизни.

Часть 2. Волновые нейронные сети - student2.ru

Первый цикл распространения волны идентификатора

После того как период релаксации пройдет, запустится новая волна. Теперь она будет подхвачена нейронами, уже прошедшими обучение, и распространится несколько дальше. С каждым новым циклом волна будет расширять границы своего распространения, пока не достигнет краев зоны. Чтобы предотвратить неограниченный рост плотности фронта волны, введем еще одно ограничение: запретим спонтанную активность для нейронов, когда общая активность вокруг них превышает определенный порог.

Через какое-то время мы получим кору, обученную распространять уникальную по своему узору волну активности, соответствующую заданному изначально паттерну вызванной активности (рисунок ниже).

Часть 2. Волновые нейронные сети - student2.ru

Распространение волны по уже обученной коре (после 200 тактов обучения)

Ниже видео этого процесса.

Обратите внимание: когда кора уже обучена на распространение волны от определенного паттерна, спонтанные (случайные) спайки исчезают. Такая «опытная» волна формируется за счет волновых, неслучайных спайков. Случайные спайки появляются только при обучении, когда фронт волны доходит до еще необученных или слабо обученных территорий. В этот момент спонтанные импульсы создают случайное продолжение волнового узора, которое тут же запоминается на поверхности нейронов, участвующих в этой волне. Но как только обучение заканчивается, волна от знакомого коре паттерна начинает распространяться по уже созданному волновому шаблону, каждый такт в точности повторяя на своем пути один и тот же уже неслучайный узор.

Обучение коры не обязательно должно быть поэтапным. При моделировании подбором параметров можно добиться, чтобы зародившаяся волна была самодостаточной. То есть, чтобы она не затухала на первых тактах, а сразу распространялась на все пространство (рисунок ниже).

Часть 2. Волновые нейронные сети - student2.ru

Пример незатухающего на первом цикле распространения обучающей волны

Так как ширина фронта волны постоянна, то его площадь возрастает по мере удаления от источника. Это соответствует тому, что в распространении активности участвует все больше нейронов. Если проследить суммарный потенциал, создаваемый ими, то получатся графики, напоминающие то, что мы видим на энцифолограммах (рисунок ниже).

Часть 2. Волновые нейронные сети - student2.ru

График ритмической активности модели с одним источником

Обратите внимание, что появление ритмов, наблюдаемых на таких «энцефалограммах», – это не ритм «дыхания» коры. То есть не синхронизация совместных всплесков активности, как полагается в большинстве существующих моделей, а изменение количества нейронов, вовлеченных в распространение расходящихся волн. Если новые волны будут излучаться еще до того, как исчезнут фронты предыдущих волн, то их сложение даст более сглаженную картину. При определенном подборе параметров на модели воспроизводятся ситуации, когда распространение волн практически не сопровождается суммарной ритмической активностью. Это можно соотнести с тем фактом, что у порядка 10 процентов людей на электроэнцефалограммах волновая активность не прослеживается.

Если теперь взять новый паттерн вызванной активности, то кора создаст волны, распространяющиеся и от него. Более того, такая кора обучается создавать волны для любого устойчивого паттерна вызванной активности. За счет того, что один и тот же нейрон может хранить множество локальных образов, он может быть частью сразу множества различных волн, соответствующих разным паттернам. Если мы захотим большей уникальности волн, то достаточно по мере накопления у нейрона запомненных им локальных образов снижать вероятность его спонтанного спайка.

Для запомненных локальных образов имеет смысл ввести механизм консолидации. То есть не фиксировать образ сразу на века, а установить время, в течение которого образ должен определенное количество раз повториться. Так как обучение волновому распространению и формирование устойчивых паттернов вызванной активности – процессы параллельные, то консолидация может позволить стереть следы неудачного обучения.

Но самое главное во всем этом – это уникальность каждой из полученных волновых историй. В любом месте, через которое проходит волна, она создает единственный, характерный только для нее рисунок. Это значит, что если на поверхности коры есть паттерн вызванной активности, который кодирует какое-либо событие, то волна, вызванная им, распространит информацию об этом по всему пространству коры. В каждом конкретном месте эта волна создаст свой неповторимый узор, уникальный только для этого события. Любое другое событие создаст в этом месте иной узор, связанный со своей волной. Это значит, что находясь в любом месте, мы можем настроиться на «прием» волны от какого-либо конкретного события и зафиксировать, когда оно произойдет по приходу волны с соответствующим узором.

В нашей модели получается, что фундаментальные свойства коры – это:

  • способность генерировать волны, расходящиеся от паттернов вызванной активности;
  • способность обучаться, проводить уникальные и стабильные для каждого паттерна узоры волн;
  • будучи обученной, способность распространять волны активности, возникающие вокруг устойчивых паттернов вызванной активности.

Каждому уникальному паттерну вызванной активности соответствует уникальная по своему узору волна, которую можно назвать идентификатором этого паттерна.

Теперь процесс обучения можно грубо представить следующим образом:

  • статистически устойчивые сигналы ведут к формированию нейронов-детекторов, которые за счет синаптической пластичности обучаются реагировать на определенные закономерности;
  • нейроны-детекторы, относящиеся к одной закономерности, образуют устойчивый паттерн;
  • каждый устойчивый паттерн по мере своей активности обучает кору распространять уникальную волну, соответствующую только этому паттерну, что можно трактовать как идентификатор этого паттерна;
  • каждое место коры, куда распространяются соответствующие волны, получает возможность узнать, какова общая информационная картина на текущий момент.

Из сказанного выше следует, что для своей полноценной работы мозг должен не только сформировать нейроны-детекторы различных явлений, но и обучить кору распространять соответствующие информационные волны. Это хорошо согласуется с тем фактом, что ритмическая активность у детей слабо выражена сразу после рождения и увеличивается по мере взросления.

Когда мы говорим о структурах мозга, которые реагируют на определенные явления, то в нашей концепции возникает их очевидный дуализм. Эти структуры не описываются исключительно какими-либо нейронами или группами нейронов, они дополняются еще и идентификационными волнами, которые позволяют распространить соответствующую информацию. Но, что интересно, – в каждом конкретном месте, через которое проходит волна, она ведет себя так же, как и породивший ее паттерн. В моментальном временном срезе она сама является паттерном, порождающим продолжение волны.

Нетрудно заметить, что такое распространение идентификационных волн повторяет принцип Гюйгенса-Френеля, описывающий распространение волн света. Суть его в том, что каждую точку фронта световой волны можно рассматривать как центр вторичного возмущения. Каждый такой центр порождает вторичные сферические волны. Итоговое световое поле есть интерференция этих волн. Огибающая вторичных волн становится фронтом волны в следующий момент времени, и так далее.

Часть 2. Волновые нейронные сети - student2.ru

Рефракция (слева) и интерференция (справа) по Гюйгенсу-Френелю

(Nordmann)

Разница в природе паттерна вызванной активности и паттерна, возникающего в процессе распространения волны, может быть обнаружена только по анализу причины активности входящих в них нейронов. Для вызванной активности – это картина на синапсах, для паттерна распространения – реакция метаботропных рецепторов. То есть отражение мозгом каких-либо явлений – это одновременно и паттерн и волна, причем в каждый конкретный момент времени, когда мы попытаемся зафиксировать распространение этой волны, мы увидим паттерн, отличный по узору, но не по сути от того, что дал начало волне.

Нетрудно заметить, что описанный дуализм достаточно точно соответствует дуализму элементарных частиц. Как известно, каждая частица – это одновременно и частица и волна. В зависимости от того, какие обстоятельства мы рассматриваем, частица может проявлять как волновые, так и корпускулярные свойства. Современная физика констатирует этот факт, но не дает ему объяснения. То, что мы описали о дуализме информационных образов, к счастью, несколько нагляднее, чем дуализм элементарных частиц. Конечно, напрашивается вопрос, можно ли продлить эти аналогии и использовать их для понимания физической картины мира? Это очень серьезный вопрос, и позже мы поговорим о случайности или не случайности такого совпадения.

Из дуализма информационных образов проистекают важные следствия. Как и частицы с разными спинами, два паттерна от разных волн могут находиться в одной пространственной области, не мешая друг другу. Более того, каждый из них вызывает продолжение собственной волны, не внося взаимных искажений. Если мы создадим несколько паттернов и обучим кору на распространение волн от каждого из них, то активировав эти паттерны совместно, мы сможем наблюдать прохождение волн друг сквозь друга с сохранением собственной уникальности (рисунок ниже).

Часть 2. Волновые нейронные сети - student2.ru

Моделирование прохождения волн от двух источников

Это сильно отличается от сплошных волновых проц

Наши рекомендации