Нейронные сети. Элементы нейронных сетей. Архитектура нейронных сетей. Модели нейронных сетей
Нейронные сети (Neural Networks) - это модели биологических нейронных сетей мозга, в которых нейроны имитируются относительно простыми, часто однотипными, элементами (искусственными нейронами).
Элементы нейронных сетей
Искусственный нейрон (формальный нейрон) - элемент искусственных нейронных сетей, моделирующий некоторые функции биологического нейрона.
Главная функция искусственного нейрона - формировать выходной сигнал в зависимости от сигналов, поступающих на его входы.
В самой распространенной конфигурации входные сигналы обрабатываются адаптивным сумматором, затем выходной сигнал сумматора поступает в нелинейный преобразователь, где преобразуется функцией активации, и результат подается на выход (в точку ветвления).
Нейрон характеризуется текущим состоянием и обладает группой синапсов - однонаправленных входных связей, соединенных с выходами других нейронов.
Нейрон имеет аксон - выходную связь данного нейрона, с которой сигнал (возбуждения или торможения) поступает на синапсы следующих нейронов.
Каждый синапс характеризуется величиной синаптической связи (ее весом wi).
Текущее состояние нейрона определяется как взвешенная сумма его входов:
Выход нейрона есть функция его состояния:
y = f(s).
Активационная функция, которую также называют характеристической функцией, - это нелинейная функция, вычисляющая выходной сигнал формального нейрона.
Часто используемые активационные функции:
Жесткая пороговая функция.
Линейный порог.
Сигмоидальная функция.
Нелинейный преобразователь - это элемент искусственного нейрона, преобразующий текущее состояние нейрона (выходной сигнал адаптивного сумматора) в выходной сигнал нейрона по некоторому нелинейному закону (активационной функции).
Точка ветвления (выход) - это элемент формального нейрона, посылающий его выходной сигнал по нескольким адресам и имеющий один вход и несколько выходов.
На вход точки ветвления обычно подается выходной сигнал нелинейного
преобразователя, который затем посылается на входы других нейронов.
Архитектура нейронных сетей
Нейронные сети могут быть синхронные и асинхронные.
В синхронных нейронных сетях в каждый момент времени свое состояние меняет лишь один нейрон.
В асинхронных - состояние меняется сразу у целой группы нейронов, как правило, у всего слоя.
Можно выделить две базовые архитектуры - слоистые и полносвязные сети.
Ключевым в слоистых сетях является понятие слоя.
Слой - один или несколько нейронов, на входы которых подается один и тот же общий сигнал.
Слоистые нейронные сети - нейронные сети, в которых нейроны разбиты на отдельные группы (слои) так, что обработка информации осуществляется послойно.
В слоистых сетях нейроны i-го слоя получают входные сигналы, преобразуют их и через точки ветвления передают нейронам (i+1) слоя. И так до k-го слоя, который выдает выходные сигналы для интерпретатора и пользователя. Число нейронов в каждом слое не связано с количеством нейронов в других слоях, может быть произвольным.
В рамках одного слоя данные обрабатываются параллельно, а в масштабах всей сети обработка ведется последовательно - от слоя к слою. К слоистым нейронным сетям относятся, например, многослойные персептроны, сети радиальных базисных функций, когнитрон, некогнитрон, сети ассоциативной памяти.
Однако сигнал не всегда подается на все нейроны слоя. В когнитроне, например, каждый нейрон текущего слоя получает сигналы только от близких ему нейронов предыдущего слоя.
Слоистые сети, в свою очередь, могут быть однослойными и многослойными [46].
Однослойная сеть- сеть, состоящая из одного слоя.
Многослойная сеть- сеть, имеющая несколько слоев.
В многослойной сети первый слой называется входным, последующие - внутренними или скрытыми, последний слой - выходным. Таким образом, промежуточные слои - это все слои в многослойной нейронной сети, кроме входного и выходного.
Входной слой сети реализует связь с входными данными, выходной - с выходными.
Таким образом, нейроны могут быть входными, выходными и скрытыми.
Входной слой организован из входных нейронов (input neuron), которые получают данные и распространяют их на входы нейронов скрытого слоя сети.
Скрытый нейрон (hidden neuron) - это нейрон, находящийся в скрытом слое нейронной сети.
Выходные нейроны (output neuron), из которых организован выходной слой сети, выдает результаты работы нейронной сети.
Модели нейронных сетей
Рассмотрим наиболее простые модели нейронных сетей: однослойный и многослойный персептрон.
Персептрон
Большое количество моделей персептрона рассмотрено в основополагающей работе
Розенблатта. Простейшая модель нейронной сети - однослойный персептрон.
Однослойныйперсептрон (персептрон Розенблатта) - однослойная нейронная сеть, все нейроны которой имеют жесткую пороговую функцию активации.
Однослойный персептрон имеет простой алгоритм обучения и способен решать лишь самые простые задачи. Эта модель вызвала к себе большой интерес в начале 1960-х годов и стала толчком к развитию искусственных нейронных сетей.
Классический пример такой нейронной сети - однослойный трехнейронный персептрон –
Многослойныйперсептрон (MLP) - нейронная сеть прямого распространения сигнала (без обратных связей), в которой входной сигнал преобразуется в выходной, проходя последовательно через несколько слоев.
Первый из таких слоев называют входным, последний - выходным. Эти слои содержат так называемые вырожденные нейроны и иногда в количестве слоев не учитываются. Кроме входного и выходного слоев, в многослойном персептроне есть один или несколько промежуточных слоев, которые называют скрытыми.
12. Способы визуального представления данных. Методы визуализации. Представление данных в 4+ измерениях. Представление пространственных характеристик.