Концепция искусственной нейронной сети
Согласно определению, данному в [23], искусственная нейронная сеть (ИНС) – это существенно параллельно распределенный процессор, обладающий способностью к приобретению, сохранению и репрезентации опытного знания и сходный с мозгом в двух аспектах:
· знание приобретается сетью в процессе обучения;
· для сохранения знания используются силы межнейронных связей (синаптические веса).
Составными элементами ИНС являются спецпроцессоры двух видов:
· искусственные нейроны (или просто нейроны), суммирующие поступающие на их входы сигналы и преобразующие смещенную на величину порога сумму в соответствии с заданной активационной функцией нейрона;
· связи между нейронами, реализующие межнейронные взаимодействия в виде сигналов, умножаемых на синаптические веса связей.
Схематическое представление модели нейрона с входными связями изображено на рис. 11, где использованы следующие обозначения:
— сигналы, поступающие на входные связи нейрона;
— синаптические веса входных связей;
— порог срабатывания нейрона;
;
— активационная функция нейрона, реализующая тот или иной вид преобразования суммы взвешенных входных сигналов, смещенной на величину порога активационной функции
.
Графические зависимости некоторых из возможных видов активационных функций приведены на рис. 12.
Рис. 12а представляет линейную активационную функцию
.
На рис. 12б изображена линейная с насыщением активационная функция
,
имеющая настроечный параметр .
На рис. 12в представлена ступенчатая активационная функция (ее часто обозначают )
.
|
Сигмоидальная активационная функция, описываемая выражением ,
изображена на рис. 12г. При малых значениях настроечного параметра функция является более пологой, нежели при больших, приближающих ее к единичной ступеньке.
Рис. 12д представляет радиально-симметричную активационную функцию
,
с настроечным параметром .
На рис. 12е приведена пороговая активационная функция
,
имеющая два настроечных параметра: и
.
В нейронной сети между нейронами и
могут быть установлены направленные связи
и
, каждой из которых присваиваются, соответственно, веса
и
(синаптические веса) (рис. 13).
Таким образом, объединяя нейроны между собой направленными связями, можно строить различные топологии (структуры) нейронных сетей и обучать их решению конкретных задач. Обучить ИНС – это значит подобрать такие значения синаптических весов ее межнейронных связей и, возможно, порогов и параметров активационных функций нейронов, при которых сеть приобретает способность выполнять желаемый вид преобразования.