Формальный нейрон

Искусственные нейронные сети появились в результате применения математического аппарата к исследованию функционирования нервной системы [16]. Полученные при этом результаты успешно применяются при решении проблем распознавания образов, моделирования, прогнозирования, оптимизации и управления [16, 36].

Основной структурной и функциональной частью нейронной сети является формальный нейрон (formal neuron), представленный на рис. 6.1, где – компоненты вектора входных сигналов, – значения весов входных сигналов нейрона, а – выходной сигнал нейрона.

Формальный нейрон состоит из элементов 3 типов: умножителей (синапсов), сумматора и преобразователя. Синапс характеризует силу (вес) связи между двумя нейронами. Сумматор выполняет сложение входных сигналов, предварительно помноженных на соответствующие веса. Преобразователь реализует функцию одного аргумента – выхода сумматора. Эта функция называется функцией активации или передаточной функцией нейрона. Исходя из данного описания, математическая модель нейрона может быть представлена следующим образом:

Рис. 6.1. Формальный нейрон (по [37])

Примеры некоторых активационных функций представлены в табл. 6.1 и на рис. 6.2.

Табл. 6.1. Функции активации нейронов

Название	Формула	Область значений
Пороговая		(0, 1)
Линейная		(– ∞, + ∞)
Лог-сигмоидная		(0, 1)
Гиперболический тангенс		(–1, 1)

Описанный вычислительный элемент можно считать упрощенной математической моделью биологических нейронов. Чтобы подчеркнуть различие биологических и искусственных нейронов, вторые иногда называют нейроподобными элементамиили формальными нейронами[1].