Искусственный нейрон

Основным блоком искусственной нейронной сети является искусственный нейрон, имеющий своим прототипом биологический нейрон. 

Биологический нейрон является особой биологической системой, предназначенной для передачи и обработки информации в живых организмах. Предполагается, что мозг человека состоит из 10¹¹ нейронов. Это приблизительно столько же, сколько звезд в нашей Галактике. 

Упрощенная схема строения нейрона представлена на рисунке 1.

Основными элементами биологического нейрона являются: 

— синапсы (от греч. synapsis — соединение) – места соединения дендритов и аксонов нейронов; 

— дендриты (от греч. — dendron — дерево) – ветвящиеся отростки нейрона, воспринимающие сигналы от других нейронов и передающие нервные импульсы проводят нервные импульсы к телу нейрона. Каждый нейрон имеет от 10³ до 10⁴дендритов. 

— тело нейрона (от греч. soma — тело) – включает в себя ядро и именно в нем реализуются основные функции, связанные с генетическими и метаболическими механизмами, необходимыми для жизнедеятельности, а также информационные функции. 

— аксон (от греч. axon — ось), или нейрит (осевой цилиндр) — отросток нейрона, проводящий нервные импульсы от тела клетки к иннервируемым органам или другим нервным клеткам; аксон разветвляется на большое число волокон с концевыми утолщениями; 

Процесс функционирования биологического нейрона можно описать следующим образом. Сома получает сигналы от других нейронов через синаптические соединения и преобразует его в последовательность нервных импульсов. Преобразование сигнала в соме, в общем случае, имеет нелинейный характер. Выходной сигнал передается вдоль разветвляющегося аксона к синапсам других нейронов. 

Упрощенно можно считать, что в процессе функционирования биологический нейрон может находиться в одном из трех состояний: 

— покоя, при котором не наблюдается передача сигнала (импульса) от тела клетки по аксону к синапсам других нейронов; 

— возбуждения, при котором происходит генерация импульса и передача его от тела к синапсам; 

— восстановления, то есть переходного состояния между возбуждением и покоем. 

В 1943 году У. Маккалох и У. Питтс предложили модель искусственного нейрона, которая впоследствии была модифицирована и в настоящее время представляет собой многовходовый нелинейный преобразователь с взвешенными входными сигналами (рисунок 2). 

На входы j — го нейрона поступает n сигналов x₁, x₂,…, x_n, которые взвешиваются усилителями, реализующими синаптические веса, после чего взвешенные значения w_j1x₁ ,w_j2x₂,…,w_jnx_n вместе с пороговым значением Θ_j, именуемым также сигналом смещения, подаются на сумматор ∑, в результате чего формируется внутренний сигнал u_j. Сома биологического нейрона моделируется с помощью некоторой нелинейной функции Ψ(u_j), называемой в теории искусственных нейронных сетей либо активационной, либо передаточной функцией формального нейрона. 

Таким образом, математическая модель искусственного нейрона может быть записана как 

или

где w_j0=Θ, x₀=1. 

В матричном виде модель искусственного нейрона можно переписать в виде

где

 – вектор синоптических весов;

– вектор входов. 

Первоначально в модели нейрона У. Маккалоха и У. Питтса в качестве активационной функции использовался бинарный ограничитель (функция Хэвисайда). В настоящее время используется множество других.