Уже довольно давно в псевдонаучных кругах появились два модных слова - нанотехнологии и нейросети. Что же означают эти слова?

Нанотехнологии - другое название молекулярной физики. Это раздел классической физики, первые работы по которому появились еще в XVIII веке. Нейронные сети же с математической точки зрения представляют из себя системы уравнений, известные не одно тысячелетие.

В этой микростатье я хочу на максимально доступном уровне рассказать, что же из себя представляют нейронные сети при ближайшем рассмотрении.

Как выглядит нейрон?

Схематично нейрон может быть изображен вот так:

Здесь g₁, g₂ - входные сигналы с весами w₁, w₂; y - выходной сигнал.

Нейрон может иметь столько входных и выходных "нервных окончаний", сколько потребуется исследователю - число их зависит от способа организации нейронов в сеть.

Нейрон реализует в себе функцию, называемую функцией активации. Это означает, что математически его можно описать следующей функцией нескольких переменных:

Одной из самых используемых функций активации является сигмоидальная функция, описываемая следующим уравнением:

Для прояснения характера основ математики нейросетей я приведу простейшую структуру построения и выведу ее уравнение реализации.

Пример

Входные сигналы g₁ и g₂ проходят последовательно через три нейрона и формируют выходной импульс. Во всех нейронах используется сигмоидальная функция активации. Процесс описывается простейшим уравнением, которое может быть написано в обратном порядке "от выхода ко входу":

Раскрывая сигмоидальную функцию, получаем следующее уравнение:

Как Вы видите, на первый взгляд ничего сложного. В общем случае нейронная сеть имеет M входов и N выходов - и для каждого выхода выписывается точно такое же уравнение, которые в итоге составляют систему, которую можно записать в векторном виде:

Заключение

Итак, мы с вами продемонстрировали на простейшем примере, что технически нейронные сети представляют из себя "обыкновенные" системы уравнений, которые известны не одну тысячу лет.