Информационные технологии (ВО)

Нейрон представляет собой единицу обработки информации в нейронной сети.  В этой модели можно выделить три основных элемента.

Набор синапсов (synapse) или связей (connecting link), каждый из которых

характеризуется своим весом (weight) или силой (strength).  В отличие от синапсов мозга

синаптический вес искусственного нейрона может иметь как положительные, так

и отрицательные значения. Сумматор (adder) складывает входные сигналы, взвешенные относительно  соответствующих синапсов нейрона.

(См: Хайкин С. Нейронные сети: полный курс, 2-е изд., испр.: Пер. с англ. М. : И.Д. Вильяме, 2006. — 1104 с.)

Нейроны типа WTA (Winner Takes All от англ. «победитель получает все») всегда используются группами, в которых конкурируют между собой за право изменения весовых коэффициентов. Каждый конкурирующий нейрон в группе получает одни и те же входные сигналы.

Модель нейрона типа «адалайн» (англ Addaptive linear Neuron) была предложена Б.Видроу. Функция активации имеет тип signum, т.е. возвращает значения +1 или -1 (См: Осовский С. Нейронные сети для обработки информации. – М.: Финансы и статистика, 2002. С. 32)

Нейрон инстар и аутстар был введен С. Гроссбергом. Инстар (нейрон типа «звезда» Гроссберга) адаптирует веса сигналов, поступающих на сумматор нейрона к своим входным сигналам.

Нейрон типа аутстар Гроссберга представляет собой комплементарное дополнение инстара. Если инстар обучается с целью распознать вектор, подаваемый на вход, то аутстар должен генерировать вектор, необходимый связанным с ним нейронам. Результаты обучения методом Гроссберга сильно зависят от коэффициента обучения сети.

(См: Осовский С.Нейронные сети для обработки информации. – М.: Финансы и статистика, 2002. С.34-37)

Нейрон-победитель в сетях Кохонена находится в центре топологической окрестности сотрудничающих нейронов. Возникает ключевой вопрос: как определить топологическую  окрестность, которая будет корректна с нейробиологической точки зрения? Для того чтобы ответить на него, вспомним о нейробиологическом обосновании латерального   взаимодействия (lateral interaction) среди множества возбужденных нейронов. В частности, возбужденный нейрон всегда пытается возбудить пространственно близкие к нему нейроны, и это интуитивно понятно. Это наблюдение приводит к определению топологической окрестности победившего нейрона j, которая плавно сходит на нет с увеличением расстояния (См: Хайкин С. Нейронные сети: полный курс, 2-е изд., испр.: Пер. с англ. М. : И.Д. Вильяме, 2006. — С. 579)

Нейронная сеть — это громадный распределенный параллельный процессор, состоящий из элементарных единиц обработки информации, накапливающих экспериментальные знания и предоставляющих их для последующей обработки. Нейронная сеть сходна с мозгом с двух точек зрения.

• Знания поступают в нейронную сеть из окружающей среды и используются в  процессе обучения.

• Для накопления знаний применяются связи между нейронами, называемые синаптическими весами. (См: Хайкин С. Нейронные сети: полный курс, 2-е изд., испр.: Пер. с англ. М.: И.Д. Вильяме, 2006. — 1104 с.)