Многослойные персептроны

Многослойные персептроны имеют три отличительных признака.

1.    Каждый нейрон сети имеет нелинейную функцию активации (nonlinear activation  function). Важно подчеркнуть, что данная нелинейная функция является гладкой (т.е. всюду дифференцируемой), в отличие от жесткой пороговой функции, используемой в персептроне Розенблатта. Самой популярной формой функции, удовлетворяющей этому требованию, является сигмоидальная (sigmoidal nonlinearity), определяемая логистической функцией (logistic function)

2.    Сеть содержит один или несколько слоев скрытых нейронов', не являющихся частью входа или выхода сети. Эти нейроны позволяют сети обучаться решению сложных задач, последовательно извлекая наиболее важные признаки из входного образа (вектора).

3.    Сеть обладает высокой степенью связности (connectivity), реализуемой посредством синаптических соединений. Изменение уровня связности сети требует  изменения множества синаптических соединений или их весовых коэффициентов.  (См: Хайкин С. Нейронные сети: полный курс, 2-е изд., испр.: Пер. с англ. М. : И.Д. Вильяме, 2006. — С. 221)

 

 


» Термины и определения Теории искусственных нейронных сетей