КЛАССИФИКАЦИЯ НЕЙРОННЫХ СЕТЕЙ

В зависимости от поставленной задачи и необходимого результата, применяют различные стандартные конфигурации нейронных сетей. Однако существует проблема с точной настройкой нейронной сети под конкретную задачу, в результате необходимо использовать несколько типов нейросети одновременно. Совмещение вносит дополнительные трудности в работе разных моделей.

При выборе типа нейронной сети требуется решить следующие задачи: структурирование применяемых в работе типов нейронных сетей; анализ; выделение ключевых критериев, описывающих качество модели.

Нейронные сети характеризуют с точки зрения используемой модели. Модели сетей различают по видам используемых нейронов, структуре, способу обучения, конечному результату. Существует широкий спектр проблем, которые позволяют решить нейронные сети. К примеру, в обработке данных: распознавание образов с дальнейшей классификацией, прогноз, аппроксимирование данные, сжатие больших объемов данных для упрощения анализа [2].

Различают следующие типы нейронных сетей:

1. Сеть, в которой входной сигнал поступает ко всем нейронам. Выходной сигнал поступает ко всем нейронам, так и к исходному. Такие сети называются полносвязанными.

2. Неполносвязанные (перцептрон), среди них различают однослойные и многослойные. Существуют сети с прямым, перекрестным и обратным типом связи. При прямой связи сигнал передается нейронам только нижнего уровня. При перекрестной связи возможна передача сигналов нейронам одного слоя.

Нейронные сети из нескольких слоев разделяют на:

1. Монотонные. Отдельная конфигурация слоистых сетей с особыми требованиями для связи нейронов. Все слои кроме выходного разделены на два блока: возбуждающий и тормозящий. Связи между блоками тоже разделяются на тормозящие и возбуждающие. Если связь между последующим и предыдущим блоками выполнена возбуждающим сигналом, то сигнал является монотонной неубывающей функцией. Если связь тормозящая, то сигнал на выходе называется невозрастающей функцией. В монотонных сетях обязательно условие монотонной зависимости выходного сигнала от параметров входных сигналов.

2. Без применения обратной связи. При таком типе связи выходной сигнал после преобразования нейронами входного слоя, передается первому скрытому слою нейронов. Преобразование и передача повторяется на каждом слое и завершается выходным сигналом, то есть итоговым результатом для пользователя. При отсутствии условий, выходной сигнал при анализе передается каждому нейрону последующего слоя, также возможна передача произвольному последующему слою сети.

3. Применение обратной связи. Передача информации возможна в произвольном порядке между слоями сети. Следует различать:

– слоисто–циклические, все слои имеют одинаковый приоритет и могут получить как входной, так и выходной сигнал. Информация передается по кругу от последнего выходного к первому входному, обработка завершается при достижении условия, определенного заранее.

– слоисто–полносвязанные (каждый слой представляет собой отдельную сеть), возможен прием и передача сигналов внутри одного слоя, затем информация переходит к следующему слою.

– полносвязанно–слоистые, отличается от предыдущих, тем что отсутствует этап обмена внутри слоя, нейрон следующего слоя получает информацию от соседнего и предыдущего[3].

В зависимости от структуры,  сети подразделяют на:

– гомогенные,

– гетерогенные.

Сети, в которых нейроны выполняют единственную функцию, называют гомогенными. В тоже время нейроны  с  различными функциями входят в  состав гетерогенных сетей.

Преобразование, выполняемое нейроном, является функцией активации. Перечислим некоторые из них:

1. Линейная передаточная функция.

2. Пороговая передаточная функция.

3. Сигмоидальная передаточная функция (логическая функция, гиперболический тангенс).

4. Радиально–базисная функция передачи.

5. Другие функции передачи.

При первом типе связи взвешенная сумма сигналов  на выходе нейрона линейно связана с входным сигналом.

f(x) = tx,

где t –параметр функции.

Вышеуказанная функция чаще всего используется в нейронах входных слоев сложных нейронных сетей. Возможно применение модификаций данной функции. В качестве примера можно указать полулинейную или шаговую функции.

Под пороговой передаточной функцией (функция Хевисайда) понимают такую функцию, в которой выходной сигнал равен единице только при превышении определённого уровня входного сигнала. Необходимо учитывать,  что данную функцию невозможно дифференцировать вдоль всей оси абсцисс. Это делает невозможным применение алгоритмов обучения, основанных на дифференцировании функции передачи.

Следующая по порядку и самая распространенная – сигмоидальная передаточная функция, позволяющая на выходе получить аналоговый выход, используют в нейронах внутренних слоев сети. Математическое описание:

где t – параметр крутизны. При t ⟶ ∞, σ(x) ⟶ 1, при t = 0, σ(x)= 0,5.

Производная функции выглядит следующим образом:

Главным преимуществом данной функции является то, что усиление слабых сигналов в нейронах с такой функцией происходит сильнее, чем слабых. Это свойство играет ключевую роль при устранении эффекта насыщения, вызываемого сильным сигналом.

Функция, в которой аргументом является расстояние от входного вектора до заданного центра функции активации, называется радиально-базисной. Величина сигнала этой функции тем больше, чем меньше расстояние от центра к входному сигналу[1].

Указанные выше функции лишь малая часть от того разнообразия, которое используют сегодня. Следует отметить другие наиболее распространённые типы: экспонента; тригонометрический синус; модульная; квадратичная. Существует другая классификация:

– синхронные,

– асинхронные.

В синхронной нейронной сети свое состояние изменяет только один нейрон в какой-либо момент времени, в асинхронной сети состояние могут изменить несколько нейронов вплоть до целого слоя.

Так же сети можно разделить по способу настройки синапсов. Каждая связь между нейроном сети  обладает собственным весовым коэффициентом. Эти коэффициенты могут иметь заранее установленное значение, отвечающее требованиям задачи, либо происходит их переназначение в процессе работы нейронов сети[2].

Одной из наиболее важных классификаций нейронных сетей является способ обучения:

– с помощью учителя,

– самостоятельно,

– совмещение.

Под учителем понимается внешняя среда, в которой находятся примеры (значения на входе и выходе). Сопоставляя эти данные, нейронная сеть при обучении запоминает ключевые критерии, которые влияют на ее состояние и конечный результат. При неправильном исходе (указывает оператор), сеть повторяет алгоритм до положительного результата. Тип обучения имеет свои разновидности:

– по входам,

– по выходам.

В первом случае примером выступают только входные данные (вектор сигналов), во втором ­– выходные данные. Используемые примеры для обучения сети разделяют на одиночные (каждые пример, сеть анализирует отдельно), множество примеров одновременно[4].

Список литературы:

1. Круглов В.В., Борисов В.В. Искусственные нейронные сети. Теория и практика: учеб. Пособие.
2. Нейронные сети для начинающих. – 2016. [электронный ресурс] — Режим доступа. — URL: https://habrahabr.ru/post/312450/ (дата обращения 10.10.2016)
3. Презентационные материалы – 2016. [электронный ресурс] — Режим доступа. — URL: https://clck.ru/ADdwm (дата обращения 15.10.2016)
4. Теория искусственных нейронных сетей. Основные положения – 2016. [электронный ресурс] — Режим доступа. — URL: http://chaboss.my1.ru/news/teorija_iskusstvennykh_nejronnykh_setej_osnovnye_polozhenija (дата обращения 10.10.2016)