НЕЙРОННЫЕ СЕТИ И ИХ ПРИМЕНЕНИЕ

Введение

Уже в 20 веке многие ученые пришли к выводу, что одних лишь алгоритмов и программ, использующих их, недостаточно для реализации многих идей и сформулировали концепцию нейронной сети. Основной причиной стало то, что хоть электронно-вычислительная техника и могла по скорости своей работы обойти человеческий мозг, за пределы алгоритмов она не выходила, но самое главное отличие – возможность подстраиваться под конкретную ситуацию, обучаться, не имела. Тогда и появилась концепция нейронных сетей – попытка перенести устройство человеческого мозга в программный вид. Что и было реализовано со времен, с рядом допущений и упрощений.

Другими словами, нейросеть это машинная интерпретация работы мозга человека, в котором находятся миллионы нейронов, передающих информацию в виде электрических импульсов. 

Искусственный нейрон имитирует свойства биологического прообраза. На вход искусственного нейрона поступает некоторое множество сигналов, каждый из которых является выходом другого нейрона. Каждый вход умножается на соответствующий вес, и всё произведение суммируется, определяя уровень активации нейрона. На рисунке 1.1 представлена модель, реализующая эту концепцию. Здесь множество сигналов , ,…,  поступают на искусственный нейрон. Эти входные сигналы в сумме обозначаем вектором X. Каждый сигнал умножается на соответствующий вес ,…,  и поступает на суммирующий блок . Суммирующий блок складывает взвешенные входы, создавая выход, который мы обозначим как NET. В векторной форме это можно записать, как: NET = X W.

Рисунок 1.1. искусственный нейрон

Далее сигнал NET преобразуется активационной функцией F и даёт выходной сигнал, обозначаемый OUT. Активационная функция может быть, как обычной линейной: OUT = K(NET), где K – постоянная пороговой функции.

Рисунок 1.2. искусственный нейрон с активационной функцией

Существует множество вариаций активационных функций, однако самыми популярными являются сигмоидальная(также разделяется на «сжимающую» или «усиливающую») функция и функция гиперболического тангенса.

Блок F может как сужать, так и расширять диапазон значений NET и такую функцию F называют логистической. Математически она выражается как  и таким образом OUT = . В зависимости от того, как эта функция изменяет значения NET, её называют сжимающей или усиливающей.

Рисунок 1.3. сигмоидальная логистическая функция

Другой широко используемой активационной функцией является гиперболический тангенс. Записывается она как OUT = th(x)

Рисунок 1.4. функция гиперболического тангенса

Сама по себе нейронная сеть состоит из некоторого количества слоёв, а каждый слой из большого количества нейронов. Имеется входной слой, получающий информацию, выходной слой, выводящий результат и некоторое количество промежуточных/скрытых слоёв, обрабатывающих информацию. От количества этих слоёв и зависит то, насколько сложные математические модели можно будет реализовать (это отличает «shallow learning» от «deep learning»).

Рисунок 1.5. однослойная нейронная сеть

Рисунок 1.6. многослойная(двухслойная) нейронная сеть

Синапс - это связь между двумя нейронами. У синапсов есть один параметр — его вес. Благодаря ему, входная информация меняется, когда передается от одного нейрона к другому. Допустим, есть 3 нейрона, которые передают информацию следующему. Тогда у нас есть 3 веса, соответствующие каждому из этих нейронов. У того нейрона, у которого вес будет больше, та информация и будет доминирующей в следующем нейроне. С помощью этих весов, входная информация обрабатывается и превращается в результат.

По классификации нейронные сети можно разделить на:

Полносвязанные НС, в которых каждый нейрон передаёт свой выходной сигнал всем остальным нейронам, в том числе и себе. Все входные сигналы подаются всем нейронам. Выходными сигналами сети могут быть все или только часть выходных сигналов нейронов. Примером может послужить НС, изображённая на рисунке 1.5.

Неполносвязанные(описываемые неполносвязным ориентированным графом и часто называемые перцептронами) – подразделяются на однослойные(входной, один скрытый и выходной слои) и многослойные, с прямыми, перекрёстными и обратными связями. В нейронных сетях с прямыми связями нейроны одного слоя соединяются только с нейронами нижележащих слоёв. В случае с перекрёстными связями допускаются связи между нейронами внутри одного слоя.

Рисунок 1.7. перцептрон с несколькими выходами

Применение нейронных сетей

Уже сегодня искусственные нейронные сети используются во многих областях, но прежде чем их можно будет применять там, где цена ошибки работы нейронной сети слишком высока, будь то медицина или работа с материальными ценностями, должны быть решены проблемы с надёжностью работы и выдаваемых результатов. Отсюда следует, что уровень допустимых ошибок следует определять исходя из самой задачи. Некоторые проблемы с анализом параметров надежности возникают из-за уверенности в полной безошибочности компьютерных вычислений, тогда как искусственные нейросети могут быть не слишком точны даже при их правильном функционировании. На самом деле, компьютеры, как и люди, могут ошибаться. Первые – из-за различных технических проблем или ошибок в программах, вторые - из-за невнимательности, усталости или непрофессионализма. Следовательно, для особо важных задач необходимо, чтобы эти системы дублировали и контролировали друг друга. Следовательно, при решении таких задач нейронные сети должны выступать не единственными средствами, а дополнительными, предупреждающими особые ситуации или берущие на себя управление, когда проблема не решается стандартным образом и какие-либо задержки могут привести к нежелательным последствиям. Другая проблема в использовании нейронных сетей состоит в том, что традиционные НС не способны объяснить, каким образом они решают ту или иную задачу. Внутреннее представление результатов обучения обычно настолько сложно, что его невозможно проанализировать, за исключением некоторых простейших случаев, зачастую не представляющих интереса. Области применения нейронных сетей весьма обширны - это распознание текста и речи, семантический поиск, экспертные системы и системы поддержки принятия решений, предсказание курсов акций, системы безопасности, анализ текстов. Рассмотрим несколько как существующих, так и только возможных примеров использования нейронных сетей в разных областях.

Техника. Примером может послужить экспериментальный автопилотируемый гиперзвуковой самолёт-разведчик, оператор которого по физиологическим аспектам не имел возможности корректно им управлять, был заменён на специально обученную НС. Эта нейронная сеть обучалась пилотированию на основе действий и приёмов самих лётчиков-испытателей и впоследствии формировала свои поведенческие реакции.

В перспективе, в этой области любое транспортное средство, если на это возникнет необходимость, может управляться с помощью нейронных сетей. Начиная скутерами и заканчивая подъёмными кранами. Однако встаёт вопрос целесообразности обучения нейронных сетей и установки необходимого технического оснащения. Велика вероятность постепенной автоматизации транспортного сообщения, однако техника, работа с которой связанна с высоким риском, едва ли будет использовать нейронные сети в ближайшее время.

Информационные технологии. В этой области применение зачастую ограничивается фантазиями и материальной базой. Уже сейчас существуют нейронные сети, обученные как самостоятельно дописывать алгоритмы и строки кода под конкретную ситуацию, так и создавать собственный дубликат, но они всё ещё требуют взаимодействия с пользователем.

За годы своей работы, благодаря частому использованию и взаимодействию с пользователями, Google Translate улучшил свои результаты, начиная с машинного перевода в начале своей работы, когда нейросеть ещё не была обучена. И заканчивая текущим моментом, когда эта программа уже сейчас выдаёт качественный перевод. И в относительно скором времени, обучение «Google Translate» будет близко к завершению и будет получен универсальный переводчик.

Экономика и финансы. Нейронные сети активно применяются на финансовых рынках. Например, американский Citybank использует нейросетевые предсказания с 1990 года и уже через два года после их внедрения, по свидетельству журнала «The Economist», автоматический дилинг показывал доходность 25% годовых. С помощью этой же технологии реализована система контроля валютных бирж ряда стран, автоматизированные системы ведения портфелей и система управления рисками и идентификацией злоумышленников, позволяющей не только отслеживать, но и прогнозировать потенциальных нарушителей.

Например, для прогнозирования валютных пар, т.е. предсказание финансовых временных рядов, используют ряд формул.

), где  – значение валютной пары в момент времени , а  - состояние системы.

Преобразованное значение валютной пары находим по формуле: y(, где g – оператор эволюции системы, y( – вычисленное значение валютной пары в момент времени . Таким образом вся работа нейронной сети по прогнозированию временных рядов валютных пар сводится к нахождению g, l, c, таких, чтобы ℇ =  стремился к минимуму.

Реклама и маркетинг. Хорошим примером будет существование таргетированной рекламы. Сам по себе принцип не требует использования нейронных сетей, однако дополняясь ими, способен выдавать не только рекламу, основанную на предыдущих запросах пользователя, но и моделировать уникальную. И чем большее количество данных конкретного человека, начиная от истории запросов и заканчивая переписками в социальных сетях, будет проанализировано, тем точнее и актуальней будет и реклама.

Примером работы этой модели может служить фирма «Neural Innovation Ltd», которая использовала при работе с маркетинговыми компаниями стратегию прямой рассылки. Сначала они осуществляли рассылку всего 25% от общего числа предложений и собирала информацию об откликах и реакциях потребителей. Затем эти данные поступали на вход нейронной сети, с помощью которой осуществлялся поиск оптимального сегмента потребительского рынка для каждого товара. Затем остальные 75% предложений рассылались уже с учетом найденных закономерностей в указанный сегмент, и эффективность второй рассылки значительно возрастала по сравнению с первоначальной.

Медицина. В медицинской диагностике нейронные сети нередко используются вместе с экспертными системами. Например, компанией «НейроПроект» была создана система диагностики слуха у грудных детей. Общепринятая методика состоит в том, что в процессе обследования регистрируются отклики мозга в ответ на звуковой раздражитель, проявляющиеся в виде всплесков на ЭКГ. Для диагностики слуха ребенка опытному врачу необходимо провести около 2 тысяч тестов. Нейронная сеть может с тем же уровнем достоверности проверить слух уже по 200 наблюдениям в течение всего нескольких минут, причем без участия специалиста.

В перспективе же нейросеть, на основе анализа параметров каждого человека (от роста и веса, до выработки конкретных ферментов), может прогнозировать все риски для здоровья, болезни, патологии в зависимости от условий.

Энергетика. Огромное количество людских ресурсов уходит на контроль работы любой электростанции: ТЭС, ГРЭС, АЭС и другие. Это особенно важно для работы атомных электростанций, где ошибка может привезти к катастрофическим последствиям, в том числе и ошибка персонала. Замена персонала на электронные системы контроля позволит снизить влияние человеческого фактора на работу станции, однако требуемый уровень обучения нейронной сети для выполнения такой работы колоссален.

Приведенные выше примеры показывают, что технологии НС применимы практически в любой области. Повсеместное проникновение нейронных технологий почти во все области нашей жизни — вопрос времени. Разумеется, внедрение новых науко- и ресурсоемких технологий — процесс сложный, дорогой и требующих большого количества времени, однако в перспективе дающий невероятные преимущества.

Список литературы:

1. Гаврилова Т.А., Хорошевский В.Ф. Базы знаний интеллектуальных систем. – СПб.: Изд. Дом «Питер», 2000. – 384 с.
2. Люгер Дж.Ф. Искусственный интеллект: стратегии и методы решения сложных проблем. – М.: Изд. дом «Вильямс», 2003. – 864 с.
3. Степанов П. П. Искусственные нейронные сети // Молодой ученый. — 2017. — №4. — С. 185-187
4. Хайкин С. Нейронные сети. – М.: Издательство «Вильямс», 2016. -1104 с.
5. Ясницкий Л.Н. Введение в искусственный интеллект: Учеб. пособие для студ. высш. учеб. заведений, М.: Издательский центр «Академия», 2005. -176 с.