МЕТОДЫ НЕЙРОСЕТЕВОГО МОДЕЛИРОВАНИЯ

​NEURAL NETWORK MODELING METHODS

Saniya Islamova

student, Kazan National Research Technical University named after A.N. Tupolev - KAI,

Russia, Kazan

Vladimir Mokshin

scientific supervisor, candidate of technical sciences, associate professor, Kazan National Research Technical University named after A.N. Tupolev - KAI,

Russia, Kazan

АННОТАЦИЯ

Необходимость прогнозирования предстоящих событий растет параллельно с вероятностью финансовых потерь во многих отраслях. При этом, разные организации используют разные способы прогнозирования, но одним из самых популярных и действенных является прогнозирование с использованием нейронных сетей. В статье описаны проблемы прогнозирования и рассмотрены несколько моделей, используемых при разработке нейронных сетей.

ABSTRACT

The need to predict upcoming events is growing in parallel with the likelihood of financial losses in many industries. At the same time, different organizations use different methods of forecasting, but one of the most popular and effective is forecasting using neural networks. The article describes the problems of forecasting and considers several models used in the development of neural networks.

Ключевые слова: нейронные сети; модель МакКалока; модель Розенблатта; модель Хопфилда; модель сети с обратным распространением.

Keywords: neural networks; the McCulloch model; the Rosenblatt model; the model Hopfield; network model with reserve propagation.

Прогнозирование - это предсказание будущих событий, ключевой момент при принятии решений в различных отраслях. Конечная эффективность любого решения зависит от последовательности событий, возникающих уже после его принятия. Зачастую прогноз получается ошибочным, но количество ошибочных прогнозов зависит от используемых прогнозирующих систем. Можно увеличить точность прогноза, предоставив прогнозирующей системе больше ресурсов, но концептуальная модель основана на асимптотическом снижении убытков. Соответственно, каждый новый, дополнительно потраченный на прогнозирование, ресурс даст меньшее снижение риска убытков, чем предыдущий. А за неопределенной точкой, дополнительные ресурсы и вовсе перестанут приводить к снижению потерь. Это связано с тем, что невозможно снизить среднюю ошибку прогнозирования ниже определенного уровня, вне зависимости от того насколько сложен примененный метод прогнозирования.

Поскольку прогнозирование никогда не сможет полностью уничтожить риск при принятии решений, необходимо явно определять неточность прогноза. Обычно, принимаемое решение определяется результатами прогноза (при этом предполагается, что прогноз правильный) с учетом возможной ошибки прогнозирования.

Природа принимаемых решений определяет большинство желаемых характеристик прогнозирующей системы. Решение проблемы неточности прогнозирования, необходимо ответить на вопросы о том, что нужно прогнозировать, какую форму должен принять прогноз и какова его желательная точность.

В данной работе приводится анализ возможностей решения данной проблемы на основе стабильности функционирования нефтяных скважин и прогнозирования их поломок. Система проектирования процессов данной области может требовать достаточно детализированный прогноз времени выхода из строя определенной детали и ее местоположения в общей конструкции, так как даже самая незначительная поломка, появившаяся неожиданно, может привести к огромным финансовым потерям. В такой ситуации недостаточно полагаться только на «исторические» данные – необходимо иметь актуальную картину работы всей системы в каждый момент времени.

Для выбора оптимальной модели нейронной сети, используемой для прогнозирования необходимо проанализировать существующие модели:

1. Модель МакКалока

Первой формальной моделью нейронных сетей была модель МакКаллока-Питтса, уточненная и развитая Клини. Впервые было установлено, что нейронные сети могут выполнять любые логические операции и, вообще, любые преобразования, реализуемые дискретными устройствами с конечной памятью. В силу своей дискретности модель вполне согласуется с компьютерной парадигмой и, более того, служит её нейронным фундаментов.

Предполагается, что существует n входных величин для множества  бинарных признаков объекта x, значения которых определяются, как величины импульсов, поступающих на вход нейрона через n входных синапсов. Попадая в нейрон, импульсы складываются с весами . Если вес положительный, то синапс считается возбуждающим, а если отрицательный, то тормозящим. Если суммарный импульс превышает заданный порог активации , то нейрон возбуждается и выдаёт на выходе 1, иначе выдаётся 0.

Недостатком такой модели является сама модель нейрона - «пороговый» вид переходной функции. «В формализме У. Маккалока-Питтса нейроны имеют состояния 0, 1 и пороговую логику перехода из состояния в состояние. Каждый нейрон в сети определяет взвешенную сумму состояний всех других нейронов и сравнивает ее с порогом, чтобы определить свое собственное состояние» [1, с. 49].

Пороговый вид функции не предоставляет нейронной сети достаточную гибкость при обучении и настройке на заданную задачу. Если значение вычисленного скалярного произведения, даже незначительно, не достигает до заданного порога, то выходной сигнал не формируется вовсе и нейрон «не срабатывает». Это значит, что теряется интенсивность выходного сигнала (аксона) данного нейрона и, следовательно, формируется невысокое значение уровня на взвешенных входах в следующем слое нейронов.

К тому же модель не учитывает многих особенностей работы реальных нейронов (импульсного характера активности, нелинейности суммирования входной информации, рефрактерности).

Рисунок 1. Модель нейрона МакКалока-Питтса

2. Модель Розенблатта

«Благодаря работам американскоого нейрофизиолога Френсиса Розенблатта нейрокибернетика получила глубокое развитие и широкое распространение. Он преобразовал модель Маккалока и Питтса, дополнив её способностью связей к модификации, благодаря чему модель стала обучаемой. И тогда же модель обрела название «Персоптрон». Изначально это выглядело, как однослойная структура с жестко заданной пороговой функцией процессорного элемента и бинарными или многозначными входами» [2, с.72].

Принцип обучения персептрона заключается в следующем:

1) для системы определяется эталонный образ;

2) при корректном срабатывании выходов системы, весовые коэффициенты связей не изменяются;

3) при некорректном срабатывании выходов, весовым коэффициентам дается небольшое приращение в сторону повышения качества распознавания.

Одним из главных недостатков персептрона является то, что не всегда существует такое объединение весовых коэффициентов, при котором существующее множество образов будет однозначно распознано данным персептроном. Так происходит из-за того, что совсем малое количество задач предполагает, что линия, разделяющая эталоны, будет прямой. Чаще всего это довольно извилистая кривая, которая может быть, как замкнутой, так и разомкнутой. Так как однослойный персептрон может реализовать только линейную поверхность, его применение будет невозможно там, где требуется нелинейная и работа такого персептрона приведет к ошибкам распознавания.

Решением этой проблемы является использование многослойного персептрона, способного строить ломаную границу между распознаваемыми образами.

При взаимодействии с персептронами может возникнуть ряд и других трудностей, например, для него слабо формализован метод обучения. Во время решения проблемам, появившихся в работе персептрона, были созданы более «разумные» нейронные сети и разработаны новые методы, которые могут применяться в разных отраслях, а не только в кибернетике.

Рисунок 2. Персептрон Розенблатта. Модель алгоритма

3. Модель Хопфилда

«Нейронная сеть Хопфилда - полносвязная нейронная сеть с симметричной матрицей связей. В процессе работы динамика таких сетей сходится к одному из положений равновесия. Эти положения равновесия определяются заранее в процессе обучения, они являются локальными минимумами функционала, называемого энергией сети. Такая сеть может быть использована как автоассоциативная память, как фильтр, а также для решения некоторых задач оптимизации. В отличие от многих нейронных сетей, работающих до получения ответа через определённое количество тактов, сети Хопфилда работают до достижения равновесия, когда следующее состояние сети в точности равно предыдущему: начальное состояние является входным образом, а при равновесии получают выходной образ» [3, с. 67].

Нейронная сеть Хопфилда устроена так, что её отклик на запомненные m эталонных «образов» составляют сами эти образы, а если образ немного исказить и подать на вход, он будет восстановлен и в виде отклика будет получен оригинальный образ. Таким образом, сеть Хопфилда осуществляет коррекцию ошибок и помех.

Сеть Хопфилда однослойная и состоит из N искусственных нейронов. Каждый нейрон системы может принимать на входе и на выходе одно из двух состояний (что аналогично выходу нейрона с пороговой функцией активации):

                                                                    (1)

Из-за их биполярной природы нейронные сети Хопфилда иногда называют спинами. Каждый нейрон связан со всеми остальными нейронами. Взаимодействие нейронов сети описывается выражением:

  - элемент матрицы взаимодействий W, которая состоит из весовых коэффициентов связей между нейронами.

В процессе обучения формируется выходная матрица W, которая запоминает m эталонных «образов» — N-мерных бинарных векторов:

Эти образы во время эксплуатации сети будут выражать отклик системы на входные сигналы, или иначе - окончательные значения выходов  после серии итераций.

В сети Хопфилда матрица связей является симметричной , а диагональные элементы матрицы полагаются равными нулю, что исключает эффект воздействия нейрона на самого себя и является необходимым для сети Хопфилда, но не достаточным условием устойчивости в процессе работы сети. Достаточным является асинхронный режим работы сети. Подобные свойства определяют тесную связь с реальными физическими веществами, называемыми спиновыми стёклами.

Рисунок 3. Схема сети Хопфилда с тремя нейронами

К сожалению, у нейронной сети Хопфилда есть ряд недостатков.

1. Относительно небольшой объём памяти. Попытка записи большего числа образов приводит к тому, что нейронная сеть перестаёт их распознавать. А в случае, с контролем скважины – необходимость вместительного хранилища возрастает.

2. Достижение устойчивого состояния не гарантирует правильный ответ сети. Это происходит из-за того, что сеть может сойтись к так называемым ложным аттракторам, иногда называемым «химерами».

4. Модель сети с обратным распространением

Принцип обучения многослойных нейронных сетей называется способом обратного распространения. Идея работы таких сетей заключается том, что нейрон каждого предыдущего слоя связан абсолютно со всеми нейронами последующего слоя. Чаще всего, функция возбуждения нейрона является сигмоидальной. Первый слой, в этом случае, называется входным – в нем содержится число нейронов, соответствующее числу распознаваемы образов. А последний слой называется выходным – он содержит столько нейронов, сколько классов образов распознается. Между этими двумя слоями находятся теневые слои – их число зависит от конкретной задачи.

Принцип обучения такой нейронной сети базируется на вычислении отклонений значений сигналов на выходных процессорных элементах от эталонных и обратном "прогоне" этих отклонений до породивших их элементов с целью коррекции ошибки.

Однако этому алгоритму свойственны и недостатки, главный из которых - отсутствие сколько-нибудь приемлемых оценок времени обучения.

Тем не менее, алгоритм обратного распространения имеет широчайшее применение. Например, успех фирмы NEC в распознавании букв, был достигнут именно благодаря алгоритму обратного распространения.

Таким образом, нейронная сеть, подстроенная на основе алгоритма обратного распространения, на данный момент, является одним из наиболее подходящих вариантов для контроля стабильности работы нефтяной скважины, так как в данном случае завышенное время обучения не является серьезным недостатком.

Список литературы:

1. Мокшин, В. В. Метод формирования модели анализа сложной система / В. В. Мокшин, И. М. Якимов // Информационные технологии. – 2011. – №5. – С. 46-51.
2. Власов, А. И. Обзор технологий: от цифрового к интеллектуальному месторождению / А. И. Власов, А. Ф. Можчиль // PROНЕФТЬ. Профессионально о нефти. – 2018. – № 3(9). – С. 68-74.
3. Рекурсивно-регрессионная модель самоорганизация моделей анализа и контроля сложных систем / В. В. Мокшин [и др.] // Нелинейный мир. – 2009. – Т. 7. – № 1. – С. 66-76.
4. Engineering Россия [Электронный ресурс] : «Умные» технологии в нефтегазовой отрасли. – Режим доступа : https://controlengrussia.com/otraslevye-resheniya/umny-e-tehnologii-v-neftegazovoj-otrasli/