ОБЛАСТИ  УСТОЙЧИВОСТИ  НЕЙРОННЫХ  СЕТЕЙ  КОНФИГУРАЦИЙ  ТИПА  «КОЛЕСО»  И  «ЛИСТ  МЁБИУСА»  С  ЗАПАЗДЫВАЮЩИМИ  ВЗАИМОДЕЙСТВИЯМИ

Григорян  Духик  Гургеновна

магистрант,  факультет  информатики,  Челябинский  государственный  педагогический  университет,  РФ,  г.  Челябинск

Email:  grigoryandg@cspu.ru

Подкорытова  Елена  Васильевна

магистрант,  факультет  информатики,  Челябинский  государственный  педагогический  университет,  РФ,  г.  Челябинск

Email:  podkorytovaev@cspu.ru

Речкалова  Лариса  Владимировна

магистрант,  факультет  информатики,  Челябинский  государственный  педагогический  университет,  РФ,  г.  Челябинск

Email:  rechkalovalv@cspu.ru

Кипнис  Михаил  Маркович

д-р  физ.-мат.  наук,  профессор,  кафедра  математики  и  методики  обучения  математике,  Челябинский  государственный  педагогический  университет,  РФ,  г.  Челябинск

Email: 

THE  STABILITY  DOMAINS  OF  A  NEURAL  NETWORKS  OF  «WHEEL»  AND  «MÖBIUS»  CONFIGURATIONS  WITH  DELAYED  INTERACTIONS

Grigoryan  Dukhik

graduate  student,  Dept.  of  Computer  Science,  Chelyabinsk  State  Pedagogical  University,  Russia  Chelyabinsk

Podkorytova  Elena

graduate  student,  Dept.  of  Computer  Science,  Chelyabinsk  State  Pedagogical  University,  Russia  Chelyabinsk

Rechkalova  Larisa

graduate  student,  Dept.  of  Computer  Science,  Chelyabinsk  State  Pedagogical  University,  Russia  Chelyabinsk

Kipnis  Mikhail

professor,  PhD,  Department  of  Mathematics,  Chelyabinsk  State  Pedagogical  University,  Russia  Chelyabinsk

АННОТАЦИЯ

Численными  экспериментами  получены  области  устойчивости  в  пространстве  параметров  дискретных  нейронных  сетей  с  топологией  связей  в  виде  колеса  и  листа  Мёбиуса.  Задача  сводится  к  проблеме  устойчивости  матричных  разностных  уравнений  высоких  порядков  с  запаздыванием. 

ABSTRACT

The  stability  domains  of  a  discrete  neural  network  are  obtained  by  numerical  experiments.  The  network  has  wheel  and  Möbius  architecture.  The  problem  is  reduced  to  the  matrix  delay  equations  of  higher  order. 

Ключевые  слова:  нейронные  сети;  разностные  матричные  уравнения;  устойчивость;  конфигурации  «колесо»  и  «лист  Мёбиуса».

Keywords:  neural  networks;  difference  matrix  equations;  stability;  wheel  architecture;  Möbius  tape  architecture.

Нейронные  сети  представляют  собой  систему  соединённых  и  взаимодействующих  между  собой  искусственных  нейронов.  Каждый  нейрон  имеет  дело  только  с  сигналами,  которые  он  периодически  получает,  и  сигналами,  которые  он  периодически  посылает  другим  нейронам.  Из-за  запаздываний  в  передаче  сигналов  в  нейронных  сетях  иногда  возникают  нежелательные  колебания,  что  называется  неустойчивостью.

Искусственные  нейронные  сети  с    нейронами  в  дискретном  линеаризованном  варианте  описываются  разностными  уравнениями  [1—6]

  .  (1)

Мы  рассматриваем  нейронную  сеть  из  четырех  нейронов  с  архитектурой  связей  в  виде  колеса  (Рисунок  1). 

Рисунок  1.  Нейронная  сеть  конфигурации  «колесо»

Уравнение  (1)  для  этой  нейронной  сети  примет  вид

  ,  (2)

где    единичная  матрица  размером  ,    коэффициент  демпфирования  собственных  колебаний  нейронов,  ,    матрица  взаимодействий  между  нейронами  в  сети  с  запаздыванием  ,    4-мерный  вектор  состояния  нейронной  сети  в  момент  .

Матрица  взаимодействий    имеет  вид

,   (3)

где:    —  сила  взаимодействия  между  нейронами.

Устойчивость  нейронной  сети  —  это  стремление  к  нулю  векторов  состояний    при  ,  при  любых  начальных  условиях.

Характеристическое  уравнение  для  матричного  уравнения  (2)  таково:

                                                                    (4)

Уравнение  (4)  имеет  порядок  ,  где    —  запаздывание,    —  количество  нейронов  в  сети.  Нейронная  сеть  является  асимптотически  устойчивой,  если  корни  характеристического  уравнения    удовлетворяют  условию

                                 (5)

При  фиксированном  значении  запаздывания    с  помощью  программы  Mathcad  была  определена  область  устойчивости  в  плоскости  .

Рисунок  2.  Область  устойчивости  колеса  в  плоскости    при 

В  процессе  проведения  численного  эксперимента  было  установлено,  что  коэффициент  запаздывания    не  влияет  на  размер  и  форму  области  устойчивости  для  нейронной  сети,  представленной  на  Рисунке  1  и  описанной  уравнением  (2)  с  матрицей  взаимодействий  (3).  Были  рассмотрены  запаздывания  на  1,  2,  3,  4  и  5  тактов  (Рисунок  2).

Рассмотрим  теперь  нейронную  сеть  из  четырех  нейронов  с  архитектурой  связей  в  виде  листа  Мёбиуса  (Рисунок  3). 

Рисунок  3.  Нейронная  сеть  конфигурации  «лист  Мёбиуса»

Матрица  взаимодействий    для  нейронной  сети  конфигурации  «лист  Мёбиуса»  имеет  вид

                                     ,                                           (6)

где:    —  сила  взаимодействия  между  нейронами.

При  фиксированном  значении  запаздывания  ,  с  помощью  программы  Mathcad  была  определена  область  устойчивости  в  плоскости    представленная  на  Рисунке  4. 

Рисунок  4.  Область  устойчивости  листа  Мёбиуса  в  плоскости    при 

В  процессе  проведения  расчетов  было  установлено,  что  коэффициент  запаздывания    влияет  на  размер  и  форму  области  устойчивости  для  нейронной  сети,  представленной  на  Рисунке  3  и  описанной  уравнением  (2)  с  матрицей  взаимодействий  (6).  Были  рассмотрены  запаздывания  на  1,  2,  3,  4  и  5  тактов  (Рисунок  5).

Рисунок  5.  Область  устойчивости  листа  Мёбиуса  при 

Сравнивая  области  устойчивости  нейронных  сетей  конфигураций  «колесо»  и  «лист  Мёбиуса»  при  фиксированном  коэффициенте  запаздывания  ,  мы  установили,  что  область  устойчивости  листа  Мёбиуса  больше  области  устойчивости  колеса  при  любом    от  1  до  5.  На  Рисунке  6  границы  области  устойчивости  колеса  обозначены  сплошной  линией,  а  листа  Мёбиуса  —  пунктирной  линией.

Рисунок  6.  Области  устойчивости  в  плоскости    колеса  и  листа  Мёбиуса

При  нечетных    и  значениях  параметров    и    с  одинаковым  знаком  границы  областей  устойчивости  совпадают  (Рисунок  6  a,  b,  c),  при  четных    и  положительных  значениях  параметра    границы  областей  устойчивости  также  совпадают  (Рисунок  6  d,  e).  Области  устойчивости  при  нечетных    симметричны  относительно  начала  координат,  области  устойчивости  при  четных    симметричны  относительно  оси  ординат.

Работа  выполнена  при  поддержке  гранта  Министерства  образования  и  науки  1.1711.2011. 

Список  литературы:

1.Иванов  С.А.,  Козлова  С.А.,  Невзорова  Е.Н.  Устойчивость  рекурсивных  нейронных  сетей  цилиндрической  архитектуры  с  запаздывающими  взаимодействиями  //  «Инновации  в  науке»:  материалы  XVI  международной  заочной  научно-практической  конференции.  Новосибирск:  Изд.  «СибАК»,  —  2013.  —  Ч.  1.  —  С.  7—11.

2.Иванов  С.А.,  Пархоменко  А.А.  Устойчивость  плоского  однородного  нейронного  поля  //  «Инновации  в  науке»:  материалы  XVI  международной  заочной  научно-практической  конференции.  Новосибирск:  Изд.  «СибАК»,  —  2013.  —  Ч.  1.  —  С.  11—16.

3.Речкалова  Л.В.  Область  устойчивости  нейронных  сетей  древовидной  конфигурации  с  запаздывающими  взаимодействиями  //  Всероссийская  научная  конференция  «Информатика  и  информационные  технологии»:  сборник  научных  статей.  Челябинск:  Изд.  ЗАО  «Цицеро»,  2013.  —  С.  20—24. 

4.Ivanov  S.A.,  Kipnis  M.M.  Stability  analysis  of  discrete-time  neural  networks  with  delayed  interactions:  torus,  ring,  grid,  line.  //  International  Journal  of  Pure  and  Applied  Math.  (2012)  V.  78(5).  —  P.  691—709.

5.Khokhlova  T.N.,  Kipnis  M.M.  Numerical  and  qualitative  stability  analysis  of  ring  and  linear  neural  networks  with  a  large  number  of  neurons  //  International  Journal  of  Pure  and  Applied  Math.  (2012)  V.  76(3).  —  P.  403—419.

6.Khokhlova  T.N.,  Kipnis  M.M.  The  breaking  of  a  delayed  ring  neural  network  contributes  to  stability:  The  rule  and  exceptions  //  Neural  Networks  (2013)  V.  48.  —  P.  148—152.