Рекуррентная сеть Эльмана

Рекуррентная сеть Эльмана характеризуется частичной рекуррентностью в форме обратной связи между скрытым и входным слоем, реализуемой с помощью единичных элементов запаздывания

. Обобщенная структура этой сети представлена на рис. 3.

Каждый скрытый нейрон имеет свой аналог в контекстном слое, образующем совместно с внешними входами сети входной слой. Выходной слой состоит из нейронов, однонаправленно связанных только с нейронами скрытого слоя, подобно сети RMLP. Обозначим внутренний вектор возбуждения сети

(в его состав входит также единичный сигнал поляризации), состояния скрытых нейронов -

, а выходные сигналы сети - . При таких обозначениях входной вектор сети в момент имеет форму

Веса синаптических связей первого (скрытого) слоя сети обозначим

, a второго (выходного) слоя - . Если взвешенную сумму -го нейрона скрытого слоя обозначить , а его выходной сигнал - , то

увеличить изображение
Рис. 3.  Структура сети Эльмана

Веса

образуют матрицу

синаптических связей скрытого слоя, а

- функция активации -го нейрона этого слоя. Аналогично можно обозначить взвешенную сумму -го нейрона выходного слоя , а соответствующий ему выходной сигнал сети - . Эти сигналы описываются формулами

В свою очередь, веса

образуют матрицу , описывающую синаптические связи нейронов выходного слоя; - функция активации -го нейрона выходного слоя.

Для прогноза временных рядов могут применяться статистические методы. В этом случае должна быть построена динамическая модель данных (например, регрессионная модель) изучаемого явления. Для простейших задач такая модель может быть построена известными методами. Однако для практических задач, примеры которых приведены выше, построение подобной динамической модели представляет собой сложную аналитическую задачу. Эти приложения связаны обычно не со скалярными, а с векторными временными рядами. Например, в финансовой сфере прогноз котировок товара зависит от вектора динамических данных, которые включают цены открытия и закрытия торговой сессии, среднюю и максимальную цены торговой сессии, суммарный уровень заявок, валютные курсы и пр.

В том случае, когда адекватной математической модели изучаемых временных рядов не существует, удобным инструментом для решения задачи прогноза является нейросетевой экстраполятор динамических данных.

Задача прогноза векторного временного ряда ставится следующим образом:

• задана реализация временного ряда
  
  ,
  
  , на интервале времени
  
  с постоянным интервалом дискретности
  
  ;
• требуется построить оценку значения временного ряда (обычно одной его координаты) в момент времени
  
  , где
  
  - заданное время прогноза.

Из логических соображений или путем статистического анализа имеющейся реализации можно установить, сколько предшествующих значений относительно произвольного текущего момента времени определяюще связаны с прогнозируемым значением. Это означает, что если представить прогнозируемое значение -ой координаты вектора как функцию его предшествующих измерений:



то выбор значения устанавливает "память" экстраполятора. Значение определяет также входной вектор для нейронной сети, которая строится для решения задачи прогноза. Размерность этого вектора равна .

Таким образом, задача прогноза данных на нейронной сети сведена к задаче воспроизведения функции многих переменных , по данным обучающей выборки.


Содержание раздела

---

---

---

Главная сайта

---