Нейрокомпьютерные системы

       

Сокращение описания "сверху вниз" - набор достаточного семейства наиболее значимых параметров


Метод исключения параметров "сверху вниз" с ортогонализацией применим не ко всяким функциям

, а только к таким, которые имеют вид:

Достоинство метода - автоматический учет корреляции между

. Рассмотрим устройства, вычисляющие функции

К ним относятся линейные сумматоры, квадратичные сумматоры и др.

Пусть заданы векторы данных:

Поставим задачу сокращения описания следующим образом: так определить некоторое наименьшее возможное множество индексов

и набор чисел
, чтобы норма отклонения
, где
, не превышала некоторой наперед заданной величины. Все функции рассматриваются на конечном множестве
. Для любой функции
евклидова норма:

С каждой функцией

связан
-мерный вектор
с компонентами
. Вектор
с координатами
является линейной комбинацией векторов
с координатами
. Линейную оболочку семейства векторов
обозначим
. Построим в пространстве
ортонормированный базис с помощью последовательной ортогонализации векторов
. Каждый следующий шаг ортогонализации выполним так, чтобы величина проекции
на новый вектор базиса была максимальной из возможных. Процесс ортогонализации продолжим, пока
, где
- проекция
на построенную ортогональную систему. По окончании процесса полагаем
.


Полагаем
. Тогда
. Это и есть решение задачи. Числа
выражаются через коэффициенты разложения векторов
по
и скалярные произведения
: если
, то
.

Разложение
по
имеет рекурсивную форму:



Для функций вида
с дифференцируемой функцией процедура аналогична с точностью до замены скалярного произведения: используется скалярное произведение с весами
, где
. В этом скалярном произведении вычисляются все нормы и проводится ортогонализация.

Для функций с пороговой нелинейностью на выходе используем скалярное произведение с весами
.

Описанная процедура сокращения "сверху вниз" с ортогонализацией особенно важна для упрощения элементов сложных сетей, в структуре которых и вектор входных сигналов элемента может быть далек от исходных данных, и его выходной сигнал далек от оцениваемого выхода всей сложной системы.

Процедуры анализа значимости и сокращения описания выделяют наиболее важные параметры и связи в НС. По аналогии с обработкой изображения их называют процедурами контрастирования или редукции.

Роль контрастирования (редукции) не сводится только к сокращению описания: более общая задача - привести параметры системы к выделенному набору значений, в частности, уменьшить разрядность, что важно для удешевления специализированных устройств, экономии памяти и т.д.


Содержание раздела