Сокращение описания "сверху вниз" - набор достаточного семейства наиболее значимых параметров
Метод исключения параметров "сверху вниз" с ортогонализацией применим не ко всяким функциям
, а только к таким, которые имеют вид:Достоинство метода - автоматический учет корреляции между
. Рассмотрим устройства, вычисляющие функцииК ним относятся линейные сумматоры, квадратичные сумматоры и др.
Пусть заданы векторы данных:
Поставим задачу сокращения описания следующим образом: так определить некоторое наименьшее возможное множество индексов
и набор чисел , чтобы норма отклонения , где , не превышала некоторой наперед заданной величины. Все функции рассматриваются на конечном множестве . Для любой функции евклидова норма:С каждой функцией
связан -мерный вектор с компонентами . Вектор с координатами является линейной комбинацией векторов с координатами . Линейную оболочку семейства векторов обозначим . Построим в пространстве ортонормированный базис с помощью последовательной ортогонализации векторов . Каждый следующий шаг ортогонализации выполним так, чтобы величина проекции на новый вектор базиса была максимальной из возможных. Процесс ортогонализации продолжим, пока , где - проекция на построенную ортогональную систему. По окончании процесса полагаем .Полагаем . Тогда . Это и есть решение задачи. Числа выражаются через коэффициенты разложения векторов по и скалярные произведения : если , то .
Разложение по имеет рекурсивную форму:
Для функций вида с дифференцируемой функцией процедура аналогична с точностью до замены скалярного произведения: используется скалярное произведение с весами , где . В этом скалярном произведении вычисляются все нормы и проводится ортогонализация.
Для функций с пороговой нелинейностью на выходе используем скалярное произведение с весами .
Описанная процедура сокращения "сверху вниз" с ортогонализацией особенно важна для упрощения элементов сложных сетей, в структуре которых и вектор входных сигналов элемента может быть далек от исходных данных, и его выходной сигнал далек от оцениваемого выхода всей сложной системы.
Процедуры анализа значимости и сокращения описания выделяют наиболее важные параметры и связи в НС. По аналогии с обработкой изображения их называют процедурами контрастирования или редукции.
Роль контрастирования (редукции) не сводится только к сокращению описания: более общая задача - привести параметры системы к выделенному набору значений, в частности, уменьшить разрядность, что важно для удешевления специализированных устройств, экономии памяти и т.д.