Скороход Б. А.
Алгоритмы обучения нейронных сетей и нейро-фаззи систем c сепарабельной структурой

Рассмотрены задачи обучения нейронных сетей и нейро-фаззи систем, приводящие к сепарабельным моделям - структурам, нелинейным относительно некоторых неизвестных параметров и линейным относительно других неизвестных. Предложены новые алгоритмы их обучения, в основе которых - нелинейная оптимизационная задача, включающая априорную информацию только о нелинейно входящих параметрах. Предположено, что она может быть получена по обучающему множеству, распределению генерирующей выборки или лингвистической информации. Для решения задачи используются метод Гаусса - Ньютона с линеаризацией в окрестности последней оценки, асимптотические представления псевдоинверсий возмущенных матриц и сепарабельная структура моделей. Полученные алгоритмы обладают рядом важных свойств: не требуется подбора начальных значений для линейно входящих параметров, который может приводить к расходимости, но при этом нет необходимости находить частные производные от проекционной матрицы; могут быть использованы в режимах последовательной и пакетной обработки; как частный случай, из них следуют известные алгоритмы, а моделирование показывает, что разработанные алгоритмы могут превосходить известные по точности и скорости сходимости.

PDF

Бібліографічний опис:
Скороход Б. А.  Алгоритмы обучения нейронных сетей и нейро-фаззи систем c сепарабельной структурой. Кибернетика и системный анализ. 2015. Т. 51, № 2. С. 13-28. URL: http://jnas.nbuv.gov.ua/article/UJRN-0000412819