С.В. Зимина – к.ф.-м.н., доцент, Национальный исследовательский Нижегородский государственный университет им. Н.И. Лобачевского

E-mail: zimina-sv@yandex.ru

Постановка проблемы. Настройка искусственных нейронных сетей (ИНС) по итеративным алгоритмам сопровождается флуктуациями весовых коэффициентов. Данные флуктуации возникают из-за статистической связи векторов входных сигналов и весовых векторов искусственных нейронов и приводят к ухудшению качества настройки ИНС. Цель. Провести статистический анализ работы ИНС, настраивающейся по быстрому рекуррентному алгоритму с ограничениями, с учетом флуктуаций весовых коэффициентов.

Результаты. Приведены выражения корреляционной функции и мощности выходного сигнала произвольного нейрона, находящегося в произвольном слое ИНС. Показано, что учет флуктуаций приводит к появлению в статистических характеристиках дополнительных слагаемых, искажающих выделяемый ИНС полезный сигнал.

Практическая значимость. Учет флуктуаций весового вектора при настройке ИНС позволяет оптимизировать работу данных сетей по критерию «скорость настройки – точность настройки», то есть выбирать при заданном уровне искажений флуктуациями статистических характеристик, выделяемого сетью сигнала, максимальную скорость настройки данной сети.

Зимина С.В. Характеристики искусственной нейронной сети с быстрым рекуррентным алгоритмом настройки с учетом флуктуаций весовых коэффициентов. Нейрокомпьютеры: разработка, применение. 2020. Т. 22. № 3. С. 36–44. DOI: 10.18127/j19998554-202003-04

1. Хайкин С. Нейронные сети: полный курс. Изд. 2-е, испр. Пер. с англ. М.: ООО «И.Д. Вильямс». 2006. 1104 с.
2. Галушкин А.И. Теория нейронных сетей. Кн.1: Учеб. пособие для вузов / Общая ред. А.И. Галушкина. М.: ИПРЖР.

2000. 416 с.

1. Татузов А.Л. Нейронные сети в задачах радиолокации. Кн.28. М.: Радиотехника. 2009. 432с.
2. Bershad N.J., Eweda E., Bermudez J.C.M. Stochastic analysis of an adaptive line enhancer/canceler with a cyclostationary input // IEEE Transactions on Signal Processing. 2016. V. 64. № 1. P. 104-119. DOI: 10.1109/TSP.2015.2486745
3. Jeong J.J., Kim S.H., Koo G., Kim S.W. Mean – square deviation analysis of multiband – structured subband adaptive filter algorithm // IEEE Transactions on Signal Processing. 2016. V. 64. № 4. P. 985-994. DOI: 10.1109/TSP.2015.2498136
4. Eweda E., Bershad N.J. Stochastic analysis of the signed LMS algorithms for cyclostationary white gaussian inputs // IEEE Transactions on Signal Processing. 2017. V. 65. № 7. P. 1673-1684. DOI: 10.1109/TSP.2016.2646666
5. Li Z., Xia Y., Pei W., Wang K., Mandic D.P. An augmented nonlinear LMS for digital self – interference cancellation in full – duplex direct – conversion transceivers // IEEE Transactions on Signal Processing. 2018. V. 66. № 15. P. 4065-4078. DOI: 10.1109/TSP.2018.2846250
6. Zeng X., Yeung D.S. Sensitivity analysis of multilayer perceptron to input and weight perturbations // IEEE Transactions on Neural Networks. 2001. V. 12. № 6. P. 1358 - 1366. DOI: 10.1109/72.963772
7. Зимина С.В. Статистические характеристики искусственной нейронной сети с дискретным градиентным алгоритмом настройки с учётом флуктуаций весовых коэффициентов // Нейрокомпьютеры: разработка, применение. 2006. № 10. С. 9–15.
8. Зимина С.В. Влияние флуктуаций весовых коэффициентов на статистические характеристики искусственной нейронной сети с алгоритмом рекуррентного обращения выборочной оценки корреляционной матрицы входных сигналов // Нейрокомпьютеры: разработка, применение. 2007. № 5. С. 3–7.
9. Литвинов О.С., Зимина С.В. Статистический анализ флуктуаций весовых коэффициентов искусственной нейронной сети, настраивающейся по алгоритму Хэбба // Нейрокомпьютеры: разработка, применение. 2009. № 3. С. 33–43.
10. Зимина С.В. Флуктуации весовых коэффициентов в искусственной нейронной сети с алгоритмом Хэбба // Нейрокомпьютеры: разработка, применение. 2013. № 4. С. 3 – 8.
11. Пупков К.А., Капалин В.И., Ющенко А.С. Функциональные ряды в теории нелинейных систем. М.: Наука. 1976.
12. Зимина С.В. Флуктуации весового вектора в адаптивных антенных решётках с нелинейной функцией в цепи обратной связи, настраивающихся по алгоритму рекуррентного обращения выборочной оценки корреляционной матрицы входных сигналов // Известие ВУЗов. Радиофизика. 2006. Т. 49. № 2. С. 164 - 173.
13. Круглов В. В., Борисов В.В. Искусственные нейронные сети. Теория и практика. Изд. 2-е. М.: Горячая линия – Телеком. 2002. 382 с.