С.В. Зимина

Национальный исследовательский Нижегородский государственный университет им. Н.И. Лобачевского  (г. Нижний Новгород, Россия)

Постановка проблемы. Настройка искусственных нейронных сетей (ИНС) по итеративным алгоритмам сопровождается флуктуациями весовых коэффициентов. При решении ИНС задачи выделения полезного сигнала на фоне помех флуктуации весового вектора приводят к ухудшению выделяемого сетью полезного сигнала и, в частности, потерям в выходном отношении сигнал/шум.

Цель. Провести статистический анализ эффективности работы ИНС, который включает анализ потерь в выходном отношении сигнал/шум, связанных с учетом флуктуаций весовых коэффициентов ИНС.

Результаты. Рассматривались ИНС, настраивающиеся по дискретному градиентному и быстрому рекуррентному алгоритмам с ограничениями и алгоритму Хэбба. Показано, что флуктуации приводят к потерям в выходном отношении сигнал/шум, уровень которых зависит от типа рассматриваемого алгоритма и скорости настройки ИНС.

Практическая значимость. Учет флуктуаций весового вектора при анализе выходного отношения сигнал/шум позволяет при практической работе с ИНС соотносить допустимый уровень потерь в выходном отношении сигнал/шум со скоростью настройки сети.

Зимина С.В. Анализ эффективности работы искусственных нейронных сетей с учетом флуктуаций весового вектора, приводящим к потери в выходном отношении сигнал/шум // Нейрокомпьютеры: разработка, применение. 2021. T. 23. № 2. С. 15−25. DOI: https://doi.org/10.18127/j19998554-202102-02

1. Bershad N.J., Eweda E., Bermudez J.C.M. Stochastic analysis of an adaptive line enhancer/canceler with a cyclostationary input // IEEE Transactions on Signal Processing. 2016. V. 64. № 1. P. 104-119. DOI: 10.1109/TSP.2015.2486745
2. Jeong J.J., Kim S.H., Koo G., Kim S.W. Mean – square deviation analysis of multiband – structured subband adaptive filter algorithm // IEEE Transactions on Signal Processing. 2016. V. 64. № 4. P. 985-994. DOI: 10.1109/TSP.2015.2498136
3. Eweda E., Bershad N.J. Stochastic analysis of the signed LMS algorithms for cyclostationary white gaussian inputs // IEEE Transactions on Signal Processing. 2017. V. 65. № 7. P. 1673-1684. DOI: 10.1109/TSP.2016.2646666
4. Li Z., Xia Y., Pei W., Wang K., Mandic D.P. An augmented nonlinear LMS for digital self – interference cancellation in full – duplex direct – conversion transceivers // IEEE Transactions on Signal Processing. 2018. V. 66. № 15. P. 4065–4078. DOI: 10.1109/TSP.2018.2846250
5. Хайкин С. Нейронные сети: полный курс. Изд. 2-е, испр. Пер. с англ. М.: ООО «И.Д. Вильямс». 2006. 1104 с.
6. Галушкин А.И. Теория нейронных сетей. Кн.1: Учеб. пособие для вузов / Общая ред. А.И. Галушкина. М.: ИПРЖР. 2000. 416 с.
7. Татузов А.Л. Нейронные сети в задачах радиолокации. Кн.28. М.: Радиотехника. 2009. 432 с.
8. Zeng X., Yeung D.S. Sensitivity analysis of multilayer perceptron to input and weight perturbations // IEEE Transactions on Neural Networks. 2001. V. 12. № 6. P. 1358–1366. DOI: 10.1109/72.963772
9. Зимина С.В. Статистические характеристики искусственной нейронной сети с дискретным градиентным алгоритмом настройки с учётом флуктуаций весовых коэффициентов // Нейрокомпьютеры: разработка и применение. 2006. № 10. С. 9–15.
10. Зимина С.В. Влияние флуктуаций весовых коэффициентов на статистические характеристики искусственной нейронной сети с алгоритмом рекуррентного обращения выборочной оценки корреляционной матрицы входных сигналов // Нейрокомпьютеры: разработка и применение. 2007. № 5. С. 3–7.
11. Литвинов О.С., Зимина С.В. Статистический анализ флуктуаций весовых коэффициентов искусственной нейронной сети, настраивающейся по алгоритму Хэбба // Нейрокомпьютеры: разработка и применение. 2009. № 3. С. 33–43.
12. Зимина С.В. Флуктуации весовых коэффициентов в искусственной нейронной сети с алгоритмом Хэбба // Нейрокомпьютеры: разработка и применение. 2013. № 4. С. 3–8.
13. Зимина С.В. Определение потерь в выходном отношении сигнал/шум адаптивных антенных решёток, вызванных наличием флуктуаций весового вектора // Радиолокация. Результаты теоретических и экспериментальных исследований. Монография. В 2-х книгах. Кн.1. / Под ред. В.Д. Ястребова. М.: Радиотехника, 2018. C. 112–118.
14. Зимина С.В. Анализ статистических характеристик адаптивной антенной решётки с нелинейной функцией в цепи корреляционной обратной связи // Радиотехника и электроника. 2005. Т. 50. № 8. С. 952–960.
15. Зимина С.В. Флуктуации весового вектора в адаптивных антенных решётках с нелинейной функцией в цепи обратной связи, настраивающихся по алгоритму рекуррентного обращения выборочной оценки корреляционной матрицы входных сигналов // Изв. ВУЗов. Радиофизика. 2006. Т. 49. № 2. С. 164–173.
16. Литвинов О.С., Зимина С.В. Анализ влияния флуктуаций весовых коэффициентов на статистические характеристики адаптивной антенной решетки, настраивающейся по алгоритму Хэбба // Радиотехника и электроника. 2009. Т. 54. № 4. С. 423–432.
17. Круглов В.В., Борисов В.В. Искусственные нейронные сети. Теория и практика. Изд. 2-е. М.: Горячая линия – Телеком. 2002. 382 с.