М.А. Абросимов – аспирант, кафедра «Информационная безопасность автоматизированных систем»,
Саратовский государственный технический университет имени Ю.А. Гагарина
E-mail: destinywatcher@gmail.com
А.В. Бровко – д.ф-м.н., доцент, профессор,
кафедра «Информационная безопасность автоматизированных систем»,
Саратовский государственный технический университет имени Ю.А. Гагарина
E-mail: brovkoav@gmail.com
Постановка проблемы. Рассматривается проблема колебаний уровня ошибки в сети радиально-базисных функций (РБФ) после обучения при изменении размера обучающей выборки. Данные отклонения усложняют процесс построения обучающей выборки и, соответственно, применения РБФ-сетей для решения практических задач.
Цель. Разработать архитектуру искусственной нейронной сети (ИНС), имеющей схожее с сетью РБФ назначение, и обладающей большей устойчивостью к сокращению объема обучающей выборки, а также алгоритм обучения новой архитектуры ИНС.
Результаты. Описаны и реализованы архитектура ИНС, основанная на сети РБФ, и соответствующий ей алгоритм обучения. В отличие от сети РБФ предлагаемая архитектура многослойна и имеет потенциал глубокого обучения. Представленные результаты численного тестирования показывают значительное снижение колебаний ошибки в процессе обучения сети с предложенной архитектурой при сокращении размеров обучающей выборки, что свидетельствует о повышении обобщающей способности предложенной архитектуры по сравнению с РБФ-сетью.
Практическая значимость. В работе в качестве задачи для приложения новой архитектуры ИНС рассматривается восстановление диэлектрических параметров образца, находящегося в системе волноводов, также описанная в [1,2]. Предлагаемая в данной работе архитектура ИНС в целом находит применение в задаче аппроксимации функций в условиях объема обучающей выборки, не подходящего для приложения классических сетей РБФ.
Абросимов М.А., Бровко А.В. Архитектура искусственной нейронной сети повышенной обобщающей способности на базе РБФ. Нейрокомпьютеры: разработка, применение. 2020. Т. 22. № 1. С. 39–45. DOI: 10.18127/j19998554-202001-04.
- Brovko A.V., Murphy E.K., Yakovlev V.V. Waveguide microwave imaging: neural network reconstruction of functional 2-D permittivity profiles// IEEE Transactions on Microwave Theory and Techniques. 2009. V. 57. № 2. P. 406−414.
- Бровко А.В. Метод определения трехмерного профиля диэлектрической проницаемости образца с использованием нейросетевой математической модели // Радиотехника. 2015. № 10. С. 115-120.
- Аксенов С.В., Новосельцев В.Б. Организация и использование нейронных сетей. Томск: Изд-во НТЛ. 2006.
- Haykin S. Neural Networks: A Comprehensive Foundation. Second Edition. New Jersey: Prentice-Hall. 1998.
- Абросимов М.А., Бровко А.В. Критерий определения минимального набора базисов для искусственной нейронной сети с радиальными базисными функциями // Нейрокомпьютеры: разработка, применение. 2018. №3. С. 50-54.
- Bianchini M., Frasconi P., Gori M. Learning without local minima in radial basis function networks // IEEE Transactions on Neural Networks. 1995. V. 6. P. 749−756.
- Craddock R.J., Warwick K. Multi-layer radial basis function networks. An extension to the radial basis function // IEEE Proceedings of International Conference on Neural Networks (ICNN'96). 1996. P. 700−705.
- Chao J., Hoshino M., Kitamura T., Masuda T. A multilayer RBF network and its supervised learning // IEEE IJCNN'01. International Joint Conference on Neural Networks. Proceedings (Cat. No.01CH37222). 2001. P. 1995-2000.
- Крисилов В.А., Кондратюк А.В. Преобразование входных данных нейросети с целью улучшения их различимости [Электронный ресурс] / Режим доступа: http://neuroschool.narod.ru/pub/krikon.pdf
- Fausett L.V. Fundamentals of Neural Networks: Architectures Algorithms and Applications. New Jersey: Prentice-Hall. 1994.
- Долинина О.Н., Кузьмин А.К. Метод построения тестов для отладки нейросетей на основе технической диагностики // Сб. тр. ХХIII Междунар. науч. конф.: Математические методы в технике и технологиях – ММТТ-23. В 12 т. Т. 6. Секции 6, 7 / Под общ.ред. В.С. Балакирева. Саратов: Сарат. гос. техн. ун-т, 2010. С. 38-41.
- Ивженко С.П. Интеллектуальный анализ данных на основе карт Кохонена // Труды XXI Всерос. научно-метод. конф. «Телематика'2014». СПб.: 2014. С. 250.