К.Д. Русаков1, А.О. Исхакова2, Р.В. Мещеряков3

1-3 ФГБУН Институт проблем управления им. В.А. Трапезникова РАН (Москва, Россия)

Постановка проблемы. В целях противодействия проявлению агрессии, давления и других форм деструктивного воздействия на индивидуальное и групповое сознание пользователей на сегодняшний день на первый план выходит задача обнаружения деструктивного контента, такого как явная «нагота», насилие, наркотики, алкоголь и др. В условиях быстрого темпа цифровизации и генерации разнородного Интернет-контента построение высокоэффективных научно-технических решений, позволяющих в автоматизированном режиме проводить детектирование подобного рода контента, является актуальной научной проблемой.

Цель. Провести исследование потенциала извлечения характерных признаков из одиночных кадров с целью распознавания деструктивного Интернет-контента разного рода и предложить подход к распознаванию такого контента по одному кадру.

Результаты. Представлена система детектирования деструктивного контента, основанная на сверточной нейронной сети, позволяющей классифицировать мультимедиафайлы по принадлежности к заранее определенным категориям. Экспериментально доказано, что предложенная модель обеспечивает среднюю точность топ-1, равную 80%, по всем классам при тестировании на коллекции изображений.

Практическая значимость. Предлагаемый подход к детектированию деструктивного контента на изображениях позволяет уменьшить объем обрабатываемых данных на 10%, повышая эффективность анализа при решении подобных задач.

Русаков К.Д., Исхакова А.О., Мещеряков Р.В. Распознавание деструктивного мультимедиаконтента в социокиберфизической системе мониторинга сети интернет по одному кадру // Нейрокомпьютеры: разработка, применение. 2022. T. 24. № 3. С. 5-17. DOI: https://doi.org/ 10.18127/j19998554-202203-01

1. Кулагина И.В., Исхакова А.О., Галин Р.Р. Моделирование практик агрессии в социо-киберфизической среде // Вестник томского государственного университета. Философия. Социология. Политология. 2019. № 52. С. 147-161.
2. Власенко М.С. Обеспечение информационной безопасности несовершеннолетних в сети интернет: современное состояние и совершенствование правового регулирования // Вестник Волжского университета им. В.Н. Татищева. 2019. Т. 1. № 3. С. 98-105.
3. Казарин О.В., Скиба В.Ю., Шаряпов Р.А. Новые разновидности угроз международной информационной безопасности // Вестник РГГУ. Серия: Документоведение и архивоведение. Информатика. Защита информации и информационная безопасность. 2016. № 1(3). С. 54-72.
4. Iskhakova A., Iskhakov A., Meshcheryakov R. Research of the estimated emotional components for the content analysis // Journal of Physics Conference Series. V. 1203(1). Article 012065. DOI:10.1088/1742-6596/1203/1/012065.
5. Охапкин В.П., Охапкина Е.П., Исхакова А.О., Исхаков А.Ю. Деструктивное информационно-психологическое воздействие в социальных сетях // Моделирование, оптимизация и информационные технологии. 2020. Т. 8. № 1(28). С. 22-23.
6. Levonevskii D., Shumskaya O., Velichko A., Uzdiaev M., Malov D. Methods for Determination of Psychophysiological Condition of User Within Smart Environment Based on Complex Analysis of Heterogeneous Data / Ronzhin A., Shishlakov V. (eds) // Proceedings of 14th International Conference on Electromechanics and Robotics “Zavalishin's Readings”. Smart Innovation, Systems and Technologies. V. 154. Springer. Singapore. DOI: 10.1007/978-981-13-9267-2_42.
7. Iskhakova А.O., Rusakov K.D., Iskhakov A.Y., Mamchenko M.V. Detection of destructive multimedia content in the socio-cyberphysical Internet monitoring system // Management of Large Systems: Proceedings of XVII All-Russian School-Conference of Young Scientists. Moscow-Zvenigorod. September 06-09 2021. Moscow: ICS RAS. 2021. P. 202-212.
8. Lin Y.C., Tseng H.W., Fuh C.S. Pornography detection using support vector machine // Proceedings of the 16th IPPR Conference on Computer Vision, Graphics and Image Processing (CVGIP '03). 2003. V. 19. Р. 123–130.
9. Zhu H., Zhou S., Wang J., Yin Z. An algorithm of pornographic image detection // Proceedings of the 4th International Conference on Image and Graphics (ICIG '07). August 2007. Р. 801–804.
10. Kakumanu P., Makrogiannis S., Bourbakis N. A survey of skin-color modeling and detection methods // Pattern Recognition. 2007. V. 40. № 3. Р. 1106–1122.
11. Basilio J.A.M., Torres G.A., Perez G.S., Medina L.K.T., Meana H.M.P., Hernadez E.E. Explicit content image detection // Signal and Image Processing: International Journal. 2010. V. 1. № 2. Р. 47–58.
12. Marcial-Basilio J.A., Aguilar-Torres G., Sánchez-Pérez G., et al. Detection of pornographic digital images // International Journal of Computers. 2011. V. 5. № 2. Р. 298–305.
13. Basilio J.A.M., Torres G.A., Pérez G.S., Medina L.K.T., Meana H.M.P. Explicit image detection using YCbCr space color model as skin detection // Applications of Mathematics and Computer Engineering. 2011. Р. 123–128.
14. Sumon S.A., Goni R., Hashem N.B., Shahria T., Rahman R.M. Violence Detection by Pretrained Modules with Different Deep Learning Approaches // Vietnam Journal of Computer Science. 2020. V. 7. № 1. P. 19–40.
15. Sa Sajjad M., Khan S., Muhammad K., Wu W., Ullah A., Baik S.W. Multi-Grade Brain Tumor Classification using Deep CNN with Extensive Data Augmentation // Journal of Computational Science. 2019. V. 30. P. 174-182.
16. Zihang D., et al. CoAtNet: Marrying Convolution and Attention for All Data Sizes // arXiv preprint arXiv:2106.04803 (2021).
17. Sandler M., Howard A., Zhu M., Zhmoginov A., Chen L.-C. Mobilenetv2: Inverted residuals and linear bottlenecks // Proceedings of the IEEE conference on computer vision and pattern recognition. 2018. Р. 4510–4520.
18. Sifre L. Rigid-motion scattering for image classification. Ph.D. thesis section 6.2. 2014.
19. Ribani R., Marengoni M. A Survey of Transfer Learning for Convolutional Neural Networks // 2019 32nd SIBGRAPI Conference on Graphics, Patterns and Images Tutorials (SIBGRAPI-T). 2019. Р. 47-57.
20. Zhang Z. Improved Adam Optimizer for Deep Neural Networks // 2018 IEEE/ACM 26th International Symposium on Quality of Service (IWQoS). 2018. Р. 1-2.
21. Smith L.N. Cyclical learning rates for training neural networks // 2017 IEEE winter conference on applications of computer vision (WACV). 2017.