Особенности обеспечения информационной безопасности автоматизированных систем, использующих технологии нейронных сетей
- 1 Национальный исследовательский ядерный университет «МИФИ» (Москва, Россия)
- 4 Финансовый университет при Правительстве Российской Федерации (Москва, Россия)
Аннотация
Постановка проблемы. Современный этап развития российского общества характеризуется цифровой трансформацией всех его сфер, включая науку, экономику, здравоохранение, образование, культуру и т.д. Одно из направлений такой трансформации – широкое применение технологий искусственного интеллекта (ТИИ), обладающих значительным потенциалом для преобразования общества и жизни людей – в торговле, здравоохранении, транспорте, а также в кибербезопасности и сохранении окружающей среды. Вместе с тем, ТИИ влекут за собой риски обеспечения информационной безопасности (ИБ), которые могут негативно сказаться на отдельных лицах, группах, организациях, отраслях экономики и обществе в целом.
Цель. Проанализировать дополнительные особенности обеспечения ИБ автоматизированных систем (АС), обусловленных использованием многослойных нейронных сетей (МНС). Выявить характерные особенности обучения и тестирования МНС, оказывающие влияние на ТИИ-риски для таких АС.
Результаты. Представлена классификация компьютерных атак АС, использующих уязвимости, специфические для МНС. Определены особенности обучения и тестирования МНС, оказывающие существенное влияние на способ реализации ТИИ-рисков для таких АС.
Практическая значимость. Определены особенности обеспечения ИБ АС, связанные с использованием в них МНС, которые необходимо учитывать при разработке, внедрении и эксплуатации таких АС.
- Поступила
- 04.08.2023
- Одобрена
- 08.08.2023
- Принята
- 30.08.2023
Для цитирования
Будзко В.И., Беленков В.Г., Королёв В.И., Мельников Д.А. Особенности обеспечения информационной безопасности автоматизированных систем, использующих технологии нейронных сетей // Системы высокой доступности. 2023. Т. 19. № 3. С. 5−17. DOI: https:// doi.org/10.18127/j20729472-202303-01
Список источников
- ISO/IEC 22989:2022 «Information technology – Artificial intelligence – Artificial intelligence concepts and terminology», 2022.
- Уорр К. Надежность нейронных сетей: укрепляем устойчивость ИИ к обману. СПб.: Питер. 2021. 272 с. (Серия «Бестселлеры O’Reilly»).
- ETSI GR SAI 004: «Securing Artificial Intelligence (SAI). Problem Statement». 2020.
- ETSI GR SAI 005: «Securing Artificial Intelligence (SAI). Mitigation Strategy Report». 2021.
- ГОСТ Р ИСО/МЭК 27005–2010. «Информационная технология. Методы и средства обеспечения безопасности. Менеджмент риска информационной безопасности».
- ГОСТ Р 50922-2006. «Защита информации. Основные термины и определения».
- ГОСТ Р 59709-2022. «Защита информации. Управление компьютерными инцидентами. Термины и определения».
- NIST AI 100-2e2023 IPD «Adversarial Machine Learning. A Taxonomy and Terminology of Attacks and Mitigations», 2023.
- ГОСТ Р МЭК 62628-2021, «Надежность в технике. Руководство по обеспечению надежности программного обеспечения».
- ГОСТ 27.002-2015. «Надежность в технике. Термины и определения».
- NIST SP 1270 (2022) «Towards a Standard for Identifying and Managing Bias in Artificial Intelligence», 2022.
- NIST AI 100-1 «Artificial Intelligence Risk Management Framework (AI RMF 1.0)». 2023.