В.И. Будзко1, В.Г. Беленков2, В.И. Королёв3, Д.А. Мельников4

1−4 ФИЦ ИУ РАН (Москва, Россия)
1 Национальный исследовательский ядерный университет «МИФИ» (Москва, Россия)
4 Финансовый университет при Правительстве Российской Федерации (Москва, Россия)
1 vbudzko@ipiran.ru, 2 vbelenkov@ipiran.ru, 3 vkorolev@ ipiran.ru, 4 mda-17@yandex.ru

Постановка проблемы. Современный этап развития российского общества характеризуется цифровой трансформацией всех его сфер, включая науку, экономику, здравоохранение, образование, культуру и т.д. Одно из направлений такой трансформации – широкое применение технологий искусственного интеллекта (ТИИ), обладающих значительным потенциалом для преобразования общества и жизни людей – в торговле, здравоохранении, транспорте, а также в кибербезопасности и сохранении окружающей среды. Вместе с тем, ТИИ влекут за собой риски обеспечения информационной безопасности (ИБ), которые могут негативно сказаться на отдельных лицах, группах, организациях, отраслях экономики и обществе в целом.

Цель. Проанализировать дополнительные особенности обеспечения ИБ автоматизированных систем (АС), обусловленных использованием многослойных нейронных сетей (МНС). Выявить характерные особенности обучения и тестирования МНС, оказывающие влияние на ТИИ-риски для таких АС.

Результаты. Представлена классификация компьютерных атак АС, использующих уязвимости, специфические для МНС. Определены особенности обучения и тестирования МНС, оказывающие существенное влияние на способ реализации ТИИ-рисков для таких АС.

Практическая значимость. Определены особенности обеспечения ИБ АС, связанные с использованием в них МНС, которые необходимо учитывать при разработке, внедрении и эксплуатации таких АС.

Будзко В.И., Беленков В.Г., Королёв В.И., Мельников Д.А. Особенности обеспечения информационной безопасности автоматизированных систем, использующих технологии нейронных сетей // Системы высокой доступности. 2023. Т. 19. № 3. С. 5−17. DOI: https:// doi.org/10.18127/j20729472-202303-01

1. ISO/IEC 22989:2022 «Information technology – Artificial intelligence – Artificial intelligence concepts and terminology», 2022.
2. Уорр К. Надежность нейронных сетей: укрепляем устойчивость ИИ к обману. СПб.: Питер. 2021. 272 с. (Серия «Бестселлеры O’Reilly»).
3. ETSI GR SAI 004: «Securing Artificial Intelligence (SAI). Problem Statement». 2020.
4. ETSI GR SAI 005: «Securing Artificial Intelligence (SAI). Mitigation Strategy Report». 2021.
5. ГОСТ Р ИСО/МЭК 27005–2010. «Информационная технология. Методы и средства обеспечения безопасности. Менеджмент риска информационной безопасности».
6. ГОСТ Р 50922-2006. «Защита информации. Основные термины и определения».
7. ГОСТ Р 59709-2022. «Защита информации. Управление компьютерными инцидентами. Термины и определения».
8. NIST AI 100-2e2023 IPD «Adversarial Machine Learning. A Taxonomy and Terminology of Attacks and Mitigations», 2023.
9. ГОСТ Р МЭК 62628-2021, «Надежность в технике. Руководство по обеспечению надежности программного обеспечения».
10. ГОСТ 27.002-2015. «Надежность в технике. Термины и определения».
11. NIST SP 1270 (2022) «Towards a Standard for Identifying and Managing Bias in Artificial Intelligen­ce», 2022.
12. NIST AI 100-1 «Artificial Intelligence Risk Management Framework (AI RMF 1.0)». 2023.