В.И. Будзко1, В.Г. Беленков2

1, 2 ФИЦ ИУ РАН (Москва, Россия)
1 vbudzko@frccsc.ru, 2 vbelenkov@frccsc.ru

Постановка проблемы. Широкое применение систем, реализующих интенсивное использование данных (ИИД-систем), технологий и систем искусственного интеллекта и машинного обучения, их функционирование в составе глобальных сетей влечет за собой новые риски обеспечения безопасности информации. Поэтому важное значение имеет обеспечения доверия к ИИД-системам, в ходе их проектирования, разработки, внедрения и сопровождения, а также совершенствования и развития, отражающие специфику использования в них систем и средств, реализующих технологии искусственного интеллекта и машинного обучения.

Цель. На основе действующей в стране нормативно-методической базы обеспечения доверия определить методические положения подхода к обеспечению доверия к ИИД-системам в ходе их проектирования, разработки, внедрения и сопровождения, а также совершенствования и развития, отражающие специфику использования в них искусственного интеллекта и машинного обучения.

Результаты. Рассмотрены методические положения подхода к обеспечению доверия к ИИД-системам в ходе их проектирования, разработки, внедрения и сопровождения, а также совершенствования и развития, отражающие специфику использования в них искусственного интеллекта и машинного обучения, определенные на основе действующей в стране нормативно-методической базы обеспечения доверия.

Практическая значимость. Положения подхода к обеспечению доверия к ИИД-системам могут быть использованы при разработке таких систем, а также в учебном процессе.

Будзко В.И., Беленков В.Г. Кибербезопасность систем, реализующих интенсивное использование данных. Обеспечение доверия к ИИД-системам, использующим технологии искусственного интеллекта и машинного обучения // Системы высокой доступности. 2026. Т. 22. № 2. С. 5−17. DOI: https://doi.org/10.18127/j20729472-202602-01

1. Будзко В.И., Королев В.И., Беленков В.Г., Кейер П.А. Кибербезопасность систем, реализующих интенсивное использование данных. Часть 1. Место кибербезопасности в защите информации // Системы высокой доступности. 2024. Т. 20. № 1. С. 16–29. DOI: https://doi.org/10.18127/j20729472-202401-02
2. Будзко В.И., Меденников В.И., Королев В.И., Беленков В.Г., Кейер П.А. Особенности систем с интенсивным использованием данных как объектов обеспечения безопасности информации на примере АСУ агротехнологическими процессами // Сис­темы высокой доступности. 2024. Т. 20. № 2. С. 28–39. DOI: https://doi.org/10.18127/j20729472-202402-02
3. Будзко В.И., Королев В.И., Беленков В.Г., Кейер П.А. Кибербезопасность систем, реализующих интенсивное использование данных. Безопасность Распределенной Среды системы, реализующей интенсивное использование данных // Системы высокой доступности. 2024. Т. 20. № 4. С. 15–23. DOI: https://doi.org/10.18127/j20729472-202404-02
4. Будзко В.И., Королев В.И., Беленков В.Г., Кейер П.А. Кибербезопасность систем, реализующих интенсивное использование данных. Безопасность информационной инфраструктуры области с интенсивным использованием данных // Системы высокой доступности. 2024. Т. 20. № 3. С. 5–18. DOI: https://doi.org/10.18127/j20729472-202403-01
5. Будзко В.И., Королев В.И., Беленков В.Г., Кейер П.А. Кибербезопасность систем, реализующих интенсивное использование данных, использующих технологии искусственного интеллекта и машинного обучения // Системы высокой доступности. 2025. Т. 21. № 1. С. 52–62. DOI: https://doi.org/10.18127/j20729472-202501-05
6. ГОСТ Р 59793-2021. Информационные технологии. Комплекс стандартов на автоматизированные системы. Автоматизированные системы. Стадии создания.
7. ГОСТ 34.603–92. Информационная технология. Виды испытаний автоматизированных систем.
8. ГОСТ 19.102-77. Единая система программной документации. Стадии разработки.
9. Елена М. Концепция доверия в информационной системе: понимание, принципы и важность. Информационная безопасность 27.09.2023. https://nauchniestati.ru/spravka/konczepcziya-doveriya-v-informaczionnoj-sisteme/
10. ГОСТ 59276-2020. Системы искусственного интеллекта. Способы обеспечения доверия. Общие положения.
11. ГОСТ Р ИСО/МЭК 15408-3-2013. Информационная технология. Методы и средства обеспечения безопасности. Критерии оценки безопасности информационных технологий. Часть 3. Требования доверия к безопасности.
12. ГОСТ Р ИСО/МЭК 15408-1-2012. Информационная технология. Методы и средства обеспечения безопасности. Критерии оценки безопасности информационных технологий. Часть 1. Введение и общая модель.
13. Халяпин С. Инфраструктура доверия. 12.11.2024. https://softline.ru/about/blog/infrastruktura-doveriya
14. Зацаринный А.А., Иванов К.В. Ключевые вопросы внедрения технологий искусственного интеллекта в контексте обеспечения военной безопасности государства // Известия Российской академии ракетных и артиллерийских наук. 2025. № 3 (138). С. 13–19.
15. Зацаринный А.А., Гаврилов В.Е. Некоторые подходы к развитию технического регулирования в области информационной безопасности систем с искусственным интеллектом // ИТ-Стандарт. 2025. № 3 (44). С. 11–18.