В.А. Шахнов1, А.В. Пролетарский2, Л.А. Зинченко3, В.В. Казаков4, В.В. Терехов5

1–5 МГТУ им. Н.Э. Баумана (Москва, Россия)

1 shakhnov@mail.ru, 2 pav_mipk@mail.ru, 3 lzinchenko@bmstu.ru,

4 kazakov.vadim.2012@yandex.ru, 5 vterekhov.bmstu@gmail.com

Постановка проблемы. Искусственный интеллект, включая его подраздел машинное обучение, все больше используются в различных приложениях. Для реализации современных систем машинного обучения требуются не только специализированные алгоритмы, но и большие объемы информации, на основе которых производится обучение моделей. Также немаловажными подзадачами в исследовании этики искусственного интеллекта, включая подраздел машинное обучение, являются вопросы робоэтики и интеграции систем с искусственным интеллектом в цифровую экономику как на уровне Российской Федерации, так и на международном уровне. Для решения проблем этики искусственного интеллекта на уровне государства создаются специализированные комитеты.

Цель. Продемонстрировать маршрут проведения проверки выполнения этических принципов на примере разработанной в МГТУ им. Н.Э. Баумана системы когнитивно-графической визуализации информации для задачи визуального и программного анализа параметров многослойных экранов защиты электронной аппаратуры от воздействия тяжелых заряженных частиц CognShield.

Результаты. Рассмотрены различные подходы к машинному обучению, а также некоторые возможные риски его применения с точки зрения этики. Проведен обзор этических принципов, выделенных сообществом в сфере искусственного интеллекта. Описано разработанное программное обеспечение CognShield, его задачи и основные структурные элементы пользовательского интерфейса. Приведен пример анализа программного обеспечения на соответствие Кодексу этики в сфере искусственного интеллекта и принципу Монреальской декларации об ответственном развитии искусственного интеллекта. Предложено дополнить перечень критериев этичности принципом адаптивности, подразумевая такое поведение системы машинного обучения, при котором она различными методами фокусирует пользователя на аспектах трактовки результата или рекомендаций по его применению.

Практическая значимость. Программное обеспечение CognShield полностью соответствует принципу Монреальской декларации об ответственном развитии искусственного интеллекта и каждому пункту из текущей редакции Кодекса искусственного интеллекта РФ. В связи с чем может применяться в задачах визуального и программного анализа параметров многослойных экранов защиты электронной аппаратуры от воздействия тяжелых заряженных частиц.

Шахнов В.А., Пролетарский А.В., Зинченко Л.А., Казаков В.В., Терехов В.В. К вопросу этики искусственного интеллекта // Нейрокомпьютеры: разработка, применение. 2024. T. 26. № 5. С. 17-29. DOI: https://doi.org/10.18127/j19998554-202405-02

1. Bush V. As We May Think. [Электронный ресурс] – Режим доступа: http://web.mit.edu/STS.035/www/PDFs/think.pdf, дата обращения 25.10.2022.
2. Anderson M., Anderson S.L. Machine Ethics. Cambridge: Cambridge University Press. 2011. DOI 10.1017/CBO9780511978036.
3. Белоусов П.А., Марухина О.В., Скоморохов А.О., Старков С.О., Мирзеабасов О.А., Распопов Д.А. Машинное обучение и большие данные: Учеб. пособие. СПб.: ГУАП. 2021. 119 с. ISBN 978-5-8088-1655-8.
4. Приказ Росстандарта от 25.07.2019 № 1732 О создании технического комитета по стандартизации «Искусственный интеллект». [Электронный ресурс] – Режим доступа: https://law.tks.ru/document/702234, дата обращения 23.10.2022.
5. XGBoost Documentation. [Электронный ресурс] – Режим доступа: https://xgboost.readthedocs.io/en/latest/, дата обращения 25.10.2022.
6. CatBoost – high-performance open source library for gradient boosting on decision trees. [Электронный ресурс] – Режим досту­па: https://catboost.ai/, дата обращения 25.10.2022.
7. Devlin J., Chang M.-W., Lee K., Toutanova K. BERT: Pre-training of Deep Bidirectional Transformers for Language Understand­ing // Proceedings of Conference of the North American Chapter of the Association for Computational Linguistics. 2019. V. 1. P. 4171–4186. DOI 10.18653/v1/N19-1423.
8. Sinha K., Jia R., Hupkes D., Pineau J., Williams A., Kiela D. Masked Language Modeling and the Distributional Hypothesis: Order Word Matters Pre-training for Little // Proceedings of the Conference on Empirical Methods in Natural Language Processing. 2021. P. 2888–2913. DOI 10.18653/v1/2021.emnlp-main.230.
9. Jabeur S.B., Mefteh-Wali S., Viviani J.L. Forecasting gold price with the XGBoost algorithm and SHAP interaction values // Annals of Operations Research. 2021. DOI 10.1007/s10479-021-04187-w.
10. Understanding LSTM Networks. [Электронный ресурс] – Режим доступа: https://colah.github.io/posts/2015-08-Understanding-LSTMs/, дата обращения 25.10.2022.
11. Karatzoglou A., Jablonski A., Beigl M. A Seq2Seq learning approach for modeling semantic trajectories and predicting the next location // Proceedings of the 26th ACM SIGSPATIAL International Conference on Advances in Geographic Information Systems. 2018. P. 528–531.
12. Declaration of montr´eal for a responsible development of AI. [Электронный ресурс] – Режим доступа: https://www.montreal-declaration-responsibleai.com, дата обращения 25.10.2022.
13. The Institute for Ethical AI & Machine Learning. [Электронный ресурс] – Режим доступа: https://ethical.institute/index.html, дата обращения 25.10.2022.
14. Ienca M., Vayena E. AI Ethics Guidelines: European and Global Perspectives. [Электронный ресурс] – Режим доступа: https://rm.coe.int/cahai-2020-07-fin-en-report-ienca-vayena/16809eccac, дата обращения 25.10.2022.
15. Кашапова Э.Р., Рыжкова М.В. Когнитивные искажения и их влияние на поведение индивида // Вестник Томского государственного университета. Экономика. 2015. № 2(30). С. 15–26. DOI 10.17223/19988648/30/2.
16. Russian DALL-E. [Электронный ресурс] – Режим доступа: https://rudalle.ru/, дата обращения 25.10.2022.
17. Кодекс этики в сфере искусственного интеллекта. [Электронный ресурс] – Режим доступа: https://a-ai.ru/wp-content/up-loads/2021/10/Кодекс_этики_в_сфере_ИИ_финальный.pdf, дата обращения 25.10.2022.
18. Зинченко Л.А., Казаков В.В., Миронов А.А. Иерархический дескриптор для отображения информации о многослойных радиационно-стойких экранах защиты электронной аппаратуры // Автоматизация. Современные технологии. 2021. Т. 75. № 4. С. 171–176.