А. А. Жданов – д.ф.-м.н., профессор, гл. науч. сотрудник, отдел научной подготовки проектов, Институт точной механики и вычислительной техники им. С.А. Лебедева Российской академии наук; профессор, базовая кафедра ЭВМ, факультет радиотехники и кибернетики, Московский физико-технический институт

E-mail: a.zhdanov@mail.ru

Постановка проблемы. Современные успехи в создании систем искусственного интеллекта (ИИ) порождают сильный энтузиазм и у создателей, и у потребителей, несмотря на то, что эти системы еще относительно просты, и появление гораздо более мощных систем еще только предвидится. Однако у всякого изобретения есть две стороны медали – полезная и вредная. Если о предполагаемой пользе систем ИИ сегодня говорят много, то о возможном вреде от этих систем – очень мало. Тем не менее многие опасные стороны ожидаемого широкого распространения систем ИИ уже сегодня можно предвидеть, и понимание этих опасностей должно вызвать соответствующие меры по предотвращению ожидаемого ущерба от ИИ.

Цель. Обозначить проблемы, которые с большой вероятностью возникнут при широком использовании систем ИИ, что должно помочь заказчикам, инвесторам, разработчикам и сторонам, представляющим интересы потребителей, своевременно предусмотреть средства и способы минимизации потенциального вреда, который может быть нанесен обществу системами ИИ.

Результаты. Рассмотрено несколько потенциально опасных свойств систем ИИ и следствий их широкого внедрения.

Приведены обоснования или примеры таких нежелательных последствий.

Практическая значимость. Указанные опасности широкого распространения систем ИИ могут породить их обсуждение заинтересованными сторонами, в результате которого может быть достигнуто более глубокое их понимание и инициирован поиск решений по их предотвращению, преодолению или снижению возможного ущерба.

1. Аверкин А.Н., Гаазе-Рапопорт М.Г., Поспелов Д.А. Толковый словарь по искусственному интеллекту. М.: Радио и связь. 1992.
2. Жданов А.А. Автономный искусственный интеллект. М.: БИНОМ. Лаборатория знаний. 2008.
3. McCarthy J. Recursive functions of symbolic expressions and their computation by machine. Part I // Communications of the ACM. 1960. V. 3. № 4. P. 184–195.
4. Лещёв С.В. Постструктуралистские медитации. М.: МИФИ. 1998.
5. Metz C. Why the final game between AlphaGo and Lee Sedol is such a big deal for humanity // Wired News. 14 March 2016.
6. Компьютер Deep Blue победил в шахматы чемпиона мира Гарри Каспарова [Электронный ресурс] / URL: https://denvistorii.ru/11-maya/kompiuter-deep-blue-pobedil-v.html.
7. Bengio Y. Learning deep architectures for AI // Foundations and trends in machine learning. 2009. № 2. P. 1–127.