А.С. Кожаринов1, Ю.А. Кириченко2, И.В. Афанасьев3, А.И. Власов4, Н.П. Лабуз5

1,2 Национальный исследовательский технологический университет «МИСиС (Москва, Россия)

3-5 МГТУ им. Н.Э. Баумана (Москва, Россия)

Постановка проблемы. Человеку в своей психофизической деятельности свойственно допускать ошибки и отклонения в мышлении и поведении. Некоторые из них подчиняются определенным закономерностям и могут иметь прогнозируемый и систематический характер. Типичные представители таких ошибок и отклонений - когнитивные искажения, которые наиболее критически проявляются в деятельности человека (оператора), когда он является активным элементом системы управления и его неверные действия могут иметь опасный для функционирования системы характер. Многообразие когнитивных искажений и учет особенностей их влияния в различных сферах деятельности определяют актуальность их исследования и разработки методов и программного инструментария для их автоматизированного детектирования особенно с использованием технологий, моделей и средств искусственного интеллекта. Решение задач изучения и детектирования когнитивных искажений направлено на создание методов и средств предотвращения бессознательной активизации человеческим мозгом таких искажений и ошибок в поведении и принятии решений.

Цель. Провести систематизацию и обобщение влияния когнитивных искажений на функционирование человеко-машинных систем, а также представить концепцию автоматизированной интеллектуальной системы детектирования когнитивных искажений человека-оператора.

Результаты. Рассмотрена модель деятельности человека-оператора, в соответствие с которой приведена классификация инструментария для детектирования когнитивных искажений. Приведена классификация когнитивных искажений по Бастеру Бенсу, а также в каждой группе искажений представлены методы детектирования, которые в последующем могут быть использованы для разработки программного обеспечения. Предложена концепция автоматизированной интеллектуальной системы детектирования когнитивных искажений и определены ключевые характеристики для создания демонстрационного прототипа.

Практическая значимость. Представленная концепция автоматизированной интеллектуальной системы детектирования когнитивных искажений может найти применение в самых разных видах деятельности и, в первую очередь, в сферах, в которых человек в рамках своей профессиональной деятельности выполняет обязанности, связанные с регулярным процессом принятия решений в условиях высоких рисков и ответственности (например, экипажи летательных аппаратов; операторы оборудования, используемого в опасных производственных и технологических процессах; несущие боевое дежурство военнослужащие; врачи, ставящие диагноз в условиях ограниченного времени и недостатка информации о состоянии организма пациента; авиадиспетчеры и т.п.). Кроме того, возможно ее применение при проведении медицинских консультаций, онлайн-собеседований, оптимизации кадрового потенциала организаций, что позволит существенно увеличить эффективность работы систем, управляемых человеком.

Кожаринов А.С., Кириченко Ю.А., Афанасьев И.В., Власов А.И., Лабуз Н.П. Методы анализа когнитивных искажений и концепция автоматизированной интеллектуальной системы их детектирования // Нейрокомпьютеры: разработка, применение. 2022. T. 24. № 4. С. 39-74. DOI: https://doi.org/ 10.18127/j19998554-202204-04

1. Кукин П.П., Лапин В.Л., Пономарев Н.Л. и др. Безопасность жизнедеятельности, безопасность технологических процессов и производств, охрана труда. Учеб. пособие для вузов. Изд. 4-е, перераб. М.: Высшая школа. 2007. 335 с.
2. Бодалев А.А. Восприятие и понимание человека человеком. М.: Изд-во МГУ. 1982. 199 с.
3. Shepherd J. The face and social attribution // Handbook of research on face processing. Amsterdam: North Holland. 1989.
   Р. 289-320.
4. Ушаков Д.В. Анатомия психологического знания // Психологическое знание: Современное состояние и перспективы развития / Под ред. А.Л. Журавлева, А.В. Юревича. М.: ИП РАН. 2018. С. 71-115.
5. Веккер Л.М. Восприятие и основы его моделирования. Л.: Изд-во Ленингр. ордена Ленина гос. ун-та им. А.А. Жданова. 1964. 194 с.
6. Леонтьев Д.А. Понимание смысла и смысл понимания // Понимание: опыт мультидисциплинарного исследования / Под ред. А.А. Брудного, А.В. Уткина, Е.И. Яцуты. М.: Смысл. 2006. С. 20-27.
7. Park В., Judd C. M., Ryan C. S. Social categorization and the representation of variability information // European Review of Social Psychology. John Wiley and sons LTD. 1991. V. 2. Р. 211-245.
8. Taylor S.E., Fiske S.T., Etkoff N.L., Ruderman A.J. Categorical and contextual bases of person memory and stereotyping // Journal of personality and social psychology. 1978. V. 36. № 7. Р. 778-793.
9. Tversky A., Kahneman D. Extensional versus intuitive reasoning: The conjunction fallacy in probability judgment // Psychological Review. 1983. № 90. Р. 293–315.
10. Попов А.Ю., Вихман А.А. Когнитивные искажения в процессе принятия решений: научная проблема и гуманитарная технология // Вестник Южно-Уральского государственного университета. Сер. Психология. 2014. Т. 7. № 1. С. 5-16.
11. Билибин К.И., Власов А.И., Журавлева Л.В.и др. Конструкторско-технологическое проектирование электронных средств / Под ред. В.А. Шахнова. М.: Изд-во МГТУ им. Н.Э. Баумана. 2005. 568 с.
12. Крюкова Т.Л., Екимчик О.А., Хохлова Ю.А., Кирпичник О.В. Феномен когнитивных искажений субъективных оценок жизненных явлений и его измерение (первичная русскоязычная адаптация шкалы когнитивных искажений - CdS) // Вестник Костромского государственного университета. Сер. Педагогика. Психология. Социокинетика. 2018. № 4. С. 61-67.
13. Kahneman D., Krueger A.B. Developments in the measurement of subjective well-being // The Journal of Economic Perspectives. 2006. № 20. P. 3–24.
14. Kahneman D., Tversky A. (Eds.). Choices, values and frames. New York: Cambridge University Press and the Russell Sage Foundation. 2000.
15. Канеман Д. Думай медленно. Решай быстро. М.: АСТ. 2016. 653 с.
16. Чалдини Р. Психология влияния. Убеждай. Воздействуй. Защищайся. СПб: Питер. 2016. 338 с.
17. Бурков В.Н., Новиков Д.А. Теория активных систем: состояние и перспективы. М.: Синтег. 1999.
18. Бурков В.Н., Новиков Д.А. Теория активных систем (История развития и современное состояние) // Проблемы управления. 2009. № 3.1. С. 28-35.
19. Бурков В.Н., Лернер А.Я. Принцип открытого управления. М.: ИАТ. 1974.
20. Бурков В.Н. Основы математической теории активных систем. М.: Наука. 1977.
21. Батурина О. Фундаментальная ошибка атрибуции педагогов при восприятии ими поведения обучающихся: результаты эмпирического исследования // Педагогическое образование и наука // МАНПО. 2014. № 5. С. 145–147.
22. Власов А.И. Современное состояние и тенденции развития теории и практики активного гашения волновых полей // Приборы и системы. Управление, контроль, диагностика. 1997. № 11. С. 59.
23. Мозжухина Ю.Н. Когнитивные искажения как свойство поведенческих моделей // Проблемы педагогики. 2017. № 9(32).
    С. 22-25.
24. Психология мышления / Под ред. А.М. Матюшкина. М.: Прогресс. 1965. 532 с.
25. Ильин Е.П. Психология творчества, креативности, одаренности. СПб: Питер. 2009.
26. Зефиров Т.Л., Зиятдинова Н.И., Купцова А.М. Физиологические основы памяти. Развитие памяти у детей и подростков. Казань: КФУ. 2015. 40 с.
27. Когнитивная психология: история и современность. Хрестоматия / Под ред. М. Фаликман, В. Спиридонова. М.: Ломоносовъ. 2011. 384 с.
28. Benson B. Cognitive bias cheet sheet. Электронный ресурс. URL: busterbenson.com. дата обращения 05.12.2021.
29. Власов А.И., Конькова А.Ф. Медико-диагностические экспертные системы для оценки адекватности адаптивной реакции организма на воздействие экстремальных факторов // Конверсия. 1995. № 9-10. С. 18-21.
30. Белов П.Г. Теоретические основы системной инженерии безопасности. М.: ГНТП «Безопасность», МИБ СТС. 1996. 424 с.
31. Ткачева О.Н., Чердак М.А., Мхитарян Э.А. Обследование пациентов с когнитивными нарушениями // РМЖ. 2017. 25.
    С. 1880-1883. https://www.rmj.ru/articles/nevrologiya/Obsledovanie_pacientov_s_kognitivnymi_narusheniyami/.
32. Нейрокомпьютеры в системах обработки изображений. Кн. 7 / Под ред. А.И. Галушкина. М.: Радиотехника. 2003. 192 с.
33. Нейрокомпьютеры в системах обработки сигналов. Кн. 9 / Под ред. Ю.В. Гуляева, А.И. Галушкина. М.: Радиотехника. 2003. 224 с.
34. Девятков В.В., Алфимцев А.Н. Распознавание манипулятивных жестов // Вестник Московского государственного технического университета им. Н.Э. Баумана. Сер. Приборостроение. 2007. № 3(68). С. 56-74.
35. Василова Е.В., Власов А.И., Евдокимов Г.М. Невербальные коммуникации животного мира: системный анализ жестовых языков // Международный научно-исследовательский журнал. 2017. № 5-3(59). С. 14-23.
36. Василова Е.В., Власов А.И., Евдокимов Г.М. Невербальные коммуникации животного мира: картирование элементов жестовых языков // Международный научно-исследовательский журнал. 2017. № 6-3(60). С. 102-110.
37. Аверьянихин А.Е., Власов А.И., Евдокимова Е.В. Иерархическая пирамидальная субдискретизация в глубоких сверточных сетях для распознавания визуальных образов // Нейрокомпьютеры: разработка, применение. 2021. Т. 23. № 1. С. 17-31.
38. Власов А.И., Папулин С.Ю. Анализ данных с использованием гистограммной модели комбинации признаков // Нейрокомпьютеры: разработка, применение. 2019. Т. 21. № 5. С. 18-27.
39. Сакулин С.А., Алфимцев А.Н., Локтев Д.А., Коваленко А.О., Девятков В.В. Защита изображения человека от распознавания нейросетевой системой на основе состязательных примеров // Вестник компьютерных и информационных технологий. 2020. Т. 17. № 2(188). С. 32-38.
40. Кожаринов А.С., Чернов Т.С., Разумный Н.П., Николаев Д.П., Арлазаров В.В. Оценка качества входных изображений в системах распознавания видеопотока // Информационные технологии и вычислительные системы. 2017. № 4. С. 71-82.
41. Taranyan A.R., Devyatkov V.V., Alfimtsev A.N. Selective covariance-based human localization, classification and tracking in video streams from multiple cameras // 9th International Conference on Bioinformatics Models, Methods and Algorithms, Proceedings (BIOINFORMATICS 2018). Part of 11th International Joint Conference on Biomedical Engineering Systems and Technologies. BIOSTEC 2018. 2018. 9. С. 81-88.
42. Девятков В.В., Алфимцев А.Н., Таранян А.Р. Селективно-ковариационный метод локализации, классификации и отслеживания людей в видеопотоках от множества видеокамер // Вестник МГТУ им. Н.Э. Баумана. Сер. Приборостроение. 2016. № 6(111). С. 54-70.
43. Иванова Г.С., Головков А.А., Тюрин С.А. Детектирование и классификация объектов городской инфраструктуры по изображениям в видимом спектре // Технологии инженерных и информационных систем. 2017. № 2. С. 15-25.
44. Иванова Г.С., Головков А.А., Тюрин В.А. Детектирование и классификация объектов на изображениях в инфракрасном спектре // Технологии инженерных и информационных систем. 2017. № 2. С. 81-90.
45. Юлдашев М.Н., Власов А.И. Программный комплекс динамической классификации объекта на основе диапазонов предикатов дерева решений // Свидетельство о регистрации программы для ЭВМ 2020665601, 27.11.2020. Заявка № 2020664889 от 20.11.2020.
46. Prudius A.A., Karpunin A.A., Vlasov A.I. Analysis of machine learning methods to improve efficiency of BIG DATA processing in industry 4.0 // Journal of Physics: Conference Series. 2019. N.032065.
47. Ryszard S. Michalski, Jaime G. Carbonell, Tom M. Mitchell Machine Learning: An Artificial Intelligence Approach, Tioga Publishing Company. 1983.
48. Liang Wang, Li Cheng, Guoying Zhao. Machine Learning for Human Motion Analysis. IGI Global. 2009. 318 p.
49. Лекун Я. Как учится машина. Революция в области нейронных сетей и глубокого обучения. (Библиотека Сбера: Искусственный интеллект). М.: Интеллектуальная Литература. 2021.
50. Пытьев Ю.П. Математические методы интерпретации эксперимента. М.: Высшая школа. 1989. 351 с.
51. Бродский А.К., Кан В.Л. Краткий справочник по математической обработке результатов измерений. М.: Государственное издательство стандартов. 1960. 167 с.
52. Ахремчик О.Л. Когнитивные искажения в процессе проектирования систем автоматизации // Вестник Тверского государственного технического университета. 2012. № 22. С. 103-104.
53. Дегтярёва В.В., Созаева Д.А. Когнитивные особенности принятия управленческих решений в условиях цифровой экономики. Результаты эксперимента // Вестник университета. 2019. № 4. С. 5-13.
54. Лучинкина И.С. Когнитивные механизмы коммуникативного поведения в интернет-пространстве // Научный результат. Педагогика и психология образования. 2018. Т. 4. № 3. С. 56-70.
55. Миллер R.B. Время отклика в разговорных транзакциях человек-компьютер // Proc. AFIPS Fall Joint Computer Conference. 1968. V. 33. Р. 267-277.
56. Jorm A.F., Jacomb P.A. The Informant Questionnaire on Cognitive Decline in the Elderly (IQCODE): Socio-demographic correlates, reliability, validity and some norms // Psychological Medicine. 1989. № 19. Р. 1015-1022.
57. Larson J., Mattu S., Kirchner L. and Angwin J. How We Analyzed the COMPAS Recidivism Algorithm. 2016.
58. Andrew Thompson Google’s Sentiment Analyzer Thinks Being Gay Is Bad // Motherboard. 2017.
59. Kliegr T., Bahnik S., Furkanz J. A review of possible effects of cognitive biases on interpretation of rule-based machine learning models // Artificial Intelligence. 2021. V. 295. № 103458.
60. Витт Н. Личностно-ситуационная опосредованность выражения и распознавания эмоций в речи // Вопросы психологии. 1991. № 1. С. 95-107.
61. Alfimtsev A., Nazarova S., Zelong X. Automatic chronological ordering of audio data using spectograms // Journal of Theoretical and Applied Information Technology. 2017. Т. 95. № 21. С. 5825-5836.
62. Алмаев Н.А., Юмкина Г.Ю. Формальные коэффициенты оценки речевой продукции в интервью: опыт разработки и применения // Вопросы психолингвистики. 2007. № 5. С. 46.
63. Петрова Е.М., Ничушкина Т.Н. Анализ проблем автоматического распознавания русской речи // Технологии инженерных и информационных систем. 2019. № 1. С. 3-10.
64. Пешков Д.В., Минитаева А.М. Нейронная сеть для определения принадлежности предложений заданному языку // Технологии инженерных и информационных систем. 2019. № 4. С. 10-19.
65. Морозов В.П. Искусство и наука общения: Невербальная коммуникация // Психофизиологические и психоакустические основы.
66. Байгужин П.А., Шибкова Д.З., Айзман Р.И. Факторы, влияющие на психофизиологические процессы восприятия информации в условиях информатизации образовательной среды // ScienceforEducationToday. 2019. Т. 9. № 5. С. 48-70.
67. Власов А.И., Ларионов И.Т., Орехов А.Н., Тетик Л.В. Система автоматического анализа методов распознавания эмоционального состояния человека // Нейрокомпьютеры: разработка, применение. 2021. Т. 23. № 6.
68. Орехов А.Н. Решение нестандартных задач компьютерной системой // Нейрокомпьютеры: разработка, применение. 2021. T. 23. № 3. С. 43−62.
69. Хрисанфова Л. А. Представления об индивидуально-психологических особенностях человека по структурным особенностям его лица // Экспериментальная психология. 2009. Т. 2. № 4. С. 51-73.
70. Барабанщиков В. А., Хрисанфова Л. А. Доверие к человеку при первичном восприятии его лица // Методы исследования психологических структур и их динамики / Под ред. Т.Н. Савченко, Г.М. Головиной. М.: ИП РАН. 2007. Вып. 4. С. 117-127.
71. Миненко А.С., Ванжа Т.В. Система распознавания эмоционального состояния человека // Проблемы искусственного интеллекта. 2020. № 3(18). C. 60-69.
72. Breazieal P., Washeef A. Robots Emotion: A functional perspective / Who Need Emotions: The Brain Meet the Robots // MIT Press. 2003. P.138–169.
73. Эчеагарай-Патрон Б.А., Кобер В.И. Метод распознавания лиц с использованием трехмерных поверхностей // Информационные процессы. 2016. Т. 16. № 3. C. 170-178.
74. Си Я. Автоматические распознавание эмоций пользователя для организации интеллектуального интерфейса // Молодежный научно-технический вестник 2013. № 2(4). С. 51.
75. Мищенкова Е.С. Сравнительный анализ алгоритмов распознавания лиц // Вестник Волгоградского государственного университета. Сер. 9: Исследования молодых ученых. 2015. № 11. С. 75-78.
76. Тухтасинов М.Т., Раджабов С.С. Алгоритмы распознавания лиц на основе локальных направленных шаблонов // Проблемы вычислительной и прикладной математики. 2016. № 5(5). С. 101-106.
77. Заболеева А. В. Развитие системы автоматизированного определения эмоций и возможные сферы применения // Открытое образование. 2012. № 3. С. 60–63.
78. Брумштейн Ю.М., Молимонов Д.А. Модели, методы, технические средства управления рисками проектирования, создания и эксплуатации сложных человеко-машинных систем с учетом психофизиологических характеристик людей-операторов // Прикаспийский журнал: управление и высокие технологии. 2019. № 3(47). С. 143-162.
79. Власов А.И., Зеновкин Н.В. Методы визуального управления при реализации пользовательских интерфейсов // Программные продукты и системы. 2011. № 1. С. 23-26.
80. Жердев И.Ю., Барабанщиков В.А. Аппаратно-программный комплекс для исследований зрительного восприятия сложных изображений во время саккадических движений глаз человека // Экспериментальная психология. 2014. Т. 7. № 1. С. 123-131.
81. Попов А. Ю., Вихман А. А. Когнитивные искажения в процессе принятия решений: научная проблема и гуманитарная технология // Вестник ЮУрГУ. Серия «Психология». 2014. Т. 7. № 1. С. 5-15.
82. База биометрических данных и алгоритмы распознавания URL: http://biometrics.idealtest.org/datasets/1/1000/base/3450(Дата обращения 15.08.2021).