ПСИХОЛОГИЧЕСКИЕ ФАКТОРЫ ДОВЕРИЯ К СИСТЕМАМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

PSYCHOLOGICAL FACTORS OF TRUST IN ARTIFICIAL INTELLIGENCE SYSTEMS

Tumasyan Irina Rostomovna

Master's student of the Department of Personality Psychology, Kuban State University,

Russia, Krasnodar

АННОТАЦИЯ

В материалах данной статьи рассмотрены позиции ученых о механизме возникновения доверия людей к системам искусственного интеллекта, а также личностные качества, способствующие возникновению и укреплению доверия к таким системам.

ABSTRACT

This article examines the views of scientists on the mechanism of people's trust in artificial intelligence systems, as well as the personal qualities that contribute to the emergence and strengthening of trust in such systems.

Ключевые слова: искусственный интеллект, психологические особенности, доверие, цифровая грамотность, компетентность

Keywords: artificial intelligence, psychological characteristics, trust, digital literacy, competence.

В настоящее время системы искусственного интеллекта все сильнее проникают в повседневную жизнь людей, и эта тенденция актуальна для большинства стран нашей планеты. Взаимодействие людей с системами искусственного интеллекта вызывает различные реакции: от комфорта от быстроты и точности такого взаимодействия до недоверия, тревоги, из-за отсутствия понимания и контроля за функционированием искусственного интеллекта.

Психологические факторы доверия к системам искусственного интеллекта (ИИ) включают как когнитивные и эмоциональные аспекты, так и личностные и контекстные переменные. Эти факторы влияют на то, насколько человек склонен доверять искусственному интеллекту, принимать его рекомендации и взаимодействовать с ним.

Т.Г. Лешкевич отмечает, что «анализ парадокса доверия к системе ИИ, показывает, что данный тип доверия предполагает принятие системы, включающей программный код, которое не может быть отождествлено с доверием, основанным на межличностном общении» [2, с. 36].

Американский профессор К. Сиау, изучавший вопрос отношения людей к ИИ, определил наличие факторов первоначального формирования доверия и постоянного развития доверия (рис.1).

Рисунок 1. Особенности формирования доверия к искусственному интеллекту

По мнению К. Сиау, на первоначальном этапе формирования доверия имеет значение вид системы искусственного интеллекта. Чем больше робот или другая система ИИ похожа на человека, тем легче человеку установить с ним эмоциональную связь [5, с. 47]. Положительные или отрицательные отзывы других людей об их опыте взаимодействия с ИИ также способствуют установлению доверия или недоверия на первоначальном этапе.

Этап дальнейшего установления доверия включает прозрачность, то есть, человек, взаимодействующий с ИИ, должен понимать, какие задачи и каким образом будет выполнять система искусственного интеллекта в определенных условиях. Отсутствие такого понимания отрицательно влияет на возникновение доверия.

Система искусственного интеллекта должна быть разработана так, чтобы пользователю было удобно и интуитивно понятно, как с ней работать. Удобство и надежность работы с ИИ повышает доверие пользователя. Напротив, неожиданные сбои и непонятный интерфейс снижают уровень доверия людей и желание работать с такими системами.

А.А. Дашков и Ю.О. Нестерова считают, что «ИИ обладает потенциалом продемонстрировать и даже превзойти человеческий интеллект, поэтому люди относятся к нему как к угрозе. Цели ИИ должны соответствовать заложенным в него задачам и не выходить за эти пределы, тогда доверие к ИИ будет стабильным» [1, с. 30].

Существует и противоположная точка зрения, которой придерживается ученый из Швеции М. Райан, считающий, что система ИИ – это не человек, и вопрос о доверии к ней не должен ставиться. По его мнению, «людям и не нужно доверять системе ИИ, вместо этого необходимо знать, что такая система выполнит поставленную задачу. Когда система, использующая ИИ, наносит ущерб, люди должны знать, что к ответственности необходимо привлекать людей, стоящих за этой системой, а не систему» [4, с. 2750].

К факторам, снижающим доверие к ИИ, И.Ф. Фрейманис относит «риск утечки личных данных при взаимодействии с ИИ, а также отсутствие чётких правовых норм, регулирующих такие ситуации» [3, с. 75].

При работе с системами ИИ важное значение имеют личностные качества людей, взаимодействующих с такими системами. Наличие навыков в данной сфере и уверенность в своих знаниях приводят к тому, что люди, чувствующие себя компетентными при использовании ИИ, воспринимают его как полезный инструмент. Уровень компетентности оказался одним из ключевых факторов доверия.

Наличие у работающих с системами искусственного интеллекта таких личностных черт, как открытость, экстраверсия и доброжелательность, положительно коррелируют с доверием к интерфейсу с поддержкой ИИ, а невротизм - отрицательно.

Локус контроля также влияет на установление доверия к системам ИИ. Люди, которые чувствуют себя ответственными за свою жизнь и способны влиять на события, чаще воспринимают ИИ как инструмент для улучшения благополучия, как собственного, так и других людей.

Важную роль в вопросах доверия к системам ИИ играют уровень образования и цифровой грамотности. Сотрудники с образованием в сфере технологий или инженерии, а также с развитыми цифровыми навыками чаще доверяют ИИ. При этом ошибки или негативный опыт снижают доверие, а положительный опыт, напротив, служит укреплению доверия.

Таким образом, нами рассмотрены различные мнения ученых о доверии граждан к системам искусственного интеллекта, рассмотрены особенности формирования доверия. Определено, что повышению доверия способствуют хорошая осведомленность о алгоритмах действия ИИ, о задачах, решаемых с его помощью, а также наличие удобного и понятного интерфейса взаимодействия. При этом необходимо понимать, что системы ИИ создаются людьми и ответственными за их работу являются люди.

Определены личностные качества человека, взаимодействующего с ИИ способствующие укреплению доверия к системам искусственного интеллекта: открытость, экстраверсия и доброжелательность, ответственность. Высокий уровень образованности и цифровой грамотности также способствуют росту доверия к системам ИИ.

Список литературы:

1. Дашков А.А., Нестерова Ю.О. Построение доверия при использовании искусственного интеллекгаУ/E-Management. 2021. Т. 4, № 2. С. 28-36.
2. Лешкевич Т.Г. Парадокс доверия к искусственному интеллекту и его обоснование//Философия науки и техники. 2023. Т.28. №1. С.34-57
3. Фрейманис, И. Ф. Чат-бот как инструмент психологической поддержки: исследование мнения пользователей//Социальные и гуманитарные науки: теория и практика. 2024. №4(11). С. 74-79.
4. Ryan M.  In AI we trust: Ethics, artificial intelligence, and reliability// Science and Engineering Ethics, 2020. vol. 26, issue 5, pp. 2749-2767.
5. Siau K., Wang W. Building trust in artificial intelligence, machine learning, and robotics // Cutter Business Technology Journal. 2018. V. 31, No. 2. Pp. 47-53.