Статья опубликована в рамках: Научного журнала «Студенческий» № 34(372)
Рубрика журнала: Философия
Скачать книгу(-и): Скачать книгу
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И ЧЕЛОВЕК: ПРОБЛЕМА ДОВЕРИЯ К ЦИФРОВЫМ ТЕХНОЛОГИЯМ
ARTIFICIAL INTELLIGENCE AND THE HUMAN BEING: THE PROBLEM OF TRUST IN DIGITAL TECHNOLOGIES
Naumenko Kirill Alekseyevich
Student, Specialist degree program in 10.05.01 Computer Security, Orenburg State University (named after V.A. Bondarenko),
Russia, Orenburg
Vyalkov Egor Olegovich
Student, Specialist degree program in 10.05.01 Computer Security, Orenburg State University (named after V.A. Bondarenko),
Russia, Orenburg
Popov Egor Dmitrievich
Student, Specialist degree program in 10.05.01 Computer Security, Orenburg State University (named after V.A. Bondarenko),
Russia, Orenburg
Vasily Alexandrovich Chekhov
Student, Specialist degree program in 10.05.01 Computer Security, Orenburg State University (named after V.A. Bondarenko),
Russia, Orenburg
Zakirova Tatyana Valeryevna
Scientific Supervisor, Candidate of Philosophical Sciences, Associate Professor at the Department of Philosophy, Cultural Studies, and Sociology, Orenburg State University (named after V.A. Bondarenko),
Russia, Orenburg
АННОТАЦИЯ
Распространение систем искусственного интеллекта делает вопрос доверия к цифровым технологиям значимой проблемой современной философии. ИИ применяется для поиска информации, обучения, медицинской диагностики и поддержки решений, влияющих на возможности человека. Однако убедительность ответа не гарантирует его достоверности, а успешность в одной задаче не означает надежности в другой. Цель статьи — определить условия обоснованного доверия к ИИ и границы передачи ему познавательных и практических полномочий. На основе эпистемологии, философии техники и этики ИИ рассматриваются ошибки, непрозрачность, предвзятость данных, распределение ответственности и человеческий контроль. В качестве нормативных ориентиров используются Рекомендация ЮНЕСКО по этике ИИ и рамочная модель управления рисками NIST. Обосновывается, что доверие должно соотноситься с уровнем риска, проверяемостью результатов, распределением ответственности и возможностью оспаривания значимых решений.
ABSTRACT
The spread of artificial intelligence systems makes trust in digital technologies a significant problem for contemporary philosophy. AI tools support information search, learning, medical diagnosis, and decisions that affect people’s opportunities. Yet a persuasive output is not necessarily truthful, and strong performance in one task does not guarantee reliability in another. This article examines the conditions for justified trust in AI and the limits of delegating epistemic and practical authority to digital systems. Drawing on epistemology, philosophy of technology, and AI ethics, it discusses opacity, errors, biased data, accountability, and human oversight. The UNESCO Recommendation on the Ethics of Artificial Intelligence and the NIST AI Risk Management Framework serve as normative reference points.
Trust should be proportionate to risk and supported by verification, clear responsibility, and the possibility of challenging consequential decisions.
Ключевые слова: искусственный интеллект; доверие; цифровые технологии; эпистемология; философия техники; алгоритмическая ответственность; прозрачность; человеческий контроль.
Keywords: artificial intelligence; trust; digital technologies; epistemology; philosophy of technology; algorithmic accountability; transparency; human oversight.
Постановка проблемы и метод исследования
Искусственный интеллект (ИИ) становится частью повседневной среды: люди обращаются к генеративным моделям за объяснениями, используют алгоритмические рекомендации и взаимодействуют с автоматизированными службами, оценивающими заявки или распределяющими ресурсы. Такие инструменты ускоряют обработку информации и помогают выявлять закономерности в больших массивах данных. Вместе с тем пользователь не всегда может проверить, как получен ответ, какие ограничения имеет модель и применим ли результат к конкретной ситуации.
Отсюда возникает вопрос: на каких основаниях человек вправе доверять цифровой системе? Доверие не должно подменять подотчетность и проверяемость: важно не просто добиваться доверия, а создавать условия, при которых технология способна его оправдать [1]. Пользователь может прекратить проверять сведения, если помощник регулярно дает быстрые и правдоподобные ответы; организация — принять алгоритмическую оценку за объективную лишь потому, что она произведена машиной. В результате доверие способно скрывать неопределенность и переносить ответственность на систему.
Цель статьи — определить философские условия обоснованного доверия к ИИ. Метод включает концептуальный анализ доверия, сопоставление эпистемологических и этических подходов и анализ рекомендаций ЮНЕСКО и NIST. Работа носит теоретический характер и не оценивает точность конкретных моделей: доверие следует определять с учетом задачи, возможного ущерба и условий применения.
Доверие к искусственному интеллекту как проблема познания
Человек не может самостоятельно проверить каждый факт и поэтому опирается на свидетельства других людей, экспертные институты, документы и технические средства. Доверие в этом смысле не противоположно рациональности, а участвует в производстве знания. Однако обоснованное доверие требует оснований: надежности источника, возможности проверить утверждение, согласованности с независимыми данными и процедуры исправления ошибки.
При взаимодействии с ИИ возникает особая трудность: система может отвечать связно и уверенно, но стилистическая убедительность не равнозначна истинности. Исследователи больших языковых моделей отмечают риски ошибочных или вводящих в заблуждение результатов и трудности оценки поведения таких систем [2]. Следует различать уверенность пользователя и надежность инструмента: уверенность нередко возникает потому, что ответ совпадает с ожиданиями или подан авторитетным тоном. Философский аргумент Дж. Серла о «китайской комнате» также напоминает, что внешне корректный ответ сам по себе не решает вопрос о природе понимания [3].
Полезным критерием становится проверяемость. Если ответ можно сопоставить с первичными источниками, проверить вычислением или подтвердить независимым способом, доверие получает рациональную опору. Если же результат касается уникальной ситуации или не допускает проверки, требуется осторожность. Поэтому доверие к ИИ следует понимать как предварительное и пересматриваемое ожидание надежности, а не как признание истинности каждого ответа.
Причины чрезмерного доверия к цифровым технологиям
Доверие формируется не только реальной эффективностью, но и устройством взаимодействия. Быстрый ответ, удобный интерфейс, уверенный тон и способность поддерживать диалог создают впечатление компетентности. После многократного успеха в простых задачах пользователь может переносить положительный опыт на более сложные вопросы, не проверяя, сохраняются ли прежние условия надежности.
Один из рисков — автоматизационное смещение, то есть склонность придавать рекомендации системы чрезмерный вес даже при наличии противоречащих сведений. Это проявляется, например, когда сотрудник принимает предложенный вариант без проверки исходных данных. Риск зависит от сложности задачи, подготовки человека, интерфейса и организационной культуры. Естественный язык делает технологию доступнее, но проблема возникает, когда удобство скрывает ограничения и создает ложное впечатление понимания или ответственности. Интерфейс должен показывать, что результат автоматизирован, каковы его ограничения и как его проверить.
Непрозрачность алгоритмов и надежность
Некоторые системы сложно объяснить даже специалистам; в других случаях сведения о модели, данных или критериях оценки не раскрываются. Прозрачность не обязательно требует публикации исходного кода. Пользователю и независимому проверяющему важнее получить сведения, соответствующие риску: назначение системы, условия корректного применения, известные ограничения, показатели качества, способы обращения с данными и порядок пересмотра решения.
Ошибки могут быть связаны с неполными или нерепрезентативными данными, некорректной постановкой задачи или отличием реальных условий от тех, в которых систему тестировали. Генеративные модели дополнительно способны формулировать убедительные, но неподтвержденные утверждения. Поэтому заявление «система работает хорошо» требует уточнения: для каких пользователей и задач, на каких данных и по каким критериям проводилась оценка.
В NIST AI Risk Management Framework 1.0 надежность рассматривается как многомерное свойство: валидность и надежность, безопасность, защищенность и устойчивость, подотчетность и прозрачность, объяснимость, защита приватности и управление вредными смещениями [4]. Точность не исчерпывает надежность: даже точная в среднем система может быть неприемлемой, если она непрозрачна, плохо защищает данные или не допускает оспаривания последствий. Оценивать риски нужно на протяжении всего жизненного цикла — от проектирования до использования и последующего мониторинга.
Ответственность человека при использовании ИИ
Если алгоритмическая рекомендация приводит к ущербу, необходимо установить, кто определил цель системы, выбрал данные, решил внедрить ее, контролировал результат и мог вмешаться. Ответ «так решила система» не является полноценным моральным объяснением: технология не должна служить способом скрыть решения людей и организаций. Обязанности могут распределяться между разработчиком, поставщиком, организацией и специалистом, но такое распределение не должно приводить к исчезновению ответственного субъекта.
Рекомендация ЮНЕСКО по этике ИИ ставит в центр права человека и достоинство, подчеркивает прозрачность, справедливость, человеческий надзор и ответственность на протяжении жизненного цикла системы [5]. Надзор не должен сводиться к формальному подтверждению результата. Он требует компетенции, времени, доступа к значимой информации и полномочий отклонить рекомендацию или пересмотреть решение. Если ИИ влияет на образование, работу, медицинскую помощь, кредит или государственную услугу, человеку также необходимы уведомление об использовании автоматизации и возможность обратиться к компетентному субъекту для обжалования.
Условия обоснованного доверия к ИИ
Из рассмотренных подходов можно выделить пять условий обоснованного доверия. Первое — ясное назначение: пользователь должен понимать, для каких задач предназначена система и где заканчиваются ее возможности. Успех при черновом переводе не означает пригодности для юридического заключения или медицинского решения. Второе — проверяемость и соразмерная прозрачность: чем серьезнее последствия, тем больше сведений требуется о качестве работы, ограничениях, данных и способах проверки.
Третье условие — независимый контроль и возможность оспаривания. Для значимых решений следует предусматривать человеческий пересмотр, исправление ошибок и понятный канал обратной связи. Четвертое — защита данных и учет справедливости: система не заслуживает безоговорочного доверия, если небрежно обращается с личной информацией или систематически создает необоснованные различия. Пятое — распределенная, но не исчезающая ответственность: организациям необходимо определить, кто отслеживает качество, реагирует на инциденты и уполномочен пересматривать решения. Эти условия согласуются с ориентирами NIST и ЮНЕСКО, хотя конкретные меры зависят от области применения и правовых требований [4; 5].
Степень доверия должна соответствовать цене возможной ошибки. Ошибка в рекомендации фильма обычно имеет небольшие последствия; ошибка в медицинской сортировке или решении о праве на услугу может причинить серьезный ущерб. Поэтому чем выше риск и сложнее исправить результат, тем меньше оснований полагаться исключительно на автоматизированный вывод. В образовании ИИ полезен, когда помогает объяснять понятия и проверять рассуждения, но не когда подменяет самостоятельное мышление. В медицине алгоритмическая рекомендация может быть дополнительным основанием, однако должна оцениваться с учетом клинического контекста и профессионального суждения врача.
Заключение
Искусственный интеллект ставит вопрос о доверии в центр отношений человека с цифровой средой, поскольку помогает обрабатывать информацию и одновременно побуждает передавать алгоритмам часть познавательных и практических задач. Доверие нельзя отождествлять с уверенностью, удобством интерфейса или впечатлением от убедительного ответа. Его рациональность зависит от качества оснований, контекста применения, возможности проверки и готовности пересматривать вывод при появлении новых данных.
Риски возникают не только из-за технических ошибок, но и из-за непрозрачности, автоматизационного смещения, необоснованного представления об объективности и размывания ответственности. Надежность ИИ следует оценивать как многомерное свойство, включающее точность, безопасность, прозрачность, объяснимость, защиту приватности и учет вредных смещений. Модель NIST и Рекомендация ЮНЕСКО дают важные ориентиры, но не заменяют анализа конкретной ситуации.
Обоснованное доверие требует ясного назначения системы, проверяемости и соразмерной прозрачности, независимого контроля и возможности оспаривания, защиты данных и учета справедливости, а также сохранения человеческой ответственности. Надзор имеет смысл только при наличии компетенции, времени и полномочий для реального пересмотра. Достойная доверия технология не требует безусловной веры: она предоставляет основания для проверки, обозначает пределы применения и включена в систему ответственности. Рациональное доверие к ИИ — не отказ от критического мышления, а его продолжение в технологически сложной среде.
Список литературы:
- O’Neill O. A Question of Trust. The BBC Reith Lectures. – Cambridge: Cambridge University Press, 2002.
- Bender E.M., Gebru T. McMillan-Major A., Shmitchell S. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? // Proceedings of the. – 2021. – P. 610–623. – DOI: 10.1145/3442188.3445922.
- Searle J.R. Minds, Brains, and Programs // Behavioral and Brain Sciences. – 1980. – Т. 3, № 3. – P. 417–457. – DOI: 10.1017/S0140525X00005756.
- Tabassi E. Artificial Intelligence Risk Management Framework (AI RMF 1.0). NIST AI 100–1. Gaithersburg, MD: National Institute of Standards and Technology [Электронный ресурс]. – 2023. – DOI: 10.6028/NIST.AI.100–1. – URL: https://doi.org/10.6028/NIST.AI.100–1 (дата обращения: 14.10.2026).
- UNESCO. Recommendation on the Ethics of Artificial Intelligence. Adopted on 23 November 2021. Paris: UNESCO [Электронный ресурс]. – 2022. – URL: https://www.unesco.org/en/legal-affairs/recommendation-ethics-artificial-intelligence (дата обращения: 14.10.2026).
- Floridi L. The Ethics of Information. – Oxford: Oxford University Press, 2013.
- European Parliament and Council of the European Union. Regulation (EU) 2024/1689 of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) [Электронный ресурс]. // Official Journal of the European Union. – URL: https://eur-lex.europa.eu/eli/reg/2024/1689/oj (дата обращения: 14.10.2026).

