СОЦИАЛЬНО-ПРАВОВЫЕ ПРОБЛЕМЫ ЭТИКИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

SOCIO-LEGAL PROBLEMS OF ARTIFICIAL INTELLIGENCE ETHICS

Starovoitova Ulyanа-Halima Alexandrovna

master's student in specialty «Jurisprudence», University of the National Academy of Sciences of Belarus

Belarus, Minsk

АННОТАЦИЯ

В статье исследуются философские и этические проблемы, порождаемые внедрением искусственного интеллекта (ИИ) в социальную и правовую реальность. Автор анализирует историко-философские предпосылки формирования дискуссии о моральном статусе машин, начиная от механицизма Нового времени (Декарт, Ламетри) и заканчивая современными концепциями «сильного» и «слабого» ИИ. Особое внимание уделяется мысленному эксперименту Дж. Сёрля «Китайская комната», обосновывающему тезис о невозможности семантического понимания у алгоритмических систем. Рассматриваются две основные этические парадигмы программирования ИИ: деонтологическая (top-down), опирающаяся на кантовский категорический императив, и утилитарная (bottom-up), основанная на оптимизации функции полезности. Выявляются риски алгоритмической предвзятости, «этического зазора» (responsibility gap) и технологической сингулярности. Обосновывается тезис о необходимости гибридной модели ответственности, сочетающей «значимый человеческий контроль» и объективную ответственность владельца, а также о переходе к человекоориентированному ИИ (human-centric AI) как условию сохранения субъектности человека в цифровую эпоху.

ABSTRACT

The article explores the philosophical and ethical problems generated by the introduction of artificial intelligence (AI) into social and legal reality. The author analyzes the historical and philosophical prerequisites for the formation of a discussion about the moral status of machines, starting from the mechanics of Modern times (Descartes, Lametri) and ending with modern concepts of "strong" and "weak" AI. Special attention is paid to J. Searle's thought experiment "The Chinese Room", which substantiates the thesis that semantic understanding of algorithmic systems is impossible. Two main ethical paradigms of AI programming are considered: deontological (top-down), based on the Kantian categorical imperative, and utilitarian (bottom-up), based on optimizing the utility function. The risks of algorithmic bias, "ethical gap" and technological singularity are identified. The thesis is substantiated on the need for a hybrid responsibility model combining "meaningful human control" and objective responsibility of the owner, as well as the transition to human-centric AI as a condition for preserving human subjectivity in the digital age.

Ключевые слова: искусственный интеллект; этический зазор; «Китайская комната»; деонтология; утилитаризм; алгоритмическая предвзятость; технологическая сингулярность; электронное лицо; ответственность; human-centric AI.

Keywords: artificial intelligence; ethical gap; "Chinese room"; deontology; utilitarianism; algorithmic bias; technological singularity; electronic person; responsibility; human-centric AI.

Введение. Актуальность темы обусловлена тем, что на современном этапе развития техногенной цивилизации искусственный интеллект (ИИ) перестал быть сугубо прикладным инструментом автоматизации. Он превратился в онтологический вызов, трансформирующий структуру человеческого опыта, познания и социального взаимодействия [1, с. 120-135; 2, с. 78-92]. Если ранее техника рассматривалась в рамках инструменталистского подхода как нейтральное средство, то современные автономные системы претендуют на роль агентов, способных к самостоятельному выбору в ситуациях этической неопределенности [3, с. 45-60]. Философская актуальность проблемы обусловлена столкновением двух парадигм: традиционного антропоцентризма, постулирующего, что моральным субъектом может быть только свободное и сознательное существо [4, с. 245-260], и технологического функционализма, утверждающего, что если система выполняет действия, имеющие моральные последствия (распределение ресурсов в медицине или управление беспилотным транспортом), то она должна быть включена в рамки этического регулирования [5, с. 120-145; 6, с. 180-195]. Возникает ситуация, которую современная философия определяет как «этический зазор» (responsibility gap). В традиционной связке «субъект – поступок – ответственность» ИИ становится промежуточным звеном, размывающим классическое понимание вины и вменяемости [7, с. 101-105; 8, с. 88-92]. Непрозрачность алгоритмов глубокого обучения (проблема «черного ящика») делает невозможным полное предсказание поведения системы, что ставит под вопрос безопасность и справедливость цифрового общества [9, с. 210-225; 10, с. 78-82]. Для юриспруденции данный «этический зазор» трансформируется в пробел в позитивном праве. Современное право, построенное на антропоцентричной модели, не готово дать ответ на вопрос: кого привлекать к ответственности за вред, причиненный самообучающейся системой, разработчика, который не мог предсказать конечное решение нейросети, владельца, который просто использует программу как инструмент или же признать за самой системой ограниченную правосубъектность (по аналогии с юридическим лицом), что потребует пересмотра фундаментальных основ гражданского и уголовного права [11, с. 6-9; 12, с. 18-24]. Таким образом, философская проблема морального выбора ИИ напрямую выходит на уровень правоприменительной практики. Решение этих дилемм требует не только этической рефлексии, но и нормативного регулирования. Целью данной статьи является концептуальный анализ этических вызовов ИИ и определение путей их интеграции в современную гуманитарную культуру.

В основу исследования положен междисциплинарный подход, сочетающий методы феноменологии (анализ опыта взаимодействия с ИИ), герменевтики (интерпретация «решений» алгоритма) и критической теории. Рассмотрим основные философско-антропологические основания проблемы.

1. Философско-антропологические основания искусственного интеллекта. Корни современной этики ИИ уходят в онтологические споры Нового времени о природе жизни и мышления. Фундамент этой дискуссии заложил Рене Декарт, предложивший дуалистическую модель мира. В своем трактате «Рассуждение о методе» он рассматривал животных и человеческое тело как automata – сложные механизмы, лишенные души [2, с. 78-92]. Декарт выдвинул два критерия, которые до сих пор резонируют в тестах на «разумность» ИИ: способность использовать язык для выражения мыслей и универсальность действий. Для Декарта машина навсегда оставалась объектом, так как она лишена res cogitans (мыслящей субстанции). С точки зрения современного права, именно этот тезис лежит в основе традиционного подхода к технике как к объекту правоотношений – вещи, которая не может быть носителем прав и обязанностей. Радикализация этой идеи произошла в эпоху Просвещения. Жюльен Ламетри в своем труде «Человек-машина» устранил декартовский дуализм, утверждая, что душа - это лишь «чувствительная материальная часть мозга» [13, с. 45]. С его точки зрения, разрыв между биологическим и механическим был не качественным, а лишь количественным. Этот материалистический монизм стал философской прелюдией к современному функционализму, на котором базируется разработка ИИ. В контексте юриспруденции аргумент Ламетри актуализирует дискуссию о правосубъектности «сильного ИИ»: если качественной разницы между «мозгом» и «процессором» нет, то почему у первого есть права, а у второго – нет. [9, с. 220-225].

Качественный переход произошел в середине XX века с появлением кибернетики Норберта Винера. В работе «Кибернетика, или управление и связь в животном и машине» он впервые осознал, что машины с обратной связью перестают быть простыми исполнителями [1, с. 120-135]. Винер предупреждал, что люди должны быть уверены в соответствии целей машины собственным. Именно здесь возникает юридическая «проблема причинно-следственной связи»: если машина действует на основе непредвиденной обратной связи, можно ли считать разработчика прямой причиной вреда. Винер фактически предсказал современную проблему «черного ящика», которая, как отмечают И.Ю. Алексеева и А.В. Павлов, разрушает классическую модель вины в праве [7, с. 108-110; 8, с. 85-88]. Современный философ Хьюберт Дрейфус, опираясь на феноменологию Мартина Хайдеггера [14, с. 240-255], выдвинул аргумент против создания полноценного ИИ, указав на роль телесности (embodiment). Человеческий разум неразрывно связан с биологическим телом и социокультурным контекстом («бытие-в-мире»). Поскольку ИИ лишен телесного опыта, его «интеллект» остается симуляцией. Для юриспруденции это означает, что попытки наделить ИИ правосубъектностью наталкиваются на непреодолимое препятствие: нельзя вменить ответственность тому, у кого нет тела и экзистенциального мира [6, с. 190-195; 15, с. 8-12].

Ключевым вкладом в дискуссию о сознании ИИ стал мысленный эксперимент Джона Сёрля «Китайская комната». В статье «Разум мозга - компьютер?» он предложил разделить ИИ на два типа: «слабый» (инструмент, имитирующий мышление) и «сильный» (машина, обладающая ментальными состояниями) [16, с. 7-10]. Эксперимент описывает человека, запертого в комнате, который не знает китайского языка, но имеет подробную инструкцию по манипуляции иероглифами. Получая вопросы на китайском, он, следуя правилам, выдает правильные ответы, так что носители языка снаружи убеждены: в комнате находится знающий человек. Однако, по факту, человек внутри не понимает ни одного символа. Этот эксперимент проводит границу между синтаксисом (формальной обработкой знаков) и семантикой (пониманием смыслов). ИИ может «вычислить» правильное моральное решение, но он не может «сочувствовать» или «осознавать» ценность человеческой жизни [16, с. 11-13]. Для права аргумент Сёрля означает, что ИИ принципиально неспособен к субъективному вменению. Вина предполагает психическое отношение лица к содеянному, осознание противоправности. Как отмечает Д.И. Дубровский, если у системы нет «внутреннего мира», нет понимания смысла своих действий (а есть только синтаксическая обработка символов), то к ней неприменимы категории вины [9, с. 210-225]. «Китайская комната» доказывает, что даже идеальное исполнение алгоритма не порождает того психического состояния, которое право требует для признания лица виновным.

Вопрос о моральном статусе ИИ – это не просто теоретическая надстройка, а фундаментальная проблема, определяющая контуры будущего права. Лучано Флориди в рамках инфоэтики предлагает отойти от антропоцентризма в пользу онтоцентризма: любая сущность, существующая как информационный объект (инфоорг), обладает базовым моральным статусом уже в силу своего существования [6, с. 180-195]. В этой парадигме ИИ заслуживает уважения не потому, что он «чувствует», а потому что он является сложным узлом информационной реальности. В 2017 году в резолюции Европарламента «Нормы гражданского права о робототехнике» была выдвинута идея о создании особого правового статуса для автономных роботов – «электронной личности» (e-personhood). Это породило острую критику. Основные возражения сводятся к следующему: признание ИИ лицом может позволить корпорациям перекладывать ответственность на машину, которую нельзя наказать; если права могут быть даны набору кода, само понятие личности девальвируется; возникает асимметрия прав и обязанностей, так как ИИ не может «чувствовать» вину [5, с. 312-320; 7, с. 103–106; 12, с. 29-33]. В качестве синтеза в современной литературе используется термин «прокси-субъектность». ИИ не обладает собственной волей, но выступает как полномочный представитель человеческой воли, усиленный алгоритмической мощью [11, с. 10–12; 8, с. 90–94]. Философский консенсус смещается в сторону гибридной ответственности, где ИИ признается моральным объектом (требующим бережного обращения), но ответственность за его действия всегда остается на моральном субъекте – человеке.

2. Основные этические парадигмы в программировании ИИ. Перенос моральных норм в программный код сталкивается с фундаментальной трудностью: язык этики контекстуален и нюансирован, в то время как язык программирования требует однозначности [14, с. 380-395; 8, с. 86-90]. В современной философии ИИ выделяются два основных пути решения этой задачи: «сверху вниз» (top-down) и «снизу вверх» (bottom-up) [5, с. 140-150; 10, с. 210-220].

Деонтологическая этика постулирует, что моральная ценность действия определяется его соответствием универсальным правилам, а не его последствиями [4, с. 245-260]. В контексте проектирования интеллектуальных систем этот подход реализуется через модель «сверху вниз»: этические нормы внедряются непосредственно в архитектуру системы как жесткие ограничения (constraints), которые алгоритм не имеет права нарушать [7, с. 102-105; 8, с. 88-91]. Первой попыткой деонтологического программирования стали «Три закона робототехники» Айзека Азимова. Однако, как показал сам Азимов в своих произведениях, эта система страдает от семантической неопределенности (что считать «вредом»?), неполноты (невозможно создать исчерпывающий список правил для всех жизненных ситуаций) и коллизий норм (в ситуациях неизбежного выбора жесткая деонтология вводит систему в бесконечный цикл) [5, с. 145–148; 10, с. 220-225]. Более строгую философскую базу для деонтологического ИИ обнаруживается в этике Иммануила Канта. Категорический императив - «поступай так, чтобы максима твоей воли могла стать основой всеобщего законодательства» – требует прозрачности и универсальности [4, с. 245-260]. Запрет на использование человека как средства накладывает вето на алгоритмы, манипулирующие сознанием пользователя (например, рекомендательные системы, вызывающие зависимость). Однако главный недостаток деонтологического подхода – его ригидность (жесткость): он беспомощен в ситуациях, не описанных в правилах [8, с. 90-91].

Утилитаризм, как направление нормативной этики, постулирует, что морально правильным является то действие, которое в своих последствиях дает максимальный избыток пользы над вредом («принцип наибольшего счастья» И. Бентама) [4, с. 310 -325; 7, с. 104-107]. В контексте ИИ эта парадигма оказывается наиболее технологически реализуемой, так как современные алгоритмы по своей сути являются системами оптимизации целевой функции [5, с. 150-155; 10, с. 230-235]. Философская проблема здесь заключается в квантификации ценностей: как присвоить числовое значение человеческой жизни, не нарушая базовые этические интуиции. Утилитарный ИИ сталкивается с «диктатурой чисел», где интересы меньшинства всегда будут приноситься в жертву интересам большинства  [17, с. 410-420; 16, с. 11-13]. В 2016 году исследователи Массачусетского технологического института запустили проект Moral Machine, собрав миллионы решений людей из разных культур. Выяснилось, что общемирового утилитарного консенсуса не существует. В западных культурах ИИ чаще направляют на спасение молодых; в восточных (Китай, Япония) отдают предпочтение пожилым, исходя из иерархии уважения к возрасту [5, с. 300-310; 12, с. 33-36]. Главное философское возражение против утилитарного ИИ связано с несоизмеримостью благ. Философ Бернард Уильямс указывал, что утилитаризм игнорирует моральную целостность личности. Если ИИ-врач решит разобрать одного здорового пациента на органы для спасения пяти других, это будет «математически верно» в рамках утилитаризма, но морально чудовищно с точки зрения гуманизма [9, с. 330–335; 10, с. 250–255]. Поэтому современные философы предлагают «правило-утилитаризм»: следовать правилам, которые в долгосрочной перспективе приносят максимум блага, но ограничены деонтологическими барьерами (например, «никогда не жертвовать невинным намеренно») [7, с. 109–112; 11, с. 12–14].

3. Социально-этические вызовы и экзистенциальные риски. Распространение ИИ порождает ряд проблем, которые выходят за рамки индивидуальной этики и требуют системного философского осмысления [18, с. 45–60; 3, с. 120–135].

Первая проблема – «разрыв ответственности» (responsibility gap). В классической моральной философии ответственность базируется на связке «сознание – воля – действие» [4, с. 245–250]. Однако появление самообучающихся алгоритмов создает ситуацию, где вред нанесен, а виновного в классическом смысле найти невозможно. Главная причина – непрозрачность (opacity) современных систем ИИ. Нейросети глубокого обучения формируют логику принятия решений в процессе обработки колоссальных массивов данных, и человек часто не может реконструировать эту логику (проблема Explainable AI) [17, с. 480–490; 10, с. 310–315]. Философ Хелен Ниссенбаум указывает на «проблему множества рук» (problem of many hands). В создании ИИ задействованы сотни людей: инженеры, поставщики данных, тестировщики, менеджеры. Когда ошибка системы приводит к катастрофе, вина распределяется настолько тонким слоем, что она фактически исчезает, превращая трагедию в «техногенную неизбежность» [6, с. 270–280; 15, с. 10–12]. Пути преодоления: модель «значимого человеческого контроля» (meaningful human control) – в критических сферах (правосудие, оружие, медицина) окончательное решение остается за человеком, который обязан понимать логику системы [11, с. 14–16]; и переход к объективной ответственности (strict liability) – по аналогии с владением источником повышенной опасности, владелец ИИ несет ответственность за любой вред, причиненный системой, независимо от наличия его личной вины [1, с. 130–135; 8, с. 91–94].

Вторая проблема – алгоритмическая предвзятость. В общественном сознании долгое время доминировал миф о «машинной объективности»: считалось, что ИИ, будучи математической системой, свободен от человеческих предрассудков [17, с. 300–310]. Однако философский анализ показывает, что ИИ часто выступает в роли «усилителя несправедливости», консервируя и легитимизируя существующее социальное неравенство [18, с. 60–70; 15, с. 11–13]. Предвзятость возникает на трех уровнях: предвзятость данных (алгоритм обучается на исторических данных, которые являются отражением прошлых дискриминационных практик), техническая предвзятость (ограничения дизайна, например, низкое качество распознавания лиц с темным оттенком кожи) и эмерджентная предвзятость (появляется в процессе эксплуатации, когда ИИ подстраивается под неэтичные предпочтения пользователей) [6, с. 230–240]. Исследовательница Вирджиния Юбэнкс в работе «Автоматизируя неравенство» доказывает, что ИИ часто превращается в инструмент «цифрового надзора» за бедными слоями населения, создавая «цифровое гетто», из которого практически невозможно выбраться, так как решение машины выглядит для чиновника неоспоримым и «научным» [15, с. 12]. Философский ответ на этот вызов – требование интерпретируемости (interpretability). Если ИИ-система (например, в сфере HR или медицины) не может объяснить, почему она сделала тот или иной выбор, ее применение нарушает право человека на справедливое обращение. «Право на объяснение» должно стать базовым цифровым правом личности [7, с. 110–112; 11, с. 15–17; 12, с. 28–31].

Третья проблема – экзистенциальные риски технологической сингулярности. Математик Вернор Виндж и футуролог Рэй Курцвейл назвали технологической сингулярностью точку, за которой технический прогресс становится настолько быстрым и сложным, что он оказывается недоступным для понимания человеческим разумом [5, с. 50–60]. Философский фундамент идеи сингулярности заложил И. Дж. Гуд, описав «интеллектуальный взрыв»: как только будет создан ИИ, способный проектировать еще более совершенный ИИ, начнется экспоненциальный рост производительности, который оставит биологическую эволюцию далеко позади [1, с. 125–128; 10, с. 380–385]. Ник Бостром подчеркивает, что без предварительного решения «проблемы согласования» (alignment problem) сингулярность может привести к случайному уничтожению человечества просто из-за разности масштабов целей. Человеческие ценности (любовь, справедливость, счастье) занимают очень узкий диапазон в пространстве всех возможных целей [5, с. 120-145]. Если сверхразум в ходе самосовершенствования «сдвинет» свои целевые установки хотя бы на долю процента, результат для человечества может быть катастрофическим. Экзистенциальный риск здесь заключается не в агрессии машины, а в её компетентности при отсутствии сочувствия [9, с. 350-360; 10, с. 420-430]. Сингулярность – это «этический горизонт событий». Автор не можем знать, что за ним находится, но моральный долг сегодня – создать «мягкие» условия для перехода, заложив в фундамент ИИ человеческие ценности как неустранимые аксиомы, прежде чем развитие системы выйдет из-под нашего контроля [7, с. 112-114; 11, с. 16-18].

Заключение Проведённый анализ позволяет утверждать следующее. В настоящее время искусственный интеллект уже нельзя рассматривать просто как техническое устройство или инструмент. Он стал особым элементом социально-технической реальности, который ведёт себя как квазисамостоятельный участник взаимодействия. Даже если у машин нет подлинного представления и внутреннего мира – о чём, по сути, отмечает эксперимент с «китайской комнатой», – их функциональная независимость вынуждает пересмотреть привычный антропоцентричный взгляд, где только человек мог быть субъектом действия.

Что касается этического программирования, ни одна из классических моральных систем не подходит для ИИ в чистом виде. Кантовская деонтология надёжна, когда речь идёт о запретах, но она слишком жёстка и не работает в новых, непредвиденных ситуациях. Утилитаризм, напротив, удобен для оптимизации решений, однако он легко приводит к дискриминации меньшинства ради пользы большинства. Более разумным выглядит гибридный путь: жёсткие этические ограничения как предохранитель сочетать с обучением системы на реальных человеческих поступках и предпочтениях.

Технологии развиваются быстрее, чем этика и право. Возникает разрыв ответственности: вред причинён, а виноватого в привычном смысле нет. Алгоритмы всё чаще работают как «чёрный ящик», и традиционное представление о вине уступает место идее распределённой ответственности. При этом ИИ не нейтрален – он способен усиливать и закреплять человеческие предрассудки. Значит, прозрачность и объяснимость решений должны стать обязательным требованием для современных систем.

Наконец, перспектива технологической сингулярности ставит перед учеными задачу согласования ценностей. Развитие ИИ превращается для человека в зеркало: оно заставляет заново отвечать на вопрос, что именно делает нас людьми – биологическая природа, способность страдать или свобода творчества. Безопасное сосуществование возможно только на пути человекоориентированной модели, где технология не замещает человека, а расширяет его моральные и познавательные горизонты.

 Список литературы:

1. Винер, Н. Кибернетика, или управление и связь в животном и машине / Н. Винер. 2-е изд. – М. : Наука, 1983. – 344 с.
2. Декарт, Р. Сочинения в 2 т. Т. 1 / Р. Декарт. – М. : Мысль, 1989. – 654 с.
3. Степин, В. С. Цивилизация и культура / В. С. Степин. – М. : Изд-во ГАУГН, 2011. – 408 с.
4. Кант, И. Основы метафизики нравственности / И. Кант. – М. : Мысль, 1999. – 1472 с.
5. Бостром, Н. Искусственный интеллект. Этапы, угрозы, стратегии / Н. Бостром ; пер. с англ. С. Филина. – М. : Манн, Иванов и Фербер, 2016. – 496 с.
6. Флориди, Л. Четвертая революция: как инфосфера изменяет человеческую реальность / Л. Флориди. – М. : Изд-во Института Гайдара, 2016. – 352 c.
7. Алексеева, И. Ю. Искусственный интеллект и этика ответственности / И. Ю. Алексеева // Философские науки. – 2021. – Т. 64, № 4. – С. 101-114.
8. Павлов, А. В. Философия техники в эпоху алгоритмов / А. В. Павлов // Вопросы философии. – 2024. – № 2. – С. 85-96.
9. Дубровский, Д. И. Проблема «Сознание и мозг»: теоретический анализ / Д. И. Дубровский. – М. : Канон+ РООИ «Реабилитация», 2015. – 400 с.
10. Тегмарк, М. Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта / М. Тегмарк. – М. : Корпус, 2019. – 560 с.
11. Национальный кодекс этики в сфере искусственного интеллекта (РФ). – М. : Альянс в сфере ИИ, 2021 (ред. 2024). – 18 с.
12. ЮНЕСКО. Рекомендация об этике искусственного интеллекта : пер. с англ. – Париж : Секретариат ЮНЕСКО, 2021. – 45 с.
13. Ламетри, Ж. О. Человек-машина / Ж. О. Ламетри. – М. : Либроком, 2010. – 232 с.
14. Хайдеггер, М. Время и бытие: статьи и выступления / М. Хайдеггер. – М. : Республика, 1993. – 447 с.
15. Миронов, В. В. Трансформация культуры в пространстве цифровых коммуникаций / В. В. Миронов // Вестник Московского университета. Серия 7. Философия. – 2020. – № 1. – С. 3-14.
16. Сёрль, Дж. Разум мозга – компьютер? / Дж. Сёрль // В мире науки. – 1990. – № 3. – С. 7-13.
17. Деннет, Д. Насосы прагматизма и другие инструменты мышления / Д. Деннет. – М. : Корпус (АСТ), 2019. – 608 с.
18. Лекторский, В. А. Философия, познание, культура / В. А. Лекторский. – М. : Канон+, 2012. – 384 с.