ДЕЛЕГИРОВАНИЕ РЕШЕНИЯ АЛГОРИТМИЧЕСКИМ СИСТЕМАМ КАК НЕЯВНАЯ ФОРМА ОТЧУЖДЕНИЯ

DELEGATION OF DECISION TO ALGORITHMIC SYSTEMS AS AN IMPLICIT FORM OF ALIENATION

Alikov Yuri

postgraduate student, Department of Humanities, Financial University under the Government of the Russian Federation; Leading Consultant, Ministry of Finance of the Russian Federation

Russia, Moscow

Denikin Anatoly

scientific supervisor, Doctor of Philosophical Sciences, Professor, Department of Humanities, Financial University under the Government of the Russian Federation

Russia, Moscow

АННОТАЦИЯ

В статье рассматривается вопрос о том, при каких условиях передача решения алгоритмической системе становится формой отчуждения. Показано, что при делегировании человек передает системе позицию, с которой принимается решение: система отбирает и упорядочивает варианты, оставляя человеку последний выбор. Неочевидность этой формы отчуждения выводится из отсутствия отдельного акта передачи решения. С опорой на различение idem и ipse у П. Рикера цифровой профиль интерпретируется как техническая модель характера, в которой не может быть представлена самость. Предложен критерий отзывности делегирования, включающий эпистемическое, процедурное и антропологическое условия, и показано, что действующее регулирование обеспечивает только первые два из них.

ABSTRACT

The article examines the conditions under which the transfer of a decision to an algorithmic system becomes a form of alienation. It is shown that in delegating a person transfers to the system the position from which the decision is made: the system selects and ranks the options, leaving the person only the final choice. The non-obviousness of this form of alienation is derived from the absence of a distinct act of transfer. Drawing on P. Ricoeur’s distinction between idem and ipse, the digital profile is interpreted as a technical model of character in which selfhood cannot be represented. A criterion of revocability of delegation is proposed, comprising epistemic, procedural and anthropological conditions, and it is shown that current regulation secures only the first two.

Ключевые слова: антропологический суверенитет; отчуждение; делегирование решения; алгоритмические системы; цифровой профиль; самость; отзывность.

Keywords: anthropological sovereignty; alienation; delegation of decision; algorithmic systems; digital profile; selfhood; revocability.

Алгоритмические системы все чаще участвуют в решениях, которые прежде принимал сам человек или другой человек по его поручению. Рекомендательный сервис отбирает сведения и товары, которые увидит пользователь; скоринговая модель влияет на выдачу кредита; платформа распределяет заказы между курьерами и водителями. В отечественной философии эти процессы осмысляются в категориях отчуждения. С.И. Дудник констатирует, что к старым формам отчуждения добавилось цифровое отчуждение, ранее неизвестное [1, с. 18]. Ш. Зубофф описывает, как опыт человека превращается в поведенческие данные, из которых изготавливаются продукты предсказания, а знание о поведении становится средством воздействия на него [2]. Нерешенным остается вопрос, следует ли считать отчуждением сам факт передачи решения системе. Против такой квалификации выдвигается серьезное возражение: человек всегда поручал часть решений врачу, юристу или другому специалисту, и подобное поручение не рассматривалось как утрата себя.

Цель статьи состоит в том, чтобы установить, при каких условиях делегирование решения алгоритмической системе становится формой отчуждения, и сформулировать критерий, позволяющий отличить такое делегирование от допустимого поручения. Анализ проводится в рамках разрабатываемой автором категории антропологического суверенитета, под которым понимается присущность человеку источника собственного решения. Термин «присущность» образован с опорой на аристотелевское различение сущности и привходящего (акцидентального): решение присуще человеку, если оно вытекает из его собственных оснований, и является привходящим, если присоединяется к нему извне. Антропологический суверенитет не совпадает ни с государственным суверенитетом, ни с цифровым суверенитетом в правовом смысле, так как речь идет об отношении отдельного человека к основаниям своих решений. Отчуждение и присущность образуют два полюса этого отношения.

В «Экономическо-философских рукописях 1844 года» К. Маркс описывает отчуждение как отношение, в котором продукт труда и сама трудовая деятельность противостоят работнику как чуждая ему сила; следствием становится отчуждение человека от его родовой сущности и от других людей [3]. Р. Йегги в современной реконструкции понятия определяет отчуждение как «отношение отсутствия отношения» (relation of relationlessness) [4, p. 1]. Человек остается связан с миром и с собственной жизнью, однако не может присвоить их как результат своей деятельности. Для анализа цифровой среды это определение удобно тем, что не предполагает внешнего принуждения: пользователь сервиса действует добровольно, и тем не менее основания его выбора складываются вне его.

Специфика алгоритмического делегирования определяется предметом передачи. При отчуждении труда работник утрачивает продукт и контроль над процессом деятельности. Пользователь алгоритмической системы сохраняет право последнего выбора, однако выбирает из вариантов, которые система предварительно отобрала и упорядочила. Системе тем самым передается позиция, с которой решение принимается, т.е. определение того, что вообще подлежит рассмотрению и что считается предпочтительным. Эта передача и составляет содержание отчуждения в рассматриваемом случае.

Из сказанного вытекает неочевидность данной формы отчуждения. Поручение решения врачу или юристу представляет собой отдельный акт: человек обращается к специалисту, соглашается на его услуги и может впоследствии отозвать поручение. В цифровой среде предварительный отбор вариантов происходит до всякого выбора и не требует согласия человека в каждом отдельном случае. Момента, в который человек решает передать решение, не существует, поэтому саму передачу невозможно заметить. Неочевидность в этом смысле следует из структуры делегирования и сохраняется при любой осведомленности пользователя; по этой причине она относится к сущностным, а не к случайным признакам данной формы отчуждения. Социальным условием ее закрепления служит предъявление делегирования как удобства. А.Н. Фатенков выражает соответствующий тип порядка формулой «безопасность любой ценой плюс максимум комфорта равно контролируемости всего и вся» [5, с. 79]. Маркс подчеркивал, что отчужденный труд является вынужденным и работник чувствует себя самим собой только вне труда [3]. Принуждение было дано работнику в опыте даже тогда, когда его общественные причины оставались скрытыми. Алгоритмическое делегирование не сопровождается и этим опытом, поскольку передача решения переживается как облегчение.

Механизм замещения субъекта проясняется с помощью различения двух моделей идентичности у П. Рикера. Идентичность-idem отвечает на вопрос «что я есть?» и выражается в устойчивости признаков, по которым человек может быть повторно опознан. Идентичность-ipse, или самость, отвечает на вопрос «кто я?» и выражается в сохранении себя в сдержанном слове, т.е. в способности исполнить обещание при изменении обстоятельств и собственных склонностей. Область совпадения двух моделей Рикер видит в характере как совокупности устойчивых предрасположений, по которым опознается личность [6]. Цифровой профиль можно рассматривать как техническую модель характера в этом смысле: он фиксирует привычки, предпочтения и типичные реакции и на их основе прогнозирует поведение. Против этого тезиса может быть выдвинуто возражение, что профиль постоянно обновляется и тем самым учитывает изменения человека. Однако изменение регистрируется в профиле после того, как оно произошло, и вновь в виде совокупности признаков. Обещание в профиле представлено быть не может, потому что оно относится не к тому, каким человек был, а к тому, каким он решил быть. Когда решение о человеке или за человека принимается на основании профиля, самость выводится за пределы процедуры и действующий субъект замещается своим цифровым профилем.

Е.О. Труфанова, анализируя вызовы цифровизации для понятия субъекта, приходит к выводу, что к человеку в цифровом мире следует относиться как к человеку, а не как к условному «цифровому субъекту» [7, с. 230]. Различение idem и ipse позволяет указать, в чем состоит условность такого субъекта: он представлен характером, но лишен самости. А.Л. Крайнов рассматривает цифровую идентичность как условие бытия человека в цифровом обществе [8]. Если принять эту позицию, смешение профиля с самостью затрагивает уже не отдельные процедуры, но способ существования человека в цифровой среде.

Передача решения затрагивает двух участников: того, кто передает системе собственное решение, и того, о ком система принимает решение. Положение первого участника описывают исследования эффекта автоматизации (automation bias), т.е. склонности доверять выводу автоматизированной системы вместо самостоятельной проверки. Р. Парасураман и Д. Манцей на основе обзора экспериментальных данных показывают, что этот эффект наблюдается как у новичков, так и у опытных специалистов и не предотвращается обучением или инструкциями [9]. Формальное сохранение за человеком последнего слова, следовательно, не гарантирует, что решение остается ему присущим.

Положение второго участника иллюстрирует опыт Нидерландов. Система SyRI сопоставляла данные различных государственных органов для выявления мошенничества с пособиями и налогами. В 2020 г. районный суд Гааги признал законодательство о SyRI несовместимым со статьей 8 Европейской конвенции о защите прав человека и основных свобод. Суд указал на недостаточную прозрачность и проверяемость системы: модели риска не раскрывались, а граждане не знали, что их данные обрабатываются [10]. В деле о пособиях на оплату присмотра за детьми (toeslagenaffaire) налоговая служба применяла самообучающуюся модель классификации риска заявлений [11, p. 14]. Парламентская комиссия по расследованию констатировала нарушение основополагающих принципов правового государства [11, p. 7] и назвала свой доклад «Беспрецедентная несправедливость» (Ongekend onrecht). В обоих случаях человек был представлен в процедуре набором признаков и не мог противопоставить им собственное объяснение.

Смещение ответственности от личности к функции отмечается и в отечественных исследованиях управления. А.В. Деникин, З.Д. Деникина и А.С. Проскурина, анализируя трансформацию модели Z У. Оучи в условиях цифровизации, фиксируют, что ответственность становится вопросом места сотрудника в производственном процессе, а не его личности [12, с. 74]. Авторы рассматривают эту черту как элемент более понятного и объективного контроля. Для проблематики антропологического суверенитета из нее вытекает еще одно следствие: если ответственность закреплена за позицией в процессе, решение перестает быть актом конкретного человека. В организационном измерении воспроизводится то же замещение самости, которое было описано на уровне индивидуального выбора.

Изложенное позволяет вернуться к возражению, согласно которому делегирование как таковое не является отчуждением. Поручение решения врачу или юристу не отчуждает человека по двум причинам. Во-первых, решение передается другой самости, т.е. лицу, которое способно изложить свои основания и несет за решение ответственность. Во-вторых, такое поручение может быть отозвано. На этом основании предлагается критерий отзывности делегирования: делегирование совместимо с антропологическим суверенитетом, пока оно остается отзывным, и становится формой отчуждения, когда отзывность утрачивается. Отзывность складывается из трех условий. Эпистемическое условие выполняется, если основания решения доступны самому человеку либо лицу, которое способно их изложить и отвечает за решение. Процедурное условие выполняется, если человек может оспорить решение системы и добиться его пересмотра без несоразмерных издержек. Антропологическое условие выполняется, если человек сохраняет способность принять решение самостоятельно. Последнее условие наиболее уязвимо. Эффект автоматизации показывает, что отзывность может утрачиваться при сохранении всех формальных прав: человек вправе отменить решение системы, но уже не опирается на собственное суждение.

Российское регулирование закрепляет элементы первых двух условий. Статья 16 Федерального закона «О персональных данных» запрещает принимать на основании исключительно автоматизированной обработки персональных данных решения, порождающие юридические последствия для субъекта, за исключением установленных законом случаев, и обязывает оператора разъяснить порядок принятия такого решения и предоставить возможность заявить возражение [13]. Кодекс этики в сфере искусственного интеллекта предписывает акторам ИИ принимать меры, направленные на сохранение автономии человека в принятии им решений, и устанавливает, что за последствия работы систем ИИ всегда должен отвечать человек [14]. Национальная стратегия развития искусственного интеллекта относит защиту прав и свобод человека и прозрачность к основным принципам, на которых строятся развитие и использование технологий искусственного интеллекта [15]. Антропологическое условие правом не обеспечивается, поскольку право на возражение предполагает, что у человека есть собственное основание для возражения. Формирование такого основания относится к сфере образования и ценностно-смысловых ориентаций личности.

Делегирование решения алгоритмической системе становится отчуждением, когда человек передает системе позицию, с которой решение принимается, и утрачивает возможность вернуть ее себе. Неочевидность такого отчуждения обусловлена отсутствием акта передачи, а его механизм состоит в замещении самости профилем, который моделирует характер. Предложенный критерий отзывности нуждается в эмпирической проверке прежде всего в части антропологического условия: предстоит установить, в каких практиках использования алгоритмических систем способность к самостоятельному суждению сохраняется, а в каких ослабевает.

Список литературы:

1. Дудник С.И. Отчуждение в цифровом обществе // Вопросы философии. – 2020. – № 3. – С. 17⁠–⁠20. – DOI: 10.21146/0042-8744-2020-3-17-20.
2. Зубофф Ш. Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти / пер. с англ. А.Ф. Васильевой. – М.: Изд-во Института Гайдара, 2022. – 784 с.
3. Маркс К. Экономическо-философские рукописи 1844 года // Маркс К., Энгельс Ф. Сочинения. 2-е изд. Т. 42. М.: Политиздат, 1974. С. 41⁠–⁠174.
4. Jaeggi R. Alienation / transl. by F. Neuhouser and A.E. Smith; ed. by F. Neuhouser. (New Directions in Critical Theory). – New York: Columbia University Press, 2014.
5. Фатенков А.Н. Цифровое общество: цивилизация на стадии «комфортной» тоталитарности // Век глобализации. – 2022. – № 1 (41). – С. 72⁠–⁠85. – DOI: 10.30884/vglob/2022.01.05.
6. Рикер П. Я-сам как другой / пер. с фр. Б.М. Скуратова. – М.: Изд-во гуманитарной литературы, 2008. – 416 с.
7. Труфанова Е.О. Субъект: вызовы цифровизации // Galactica Media: Journal of Media Studies. – 2024. – Т. 6, № 4. – С. 215⁠–⁠234. – DOI: 10.46539/gmd.v6i4.525.
8. Крайнов А.Л. Цифровая идентичность как условие бытия человека в цифровом обществе // Известия Саратовского университета. Новая серия. Серия: Философия. Психология. Педагогика. – 2024. – Т. 24. – С. 137⁠–⁠141.
9. Parasuraman R., Manzey D.H. Complacency and Bias in Human Use of Automation: An Attentional Integration // Human Factors. – 2010. – Т. 52, № 3. – P. 381⁠–⁠410. – DOI: 10.1177/0018720810376055.
10. Rechtbank Den Haag. Uitspraak van 5 februari 2020, ECLI:NL:RBDHA:2020:865 (SyRI) [Электронный ресурс]. // Rechtbank Den Haag. – URL: https://uitspraken.rechtspraak.nl/details?id=ECLI%3ANL%3ARBDHA%3A2020%3A865 (дата обращения: 20.09.2026).
11. Parlementaire ondervragingscommissie Kinderopvangtoeslag. Ongekend onrecht: verslag. (Kamerstuk 35 510, nr. 2). – Den Haag: Tweede Kamer der Staten-Generaal, 2020.
12. Деникин А.В., Деникина З.Д., Проскурина А.С. Типология современных цифроориентированных теорий управления в социально-экономической сфере // Гуманитарные науки. Вестник Финансового университета. – 2023. – Т. 13, № 2. – С. 72⁠–⁠77.
13. Федеральный закон от 27.07.2006 № 152-ФЗ «О персональных данных» (с изм. и доп.) // Собрание законодательства РФ. 2006. № 31 (ч. 1). Ст. 3451.
14. Кодекс этики в сфере искусственного интеллекта (подписан 26.10.2021) [Электронный ресурс]. – URL: https://ethics.a-ai.ru/ (дата обращения: 20.09.2026).
15. Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» (ред. от 15.02.2024) (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года») // Собрание законодательства РФ. 2019. № 41. Ст. 5700.