ПРОБЛЕМЫ И МЕТОДЫ ИХ РЕШЕНИЯ, ВОЗНИКАЮЩИЕ ПРИ ПРИМЕНЕНИИ АЛГОРИТМОВ МАШИННОГО ОБУЧЕНИЯ В ГОСУДАРСТВЕННОМ УПРАВЛЕНИИ

АННОТАЦИЯ

В статье исследованы проблемы, препятствующие внедрению алгоритмов машинного обучения в практику государственного управления, и обоснованы методы их преодоления. Рассматриваются технологические, правовые и организационные затруднения, их взаимообусловленность, а также инструменты обеспечения подотчётности алгоритмических систем в публичном секторе.

Ключевые слова: машинное обучение; государственное управление; алгоритмическая предвзятость; публичная ценность; объяснимый ИИ; управление рисками; сопроектирование; EU AI Act.

Цифровая трансформация публичного управления ставит государственные органы перед необходимостью освоения принципиально новых инструментов выработки и реализации решений. Технологии машинного обучения занимают среди них особое место: они позволяют обрабатывать большие массивы данных, выявлять неочевидные закономерности и переходить от реактивного предоставления государственных услуг к проактивному — когда система сама инициирует взаимодействие с гражданином при наступлении значимого жизненного события. Вместе с тем специфика публичного сектора — обязанность обосновывать решения, обеспечивать равенство граждан и сохранять общественное доверие — порождает проблемы, не имеющие прямых аналогов в коммерческой среде.

Центральной технологической проблемой выступает явление концептуального дрейфа: статистические свойства данных, на которых обучалась модель, постепенно расходятся с характеристиками реальной среды эксплуатации. Прогностическая система, созданная в период экономической стабильности, неизбежно даёт искажённые оценки в кризисный период — и при отсутствии механизма своевременного обнаружения орган управления продолжает принимать решения на основе устаревшей модели. Специалисты, работающие с алгоритмическими системами в государственных структурах пяти стран ОЭСР, назвали именно этот аспект наиболее острой нерешённой технической задачей [1, с. 5–6]. Дополнительную сложность создаёт фрагментированность государственных данных: ведомственные реестры формировались в разное время, по разным стандартам и нередко технически несовместимы, что делает формирование репрезентативных обучающих выборок нетривиальной задачей.

Правовое измерение проблемы определяется фундаментальным противоречием: принцип мотивированности административного акта обязывает государственный орган предоставить гражданину понятное объяснение принятого решения, тогда как сложные алгоритмы по своей архитектуре не способны генерировать такие объяснения в доступной форме. Регламент ЕС об ИИ (EU AI Act, 2024/1689) предпринял попытку институционального урегулирования: для систем высокого риска, применяемых в публичном секторе, введена обязательная оценка воздействия на основные права человека до запуска системы в эксплуатацию [2, Art. 9–15, 27]. Тем не менее разрыв между правовым требованием объяснимости и технической природой современных алгоритмов сохраняется и требует комплексного ответа.

Организационные затруднения связаны с устойчивым разрывом между стратегическим замыслом руководства и практикой исполнения. Исследование восьми проектов внедрения ИИ в европейских публичных организациях показало, что успех определялся не технической зрелостью решения, а степенью вовлечённости всех заинтересованных сторон — включая рядовых государственных служащих, непосредственно работающих с гражданами, — с самого начала проектирования системы [3, с. 8–11]. В организациях, где персонал оставался в роли пассивного получателя готового решения, проекты регулярно заходили в тупик на этапе перехода от пилота к промышленной эксплуатации.

Ответом на описанные проблемы служит система взаимодополняющих инструментов. На технологическом уровне ключевую роль играет непрерывный операционный мониторинг модели (MLOps): автоматизированное отслеживание качества предсказаний в реальном времени и регламентированное переобучение при обнаружении отклонений. Фреймворк NIST AI RMF (2023) систематизирует этот процесс через четыре функции: Govern, Map, Measure и Manage [4]. На правовом уровне принцип «человек в контуре» (HITL) обеспечивает соответствие требованиям об обоснованности административных решений: алгоритм формирует рекомендацию, окончательное решение остаётся за компетентным должностным лицом. Публичные реестры алгоритмов дополняют эту конструкцию, обеспечивая гражданский контроль: по данным ОЭСР, к 2025 году в различных странах создано не менее 69 подобных реестров на разных уровнях управления [5].

На организационном уровне методология сопроектирования (co-design) предполагает включение государственных служащих, работающих непосредственно с гражданами, в рабочие группы по разработке системы наравне с техническими специалистами. Это устраняет разрыв между стратегическим замыслом и операционной реальностью и повышает качество технических требований. Шифф, Шифф и Пирсон эмпирически установили, что нарушение ценностей справедливости и прозрачности при работе государственных алгоритмических систем ведёт к значимому снижению доверия граждан к публичным институтам [6, с. 653–668], что делает организационные меры не менее важными, чем технические.

Таким образом, эффективное применение алгоритмов машинного обучения в государственном управлении требует одновременного решения технологических, правовых и организационных задач. Изолированные меры на каком-либо одном уровне принципиально недостаточны: только синергия MLOps-мониторинга, правовых механизмов подотчётности и культуры сопроектирования позволяет превратить машинное обучение в надёжный инструмент повышения качества публичных услуг.

Список литературы:

1. Veale M., Van Kleek M., Binns R. Fairness and Accountability Design Needs for Algorithmic Support in High-Stakes Public Sector Decision-Making // Proceedings of the CHI Conference on Human Factors in Computing Systems. — 2018. — P. 1–14.
2. Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). — Official Journal of the European Union. — 2024. — L 2024/1689.
3. Tangi L., van Noordt C., Rodriguez Müller A. The Challenges of AI Implementation in the Public Sector: An In-Depth Case Studies Analysis // Proceedings of the 24th Annual International Conference on Digital Government Research. — 2023. — P. 1–14.
4. National Institute of Standards and Technology (NIST). Artificial Intelligence Risk Management Framework (AI RMF 1.0). — Gaithersburg: NIST, 2023. — (NIST AI 100-1). — URL: https://nvlpubs.nist.gov/nistpubs/ai/nist.ai.100-1.pdf.
5. OECD. Algorithmic Transparency in the Public Sector: A State-of-the-Art Report. — Paris: OECD Publishing, 2025. — URL: https://wp.oecd.ai/app/uploads/2025/05/algorithmic-transparency-in-the-public-sector.pdf.
6. Schiff D. S., Schiff K. J., Pierson P. Assessing Public Value Failure in Government Adoption of Artificial Intelligence // Public Administration. — 2022. — Vol. 100, N 3. — P. 653–673.