ОРГАНИЗАЦИОННО-УПРАВЛЕНЧЕСКИЕ МЕХАНИЗМЫ СНИЖЕНИЯ РИСКОВ ПРИМЕНЕНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В БАНКОВСКОМ МЕНЕДЖМЕНТЕ

ORGANIZATIONAL AND MANAGERIAL MECHANISMS FOR REDUCING THE RISKS ASSOCIATED WITH THE USE OF ARTIFICIAL INTELLIGENCE IN BANKING MANAGEMENT

Ponurov Roman Vyacheslavovich

postgraduate student of the Department of Theory and Systems of Industrial Management IOM RANEPA, Federal State Budgetary Educational Institution of Higher Education Russian Presidential Academy of National Economy and Public Administration (RANEPA)

Russia, Moscow

Аннотация

В статье исследуются организационно-управленческие механизмы снижения рисков применения искусственного интеллекта (ИИ) в банковском менеджменте. Обобщены подходы к классификации ИИ-рисков, сложившиеся в позиции Банка России и научной литературе, и на этой основе предложен комплекс практических инструментов управления такими рисками: институт ответственности за использование ИИ, процедуры валидации и мониторинга моделей, механизмы контроля поставщиков технологий, программы развития кадровых компетенций и этический кодекс применения алгоритмических решений. Показано, что выбор глубины внедрения ИИ должен соотноситься с уровнем технологической зрелости банка. Предложена дорожная карта поэтапного построения системы управления ИИ-рисками в кредитной организации.

Abstract

The article examines organizational and managerial mechanisms for mitigating the risks of applying artificial intelligence (AI) in banking management. Approaches to classifying AI risks developed in the position of the Bank of Russia and in academic literature are summarized, and on this basis a set of practical risk-management tools is proposed: an AI accountability governance structure, model validation and monitoring procedures, vendor-control mechanisms, staff competency development programs, and an ethical code for algorithmic decisions. It is shown that the depth of AI implementation should correspond to a bank's level of technological maturity. A stepwise roadmap for building an AI risk-management system in a credit institution is proposed.

Ключевые слова: искусственный интеллект; банковский менеджмент; управление рисками; модельный риск; технологическая зрелость банка; комплаенс; корпоративное управление; кадровые компетенции.

Keywords: artificial intelligence; banking management; risk management; model risk; technological maturity of a bank; compliance; corporate governance; staff competencies.

Основной массив публикаций по теме — что российских, что зарубежных — сводится к перечислению рисков ИИ: регуляторных, этических, технологических, организационных, институциональных, кадровых, репутационных. Гораздо реже авторы задаются вопросом, какими конкретно инструментами банк может эти риски снижать на практике. Настоящая статья пытается закрыть именно этот пробел: сначала кратко обобщаются подходы к классификации ИИ-рисков в банковском менеджменте, а затем на этой основе формируется набор практических механизмов управления, привязанных к уровню технологической зрелости кредитной организации.

Масштаб проблемы подтверждают цифры Банка России: в консультативном докладе 2025 г. указано, что ИИ уже применяет каждая пятая организация финансового рынка, и еще около трети планирует внедрить его в течение трех лет [1]. Рост числа таких внедрений сопровождается ужесточением требований к инфраструктуре и прозрачности алгоритмов, а регулятор всё чаще возвращается к теме управляемости решений, принимаемых с участием ИИ [1, с. 4; 2]. Показательно, что Банк России возлагает ответственность за корректность использования ИИ на саму кредитную организацию — не на разработчика модели и не на алгоритм как таковой. Отсюда и смещение фокуса настоящей работы в сторону организационно-управленческих, а не чисто технических решений.

В литературе принято выделять семь укрупненных групп ИИ-рисков — регуляторные [3], этические [4], технологические [5], организационные [6], институциональные [7], кадровые [6] и репутационные [8]. Эта классификация удобна для изложения, но, по нашему мнению, отчасти условна: границы между категориями на практике куда более размыты, чем в любой таблице. Одна и та же ошибка в обучающей выборке — это одновременно и технологический риск (модель работает некорректно), и этический (если ошибка приводит к дискриминации клиентов), и репутационный (если об этом узнают СМИ), и, вероятно, регуляторный (если банк не сможет объяснить надзору причину сбоя). Иными словами, семь категорий описывают не семь независимых явлений, а семь разных проекций одного и того же процесса — распространения ошибки по цепочке «данные → модель → управленческое решение → последствия для клиента и банка» [9; 10]. Разделение по группам полезно как аналитический инструмент, но само по себе оно не подсказывает банку, что делать; отсюда и переход к следующему вопросу — какие механизмы способны разорвать эту цепочку на разных ее этапах (таблица 1).

Таблица 1.

Группы рисков применения ИИ в банковском менеджменте и механизмы их минимизации

Источник: составлено автором.

Первый такой механизм — институт ответственности за использование ИИ. Речь идет о закреплении за конкретным органом управления (советом директоров, комитетом по рискам либо отдельным комитетом по ИИ) полномочий утверждать риск-аппетит по алгоритмическим решениям, согласовывать допустимые сценарии применения ИИ и разбирать отчеты о качестве работы моделей. По сути, вопрос применения ИИ перестает быть внутренним делом ИТ-подразделения и переходит в область стратегического управления — эту мысль неоднократно высказывали и зарубежные авторы [7; 10].

Второй механизм — управление жизненным циклом моделей: независимая от разработчиков валидация, установленные пороги допустимой погрешности, постоянный мониторинг качества прогнозов на новых данных и правило вывода модели из эксплуатации при падении точности ниже заданного уровня. Здесь же — требование объяснимости: если решение модели невозможно содержательно объяснить сотруднику банка, применять его в процедурах, напрямую затрагивающих клиента (например, при отказе в кредите), не следует [1; 5].

Третий механизм касается качества данных и информационной безопасности — того самого «входа» в цепочку, о котором говорилось выше. Банку нужны регламенты проверки полноты и достоверности данных для обучения моделей, а также тестирование на устойчивость к целенаправленным атакам, включая попытки «отравления» обучающей выборки [2; 5].

Четвертый — управление зависимостью от внешних поставщиков ИИ-решений: договорные требования к раскрытию архитектуры модели, право на независимый аудит, условия постепенного переноса критичных функций к другому поставщику при разрыве сотрудничества. Диверсификация поставщиков платформенных решений заодно снижает и системный риск — тот случай, когда однотипные модели у множества банков одновременно дают сбой [1; 6].

Пятый механизм — этический кодекс и процедуры защиты прав потребителей, своего рода «мягкое право» поверх формальных требований регулятора: регулярный аудит алгоритмов на предвзятость, доступное клиенту объяснение решения и упрощенный порядок обжалования решений, принятых с участием ИИ [2; 4].

Развитие кадровых компетенций затрагивает как специалистов по данным, так и линейных руководителей и сотрудников фронт-офиса. Формирование междисциплинарных команд, объединяющих отраслевую экспертизу и владение инструментами анализа данных, снижает риск формального использования моделей при фактическом сохранении прежних управленческих привычек [6].

Практическая применимость перечисленных механизмов зависит от уровня технологической зрелости банка, под которым целесообразно понимать состояние, при котором организация способна обеспечивать полноту и достоверность данных, поддерживать отказоустойчивую ИТ-инфраструктуру, контролировать жизненный цикл моделей и учитывать результаты их работы в управленческих решениях через формализованные процедуры. В таблице 2 предложена дифференциация уровней технологической зрелости и соответствующей им допустимой глубины применения ИИ в управлении банком.

Таблица 2.

Уровни технологической зрелости банка и допустимая глубина применения ИИ

Источник: составлено автором на основе [9; 7].

Переход от начального к системному уровню технологической зрелости целесообразно выстраивать поэтапно: 1) инвентаризация используемых моделей ИИ и оценка их влияния на управленческие решения; 2) закрепление ответственности за ИИ-риски за конкретным органом управления; 3) внедрение процедур валидации и мониторинга моделей; 4) формирование этического кодекса и процедур защиты прав потребителей; 5) развитие кадровых компетенций и формирование междисциплинарных команд. Такая последовательность соответствует логике консультативных докладов Банка России, ориентирующих банки на выстраивание внутренних политик работы с ИИ как условия дальнейшего расширения его применения [1; 11].

Таким образом, снижение рисков применения ИИ в банковском менеджменте требует перехода от описания угроз к формированию системы конкретных организационно-управленческих механизмов, соотнесенных с уровнем технологической зрелости банка. Предложенное сопоставление групп рисков с механизмами их минимизации и дифференциация уровней зрелости позволяют банкам выстраивать поэтапную и управляемую траекторию внедрения ИИ, снижая вероятность накопления скрытых рисков и обеспечивая соответствие ожиданиям регулятора в части прозрачности и подотчетности алгоритмических решений.

Список литературы

1. Доклад для общественных консультаций «Применение искусственного интеллекта на финансовом рынке: текущий статус и условия дальнейшего развития» 2025 [Электронный ресурс]. – URL: https://cbr.ru/Content/Document/File/185193/Consultation_Paper_20112025.pdf (дата обращения: 30.08.2026).

2. Доклад для общественных консультаций «Применение искусственного интеллекта на финансовом рынке» 2023 [Электронный ресурс]. – URL: https://www.cbr.ru/Content/Document/File/156061/Consultation_Paper_03112023.pdf (дата обращения: 30.08.2026).

3. Савина А.В. Перспективы применения искусственного интеллекта в финансово-правовой сфере // Правоприменение. – 2025. – Т. 9, № 1. – С. 64⁠–⁠73.

4. Ahmed F. Ethical aspects of artificial intelligence in banking // Journal of Research in Economics and Finance Management. – 2022. – Т. 1, № 2. – P. 55⁠–⁠63.

5. Chwila A. The Application of Artificial Intelligence Models in Commercial Banks – Opportunities and Threats // Acta Universitatis Lodziensis. Folia Oeconomica. – 2023. – Т. 1, № 362. – P. 63⁠–⁠98.

6. Rahman M. et al. Adoption of artificial intelligence in banking services: an empirical analysis // International Journal of Emerging Markets. – 2023. – Т. 18, № 10. – P. 4270⁠–⁠4300.

7. Dewasiri N.J., Dharmarathna D.G., Choudhary M. Leveraging artificial intelligence for enhanced risk management in banking: A systematic literature review // Artificial intelligence enabled management: An emerging economy perspective. – 2024. – P. 197⁠–⁠213.

8. Ларина О.И., Шкребтанова С.С. Искусственный интеллект в банках: первые результаты, препятствия и риски // Региональная экономика. Юг России. – 2023. – Т. 11, № 4. – С. 88⁠–⁠98.

9. Покаместов И.Е., Никитин Н.А. Современные технологии искусственного интеллекта как инструмент трансформации цепочек создания стоимости российских коммерческих банков // Финансы: теория и практика. – 2024. – Т. 28, № 4. – С. 122⁠–⁠135.

10. Milojević N., Redzepagic S. Prospects of artificial intelligence and machine learning application in banking risk management // Journal of central banking theory and practice. – 2021. – Т. 10, № 3. – P. 41⁠–⁠57.

11. Отчет об итогах публичного обсуждения доклада для общественных консультаций «Применение искусственного интеллекта на финансовом рынке» 2023 [Электронный ресурс]. – URL: https://cbr.ru/Content/Document/File/161264/report_22052024.pdf (дата обращения: 30.08.2026).

12. Naeem M. et al. The Role of Artificial Intelligence in Risk Management: Practices of the Banking Sector // Generative AI for Web Engineering Models. IGI Global. – 2025. – P. 83⁠–⁠106.

13. Țîrcovnicu G.I., Hațegan C.D. Integration of artificial intelligence in the risk management process: An analysis of opportunities and challenges // Journal of Financial Studies. – 2023. – Т. 8, № 15. – P. 198⁠–⁠214.

14. О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации – городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных»: Федеральный закон N 123-ФЗ от 24.04.2020 [Электронный ресурс]. URL: http://publication.pravo.gov.ru/Document/View/0001202004240030 (дата обращения: 30.08.2026).