МЕТОДИЧЕСКОЕ ОБОСНОВАНИЕ КОРПОРАТИВНОГО УПРАВЛЕНИЯ ОТВЕТСТВЕННЫМ ИСКУССТВЕННЫМ ИНТЕЛЛЕКТОМ В СИСТЕМЕ ПОДДЕРЖКИ ПРИНЯТИЯ УПРАВЛЕНЧЕСКИХ РЕШЕНИЙ

METHODOLOGICAL SUBSTANTIATION OF CORPORATE GOVERNANCE OF RESPONSIBLE ARTIFICIAL INTELLIGENCE IN THE MANAGEMENT DECISION SUPPORT SYSTEM

Tsvetkov Kirill Vyacheslavovich

Postgraduate student, Russian Presidential Academy of National Economy and Public Administration (RANEPA),

Russia, Moscow

АННОТАЦИЯ

Цель исследования состоит в методическом обосновании корпоративного управления ответственным искусственным интеллектом в системе поддержки принятия управленческих решений. Методы исследования: системный анализ, сравнительный анализ, разграничение управленческих понятий и концептуальное моделирование связи принципов ответственного искусственного интеллекта с корпоративными процедурами. Результат: разграничены корпоративное управление в условиях цифровой трансформации бизнеса и корпоративное управление ответственным искусственным интеллектом, разработана модель корпоративного управления ответственным искусственным интеллектом для поддержки принятия управленческих решений. Выводы: а) корпоративное управление ответственным искусственным интеллектом целесообразно рассматривать как специальное направление современного менеджмента; б) ответственное использование искусственного интеллекта должно оцениваться по распределению ответственности, требованиям к данным, человеческому надзору и контролю инцидентов; в) предложенная модель позволяет рассматривать результат работы искусственного интеллекта как проверяемый аналитический материал для управленческого решения.

ABSTRACT

The purpose of the study is to provide a methodological substantiation of corporate governance of responsible artificial intelligence in the management decision support system. Research methods: systems analysis, comparative analysis, differentiation of management concepts, and conceptual modelling of the relationship between responsible artificial intelligence principles and corporate procedures. Result: corporate governance in the context of business digital transformation and corporate governance of responsible artificial intelligence are differentiated, and a model of corporate governance of responsible artificial intelligence for management decision support is developed. Conclusions: a) corporate governance of responsible artificial intelligence should be considered as a specific area of modern management; b) responsible use of artificial intelligence should be assessed through responsibility allocation, data requirements, human oversight, and incident control; c) the proposed model makes it possible to consider artificial intelligence output as verifiable analytical material for management decision-making.

Ключевые слова: корпоративное управление; ответственный искусственный интеллект; цифровая трансформация бизнеса; поддержка управленческих решений; данные; человеческий надзор; доверие заинтересованных сторон.

Keywords: corporate governance; responsible artificial intelligence; business digital transformation; management decision support; data; human oversight; stakeholder trust.

В настоящее время расширение использования искусственного интеллекта (далее – ИИ) в компаниях трансформирует содержание управленческих решений, поскольку алгоритмические оценки всё чаще входят в кадровые, финансовые, клиентские, производственные и стратегические решения [1]. Вместе с деловыми эффектами усиливаются риски ошибок, смещений, нарушения конфиденциальности, снижения доверия работников, клиентов и партнёров, а также размывания ответственности между руководителями, владельцами данных, разработчиками и бизнес-подразделениями [3].

В научной литературе отмечается, что общие принципы ответственного ИИ остаются недостаточными для корпоративной практики, если компания не закрепляет роли, процедуры проверки данных и ИИ-моделей, порядок человеческого надзора и реагирования на инциденты [2; 4-5; 7]. Следовательно, актуальность исследования связана с необходимостью методического обоснования корпоративного управления ответственным ИИ как специального направления менеджмента.

В рамках настоящего исследования предлагается обоснование модели корпоративного управления ответственным ИИ в системе поддержки принятия управленческих решений.

И, прежде всего, следует разграничить корпоративное управление в условиях цифровой трансформации бизнеса и применения ИИ и корпоративное управление ответственным ИИ (табл. 1).

В первом случае рассматривается изменение корпоративного управления как общей системы целеполагания, контроля, распределения полномочий и подотчётности под воздействием цифровых технологий, данных, платформенных решений и ИИ.  Во втором случае речь идёт о специальном направлении внутри данной системы, связанном с ответственным созданием, внедрением и использованием ИИ-систем, включая принципы ответственного ИИ, требования к данным, распределение ответственности, человеческий надзор, проверку моделей и контроль инцидентов [6]. Поэтому указанные понятия не обозначают два самостоятельных вида корпоративного управления, поскольку корпоративное управление ответственным ИИ выступает предметно ограниченной частью корпоративного управления в условиях цифровой трансформации бизнеса и применения искусственного интеллекта.

Таблица 1.

Соотношение корпоративного управления в условиях цифровой трансформации бизнеса и корпоративного управления ответственным ИИ

Источник: авторская разработка на основе [2; 4-5; 7]

Ответственный искусственный интеллект – это организационно обеспечиваемый и допускающий аудит способ разработки, внедрения и эксплуатации ИИ‑систем как социотехнических решений на всём их жизненном цикле, при котором принципы справедливости, прозрачности, подотчётности, безопасности, защиты данных и человеческого надзора переводятся в конкретные корпоративные роли, процедуры, контрольные точки, метрики и механизмы управления рисками, обеспечивающие соответствие правовым и социальным ожиданиям стейкхолдеров и поддерживающие доверие к результатам цифровой трансформации.

Рабочее определение ответственного искусственного интеллекта нуждается в последующем раскрытии на уровне корпоративного управления, поскольку как таковое оно обозначает состав значимых принципов, однако ещё не объясняет порядок их включения в подготовку управленческого решения. В настоящее время для компании абстрактные декларации справедливости, прозрачности, подотчётности, безопасности, защиты данных и человеческого надзора в области ИИ уже не так важны; более ценным представляется их конкретное управленческое воплощение в критериях допустимости использования ИИ, параметрах будущего решения, границах использования ИИ-системы и ожидаемых эффектах для бизнеса и заинтересованных сторон. Следует подчеркнуть, что между принципами ответственного ИИ и фактической практикой менеджмента находится промежуточный уровень корпоративной интерпретации, в пределах которого руководство соотносит ценностно-нормативные ориентиры с целями компании, уровнем риска, кругом заинтересованных сторон и правовой средой. На данном уровне становится понятным, какие роли, внутренние регламенты, процедуры согласования, правила работы с данными и формы контроля необходимы для того, чтобы результат работы ИИ-системы мог использоваться как проверяемый аналитический материал для управленческого решения.

В связи с этим дальнейшее рассмотрение ответственного ИИ должно быть направлено от определения к модели, способной показать взаимосвязь принципов, условий корпоративного использования ИИ, организационного обеспечения, данных, контроля и итоговой поддержки принятия управленческих решений.

Совокупность современных теоретических положений в области исследования ответственного ИИ позволяет разработать модель корпоративного управления ответственным ИИ для поддержки принятия управленческих решений как целостное представление о месте ИИ-систем в работе современных компаний (рис. 1).

Рисунок 1. Модель корпоративного управления ответственным ИИ для поддержки принятия управленческих решений в менеджменте

Источник: авторская разработка

Суть предложенной модели состоит в том, что корпоративное управление ответственным ИИ рассматривается как целостное представление о включении ИИ в подготовку управленческих решений, когда исходные принципы ответственного ИИ соотносятся с целями компании, уровнем риска, кругом заинтересованных сторон и правовой средой и принимают вид управленческих требований к допустимости применения ИИ, содержанию решения, ожидаемым эффектам и ограничениям использования ИИ. Далее модель показывает, за счёт каких частей компании требования входят в практику менеджмента, поскольку в неё включены распределение ответственности, внутренние регламенты, согласование подразделений и порядок принятия решений, при этом рядом выделен блок условий к данным, охватывающий происхождение данных, их полноту, сопоставимость, проверку смещений и документирование.

Блок контроля использования ИИ выделен в модели корпоративного управления ответственным ИИ потому, что после утверждения правил компании риск не исчезает – качество управленческого решения зависит от того, насколько ИИ-система соответствует задаче, данным, правовым ограничениям и ожидаемым последствиям для заинтересованных сторон.

Предварительная оценка означает проверку допустимости использования ИИ для конкретной управленческой задачи, уровня возможного вреда, круга затронутых лиц, роли человека в итоговом решении и пределов автоматизированной оценки. Следует подчеркнуть, что проверка модели и данных не относится к самой схеме, она относится к ИИ-модели как математическому и программному элементу ИИ-системы, для которой оцениваются качество исходных данных, наличие смещений, объяснимость результата, точность, стабильность работы и соответствие условиям делового использования. Наблюдение за работой ИИ должны вести владелец бизнес-процесса, подразделение данных или ИТ, риск-менеджмент, юридические службы и органы внутреннего контроля в рамках закреплённых полномочий, поскольку отклонения в работе ИИ могут проявиться уже сразу после начала эксплуатации. Разбор инцидентов нужен для установления причин ошибки, оценки последствий для компании и заинтересованных сторон, изменения правил использования ИИ-системы и предотвращения повторения спорных решений, поэтому блок контроля связывает корпоративные правила с фактической работой ИИ в подготовке практических управленческих решений [4; 86; 7].

В научной литературе подчёркивается, что сами по себе принципы ответственного ИИ обладают высоким уровнем общности, поэтому их непосредственное использование в корпоративном управлении ограничено. Прозрачность, подотчётность, конфиденциальность, справедливость и автономия человека признаются ключевыми положениями этики ИИ, однако среди главных барьеров их внедрения называются расплывчатость формулировок, дефицит знаний и слабая разработанность организационных механизмов [2]. Следовательно, предложенная модель необходима потому, что она восполняет пробел, промежуточное звено между ценностно-нормативными положениями ответственного ИИ и подготовкой управленческого решения в компании.

Ценность данной модели состоит в том, что она показывает, каким образом ответственный ИИ включается в практику менеджмента за счёт реализации управленческих, процессных и продуктовых решений. В научных исследованиях ответственного ИИ отмечается, что для реализации принципов недостаточно решений на уровне алгоритма, поскольку вопросы этики, данных, ответственности и контроля возникают на разных стадиях жизненного цикла ИИ-системы [4]. В связи с этим авторская модель позволяет соотнести принципы ответственного ИИ с целями компании, уровнем риска, кругом заинтересованных сторон и правовой средой, после чего становится возможной оценка допустимости использования ИИ, требований к решению, ожидаемых эффектов и ограничений для менеджмента.

Необходимость модели усиливается тем, что корпоративное использование ИИ связано с рисками вреда для работников, клиентов, бизнеса и общества, включая смещения, нарушение конфиденциальности, несправедливые решения и репутационные потери. В современной науке подчёркивается, что организациям нужны понятные механизмы подотчётности, распределения ролей, контроля данных, проверки решений и взаимодействия со стейкхолдерами [4-5; 7]. Поэтому представленная модель нужна затем, чтобы ИИ рассматривался в менеджменте как проверяемый источник аналитического материала, в то время как итоговое управленческое решение соотносилось с ответственностью должностных лиц, внутренним контролем и доверием заинтересованных сторон.

Стоит отметить, что распределение ответственности, внутренние регламенты, согласование структурных подразделений и порядок принятия решений включены в модель потому, что данные элементы позволяют определить управленческий статус результата работы ИИ-системы. В корпоративной среде рекомендация ИИ может использоваться в кадровом решении, оценке клиента, выборе поставщика, распределении ресурсов, прогнозе спроса или подготовке инвестиционного решения, поэтому компаниям необходимо заранее установить владельца решения, исполнителя проверки, ответственного за данные, участника правовой оценки и лицо, принимающее итоговое управленческое решение. Так, в исследованиях ответственного ИИ подчёркивается, что внедрение принципов осложняется расплывчатостью этических положений и недостаточной разработанностью организационных механизмов [2], поэтому указанные элементы отражают способ закрепления управленческой ответственности за действиями работников, структурных подразделений и руководства.

Под практикой менеджмента в данном случае понимается конкретная работа по подготовке и обоснованию управленческих решений – постановка задачи для ИИ-системы, выбор данных, проверка применимости модели, согласование правовых и деловых ограничений, оценка риска для заинтересованных сторон и оформление решения руководителем. В этой части возникают вопросы происхождения данных, полноты сведений, сопоставимости выборок, смещений и документирования, поскольку качество исходных данных влияет на качество последующего управленческого вывода. Поэтому блок условий к данным в модели связан с практикой менеджмента напрямую – он показывает, какие сведения должны быть проверены до использования результата ИИ в управленческом решении и почему ответственность за решение остаётся в системе корпоративного управления [4-5; 7].

Таким образом, корпоративное управление ответственным ИИ целесообразно рассматривать как специальное направление современного менеджмента, связанное с подготовкой и обоснованием управленческих решений на базе ИИ-систем. Проведённое исследование позволило разграничить общий уровень корпоративного управления в условиях цифровой трансформации бизнеса и более узкий предмет корпоративного управления ответственным ИИ. На основе данного разграничения предложена модель, раскрывающая связь принципов ответственного ИИ с целями компании, уровнем риска, интересами заинтересованных сторон, правовой средой, распределением ответственности, требованиями к данным и контролем использования ИИ-систем. Практическое значение модели состоит в том, что результат работы ИИ рассматривается не как самостоятельное управленческое решение, а как проверяемый аналитический материал, оценка которого сохраняется за должностными лицами компании. Разработанная модель позволяет уточнить место ответственного ИИ в системе поддержки принятия управленческих решений и показать, каким образом корпоративные правила, работа с данными, человеческий надзор и контроль инцидентов связаны с доверием заинтересованных сторон и качеством управленческих решений.

Список литературы:

1. Kalkan G. The Impact of Artificial Intelligence on Corporate Governance / G. Kalkan // Journal of Corporate Finance Research. – 2024. – Vol. 18, № 1. – P. 112–125.
2. Kelley S. Employee Perceptions of the Effective Adoption of AI Principles / S. Kelley // Journal of Business Ethics. – 2022. – Vol. 178, № 4. – P. 871–53.
3. Khan A. Ethics of AI: A Systematic Literature Review of Principles and Challenges / A. Khan, S. Badshah, P. Liang, M. W. Anwar // International Conference on Evaluation & Assessment in Software Engineering (EASE '21). – 2021. – P. 383–392.
4. Lu Q. et al. Responsible AI pattern catalogue: A collection of best practices for AI governance and engineering // ACM Computing Surveys. – 2024. – Vol. 56. – No. 7. – P. 1-35.
5. Madanchian M., Taherdoost H. Ethical theories, governance models, and strategic frameworks for responsible AI adoption and organizational success // Frontiers in Artificial Intelligence. – 2025. – Vol. 8. – P. 1-14.
6. Nedunuri, Gupta A., Guha D. Signals, systems, and strategy: understanding responsible AI in autonomous environments // AI and Ethics. – 2026. – Vol. 6. – No. 1. – P. 1-15.
7. Sharma S. Benefits or concerns of AI: A multistakeholder responsibility // Futures. – 2024. – Vol. 157. – P. 1-10.