Обзор практик и рисков внедрения искусственного интеллекта в системы управления бизнес-процессами

Несмотря на рост популярности генеративного искусственного интеллекта, статистика показывает низкие уровни успешных внедрений в процессы компаний. При этом существует пробел в систематизированных исследованиях причин подобных провалов.
Цель работы – проанализировать практики применения генеративного искусственного интеллекта как инструмента автоматизации процессов (как успешные, так и провальные), а также выявить типовые риски и их причины. Исследование проводилось на основе статистических данных, научных работ и сведений о проектах из открытых источников. На основе собранных данных о рисках в каждой предметной области были выделены общие риски применения и составлена матрица причин, источников и последствий возникновения каждого из рисков для компании. Дополнительно была рассмотрена постепенная деградация инструментов искусственного интеллекта для составления полной картины ситуации на рынке генеративных нейросетей.
На основании проведенного исследования был сделан вывод о невозможности полной бесконтрольной модели автоматизации процессов генеративным искусственным интеллектом из-за ее нестабильности в долгосрочной перспективе. Предложенный реестр рисков служит основой для выработки более рационального и осторожного подхода к внедрению генеративного искусственного интеллекта, смещающего фокус с тотальной автоматизации на управляемую гибридную модель.

1. Хан М. С., Горбунов В. Л. Метод распознавания лиц на основе CNN // Инновационные подходы к решению технико-экономических проблем: Сборник трудов Международной конференции, Москва, 29 мая 2023 года. М.: Национальный исследовательский университет «Московский институт электронной техники», 2023. С. 119– 128. EDN: OHUEUN

2. Козлова Н. Ш., Довгаль В. А. Анализ применения искусственного интеллекта и машинного обучения в кибербезопасности // Вестник Адыгейского Государственного Университета. Серия: естественно-математические и технические науки. 2023. № 3. С. 65–72. https://doi.org/10.53598/2410-3225-2023-3-326-65-72

3. Lin Kyi, Abraham Mhaidli, Cristiana Santos, Franziska Roesner, Asia Biega. “It doesn’t tell me anything about how my data is used”: User Perceptions of Data Collection Purposes. CHI ‘24: Proceedings of the 2024 CHI Conference on Human Factors in Computing Systems. 2024. https://doi.org/10.1145/3613904.3642260

4. Ho J.Q.H., Hartanto A., Koh A., Majeed N.M. Gender biases within artificial intelligence and ChatGPT: evidence, sources of biases and solutions // Computers in Human Behavior: Artificial Humans. 2025;4:100145. https://doi.org/10.1016/j.chbah.2025.100145