proanarisПроблемы анализа рискаIssues of Risk Analysis1812-52202658-7882ФГБУ ВНИИ ГОЧС (ФЦ)NUWKNUproanaris-1114Research ArticleРИСКИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТАARTIFICIAL INTELLIGENCE RISKSОбзор практик и рисков внедрения искусственного интеллекта в системы управления бизнес-процессамиA Review of the Practices and Risks of Implementing Artificial Intelligence in Business Process Management Systemshttps://orcid.org/0009-0002-9892-6276ГорбуновВ. Л.GorbunovV. L.

Горбунов Владимир Леонидович: доктор технических наук, профессор

ResearcherID: QWC-1861-2026 

124498, г. Москва, г. Зеленоград, пл. Шокина, 1

Vladimir L. Gorbunov 

Shokin Square, 1, Zelenograd, Moscow, 124498

nbia@mail.ruhttps://orcid.org/0009-0004-7200-5473ЗотенкоА. А.ZotenkoA. A.

Зотенко Анна Алексеевна: специалист 

ResearcherID: QWC-0514-2026 

124460, г. Москва, г. Зеленоград, ул. Академика Валиева, 6/1

Anna A. Zotenko 

Akademika Valieva Str., 6/1, Zelenograd, Moscow, 124460

anna.zotenko@gmail.comhttps://orcid.org/0009-0004-8999-0051ФайзуллинаА. И.FaizullinaA. I.

Файзуллина Алина Ильнуровна: ведущий инженер 

ResearcherID: QWC-0534-2026 

124498, г. Москва, г. Зеленоград, пл. Шокина, д. 2, стр. 3

Alina I. Faizullina 

Shokin Square, 2, bld. 3, Zelenograd, Moscow, 124498

Институт системной и программной инженерии и информационных технологий Национального исследовательского университета «МИЭТ»РоссияInstitute of Systems and Software Engineering and Information Technology National Research University of Electronic TechnologyRussian FederationНаучно-исследовательский институт молекулярной электроникиРоссияMolecular Electronics Research InstituteRussian FederationНаучно-производственное объединение АнгстремРоссияResearch and Production Association AngstremRussian Federation2026270820262342643Copyright © Горбунов В.Л., Зотенко А.А., Файзуллина А.И., 20262026Горбунов В.Л., Зотенко А.А., Файзуллина А.И.Gorbunov V.L., Zotenko A.A., Faizullina A.I.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://www.risk-journal.com/jour/article/view/1114

Несмотря на рост популярности генеративного искусственного интеллекта, статистика показывает низкие уровни успешных внедрений в процессы компаний. При этом существует пробел в систематизированных исследованиях причин подобных провалов.Цель работы – проанализировать практики применения генеративного искусственного интеллекта как инструмента автоматизации процессов (как успешные, так и провальные), а также выявить типовые риски и их причины. Исследование проводилось на основе статистических данных, научных работ и сведений о проектах из открытых источников. На основе собранных данных о рисках в каждой предметной области были выделены общие риски применения и составлена матрица причин, источников и последствий возникновения каждого из рисков для компании. Дополнительно была рассмотрена постепенная деградация инструментов искусственного интеллекта для составления полной картины ситуации на рынке генеративных нейросетей.На основании проведенного исследования был сделан вывод о невозможности полной бесконтрольной модели автоматизации процессов генеративным искусственным интеллектом из-за ее нестабильности в долгосрочной перспективе. Предложенный реестр рисков служит основой для выработки более рационального и осторожного подхода к внедрению генеративного искусственного интеллекта, смещающего фокус с тотальной автоматизации на управляемую гибридную модель.

Despite the growing popularity of generative artificial intelligence, statistics show low levels of successful implementations in company processes. At the same time, there is a gap in systematic studies of the causes of such failures.The purpose of the work is to analyze the practices of using generative artificial intelligence as a tool for automating processes (both successful and failed), as well as to identify typical risks and their causes. The study was carried out on the basis of statistical data, scientific papers and information about projects from open sources. Based on the collected risk data in each subject area, common application risks were identified and a matrix of causes, sources and consequences of each of the risks for the company was compiled. In addition, the gradual degradation of artificial intelligence tools was considered to compile a complete picture of the situation on the generative neural network market.Based on the study, it was concluded that a complete uncontrolled model of process automation by generative artificial intelligence is impossible due to its instability in the long term. The proposed risk register serves as the basis for developing a more rational and cautious approach to the introduction of generative artificial intelligence, shifting the focus from total automation to a controlled hybrid model.

информациябизнес-процессыискусственный интеллектавтоматизация процессовфакторы рискаinformationbusiness-processesartificial intelligenceprocess automationrisk factorsReferencesХан М. С., Горбунов В. Л. Метод распознавания лиц на основе CNN // Инновационные подходы к решению технико-экономических проблем: Сборник трудов Международной конференции, Москва, 29 мая 2023 года. М.: Национальный исследовательский университет «Московский институт электронной техники», 2023. С. 119– 128. EDN: OHUEUNHan M. S., Gorbunov V. L. A face recognition method based on CNN // Innovative approaches to solving technical and economic problems: Collection of works of the International Conference, Moscow, May 29, 2023. Moscow: National Research University «Moscow Institute of Electronic Engineering,», 2023. P. 119–128. (In Russ.). EDN: OHUEUNКозлова Н. Ш., Довгаль В. А. Анализ применения искусственного интеллекта и машинного обучения в кибербезопасности // Вестник Адыгейского Государственного Университета. Серия: естественно-математические и технические науки. 2023. № 3. С. 65–72. https://doi.org/10.53598/2410-3225-2023-3-326-65-72Kozlova N. Sh., Dovgal V. A. Analysis of the use of artificial intelligence and machine learning in cybersecurity // Bulletin of Adygea State University. Series: Science, Mathematics and Technology. 2023;(3):65–72. (In Russ.) https://doi.org/10.53598/2410-3225-2023-3-326-65-72Lin Kyi, Abraham Mhaidli, Cristiana Santos, Franziska Roesner, Asia Biega. “It doesn’t tell me anything about how my data is used”: User Perceptions of Data Collection Purposes. CHI ‘24: Proceedings of the 2024 CHI Conference on Human Factors in Computing Systems. 2024. https://doi.org/10.1145/3613904.3642260Lin Kyi, Abraham Mhaidli, Cristiana Santos, Franziska Roesner, Asia Biega. “It doesn’t tell me anything about how my data is used”: User Perceptions of Data Collection Purposes. CHI ‘24: Proceedings of the 2024 CHI Conference on Human Factors in Computing Systems. 2024. https://doi.org/10.1145/3613904.3642260Ho J.Q.H., Hartanto A., Koh A., Majeed N.M. Gender biases within artificial intelligence and ChatGPT: evidence, sources of biases and solutions // Computers in Human Behavior: Artificial Humans. 2025;4:100145. https://doi.org/10.1016/j.chbah.2025.100145Ho J.Q.H., Hartanto A., Koh A., Majeed N.M. Gender biases within artificial intelligence and ChatGPT: evidence, sources of biases and solutions // Computers in Human Behavior: Artificial Humans. 2025;4:100145. https://doi.org/10.1016/j.chbah.2025.100145

The authors declare that there are no conflicts of interest present.