С точки зрения высшего руководства компании, залог успеха бизнеса — стратегическое управление рисками использования искусственного интеллекта, пишет в корпоративном блоге Нупур Сингх Эндли, менеджер по исследованиям IDC C-Suite Tech Agenda.

В последние несколько лет ИИ, включая генеративный ИИ (GenAI), набирает обороты благодаря его внедрению компаниями из разных отраслей и регионов. Однако генеральные директора (СЕО) и ИТ-директора (CIO) сомневаются в зрелости сообщества поставщиков технологий в понимании рисков, связанных с использованием ИИ. Согласно исследованию IDC «CEO Survey 2024», чуть менее половины из 354 опрошенных СЕО (45%) считают, что поставщики технологий не до конца понимают потенциал риска, связанного с ИИ. Это мнение поддержали около двух третей CIO, участвовавших в январском опросе IDC «CIO Quick Poll».

Потенциал финансового риска, связанного со снижением стоимости компании или убытков (downside risk) определяется как вероятность негативных результатов или неблагоприятных последствий, связанных с определенным решением или инвестициями. Применительно к ИИ это выражается в следующих ключевых категориях рисков:

  • Риски, связанные с безопасностью и данными — угрозы кибербезопасности и утечки данных являются рисками, связанными с ИИ, особенно в тех случаях, когда модели имеют доступ к конфиденциальным данным компании и персональным данным клиентов.
  • Экологическое и социальное воздействие — если высокое энергопотребление систем ИИ может нанести вред окружающей среде в виде увеличения выбросов углекислого газа, то масштабная автоматизация бизнес-процессов может снизить необходимость вмешательства человека в некоторые функции, что приведет к повышению уровня безработицы.
  • Руководство — наличие основополагающей системы регулирования использования ИИ имеет большое значение, поскольку отсутствие понимания и прозрачности того, как действуют алгоритмы ИИ и как модели развиваются с течением времени, может вызвать опасения относительно предвзятости и эксплуатации данных. Также известны случаи галлюцинаций, которые вызвали вопросы о достоверности и подотчетности ИИ при принятии решений в бизнесе. Аналогичным образом, случаи повторной идентификации анонимизированных персональных данных вызвали дискуссии об этических аспектах использования ИИ для работы с конфиденциальными и секретными данными.

С широким распространением ИИ в различных бизнес-функциях и сферах использования необходимость выявления рисков и разработки эффективных стратегий и программ для их устранения стала одним из важнейших требований бизнеса. Более того, СЕО, опрошенные в 2024 г., назвали совершенствование системы управления рисками в организации вторым по значимости приоритетом в этом году.

В отсутствие комплексной стратегии снижения рисков организациям будет сложно воспользоваться истинными преимуществами ИИ и уверенно использовать его для принятия бизнес-решений. При таком развитии событий поставщики технологий могут сыграть ключевую роль, поддерживая и направляя их усилия. Но для начала им необходимо завоевать доверие в качестве экспертов и надежных консультантов по ИИ, сосредоточившись на следующих важнейших факторах:

  • Прозрачность — обеспечивая прозрачность процесса обучения моделей ИИ и предоставляя информацию об обработке и хранении данных, поставщики могут повысить доверие к своим решениям. Уменьшение непрозрачности работы системы ИИ также поможет решить проблемы, связанные с предвзятостью и дискриминацией данных.
  • Доверие — упор на объяснимость процесса принятия решений в модели ИИ необходим для того, чтобы вызвать доверие к результатам работы системы и повысить уверенность клиентов в том, что они смогут использовать ее для принятия бизнес-решений.
  • Соответствие нормативным требованиям — еще одним важным аспектом является соблюдение поставщиком технологий действующих норм безопасности и конфиденциальности данных, а также мандатов ESG. Это позволит не только обеспечить соответствие нормативным требованиям, но и отразить стремление поставщика содействовать общественному благополучию и ответственному использованию ИИ.

ИИ привлек внимание СЕО и всех руководителей предприятий. Он обладает огромным потенциалом для автоматизации и инноваций. Однако, находясь на ранних стадиях своего развития, ИИ также несет в себе риски и проблемы, которые еще только изучаются в отрасли.

Организации, планирующие внедрить ИИ, выиграют, если будут сотрудничать с поставщиками технологий и использовать их глубокие отраслевые знания и технический опыт для разъяснения проблем и их эффективного решения. Поставщики технологий должны взять на себя обязательства по укреплению доверия клиентов, повышая прозрачность своих систем и обеспечивая соблюдение общепринятых нормативных стандартов и мандатов.