DeepDigest
TechOrange 科技報橘 · · ~4 мин

Agentic AI в бизнесе: 4 проблемы управления и готовность компаний

AI Agent всё активнее внедряется в бизнес-процессы, но компании не всегда готовы к таким изменениям. Внедрение автономных систем порождает проблемы управления, вопросы ответственности и безопасности. Ключевое значение имеет состояние данных и процессов в компании, а также обучение сотрудников.

Agentic AI в бизнесе: 4 проблемы управления и готовность компаний

AI в бизнесе эволюционирует: от генерации контента — к автономным решениям и действиям. Fast Company опросила 34 руководителей из медицины, финансов, обороны, маркетинга о стратегии в отношении Agentic AI. Большинство опрошенных считает, что предприятия пока не готовы к таким переменам, однако AI Agent уже внедряются в операционные процессы.

Согласно данным KPMG за июнь 2026 года, 51% банков тестируют AI Agent. Их используют в управлении активами, проверке клиентов, обработке транзакций и управлении корпоративными финансами. Например, BNY (Нью-Йоркский Мерон Банк) задействует цифровых сотрудников как членов команды: они выполняют задачи и взаимодействуют друг с другом, а человеческие руководители занимаются обучением, контролем качества и оценкой эффективности.

Внедрение AI Agent от вспомогательной роли к автономной порождает четыре ключевые проблемы управления:
* разрыв между скоростью работы и бизнес-результатами;
* разрозненность внутренних данных и процессов;
* нечёткая система ответственности;
* переход сотрудников от исполнителей к управленцам.

Практический опыт показывает потенциал Agentic AI. Steve Squeri из American Express сообщил, что после расширения использования AI-инструментов цикл разработки ПО сократился на 30%. Agentic AI может взять на себя проектирование, тестирование и развёртывание новых функций. Nitesh Shroff из Arintra рассказал, что AI-движок компании ежемесячно автономно обрабатывает более 50 тыс. медицинских карт в Mercy Health. Это повысило выручку на 5,1% и позволило сотрудникам сосредоточиться на сложных задачах.

Вместе с тем эксперты предупреждают о рисках. Nick Deveau из Grotto AI говорит об «иллюзии производительности»: AI может подтолкнуть компанию к неверным решениям. Sean McDonald из Rethink указывает на акцент на стоимости и эффективности в ущерб качеству. John Elder из Supergood считает, что использование одинаковых AI Agent, моделей и данных приведёт к однообразным результатам. Robin Forbes из R/GA полагает, что в креативной сфере нужно оценивать ценность по качеству продукции и бизнес-влиянию, а не по затраченному времени.

Ключевое значение для реализации потенциала AI Agent имеет не только возможности модели, но и состояние данных и процессов в компании. Эксперты указывают на типичные проблемы: разрозненные данные («острова» информации), размытая ответственность, устаревшие рабочие процессы. Например, Shiv Rao из Abridge отмечает, что в медицине разрозненность клинических, финансовых и административных данных мешает эффективности даже самых продвинутых моделей. Ali Diab из Collective Health подчёркивает, что в здравоохранении по‑прежнему широко используют факсы, а «проприетарные данные» препятствуют конкуренции. Для безопасного использования AI нужны качественные и актуальные данные — ошибки или сокрытие данных в базовой системе могут привести к сбоям.

Вопросы ответственности и безопасности также остаются открытыми. При расширении возможностей AI Agent (доступ к внутренним системам, выполнение задач, участие в принятии решений) возникают вопросы: кто уполномочивает AI Agent действовать, кто несёт ответственность за результаты, как предотвратить появление новых уязвимостей в сфере ИБ. Nathan Silvernail из Plantd поднимает вопрос ответственности: кто ответит, если AI Agent примет ошибочное решение о закупке или сделает дефектный проектный выбор? Janet Sherlock из Org.works отмечает, что многие компании не определили рамки использования AI Agent, механизмы ответственности и единообразные платформы. John Levy из SeeQC предупреждает, что автономность AI Agent повышает риск утечки конфиденциальной информации. Ben Colman из Reality Defender говорит о том, что злоумышленники используют AI‑голосовых агентов для массовых звонков и социальных атак, пытаясь получить персональные данные. AI Agent могут параллельно работать с низкими затратами и в реальном времени генерировать синтетический голос — из‑за этого пользователям сложно определить, общается ли они с человеком или с AI.

Банки проявляют осторожность в использовании AI Agent. Например, Morgan Stanley накладывает строгие ограничения: при тестировании цифровых ассистентов для взаимодействия с клиентами ключевые функции сохраняют под человеческим контролем, AI не будет самостоятельно принимать решения по инвестиционным портфелям. Bain & Company отмечает, что банки в основном используют AI Agent для внутренних задач, а при взаимодействии с клиентами сохраняют осторожность и участие человека.

Agentic AI меняет роль сотрудников: вместо прямого решения проблем они будут управлять итоговыми результатами, оценивать надёжность результатов и управлять рисками. При этом чрезмерное доверие к AI может привести к утрате человеческих навыков (например, зависимость от калькуляторов).

Готовность компаний к Agentic AI зависит не столько от технологий, сколько от обучения сотрудников. Важно создавать условия для обучения, давать время на эксперименты, делиться кейсами использования. Компании должны инвестировать в персонал так же, как в технологии. Текущие быстрые изменения в моделях, агентах, интерфейсах, каналах, метриках эффективности и экономических моделях не дают компаниям времени на адаптацию. Задача руководителей — выстроить способы оценки результатов, обеспечить надёжные данные и процессы, определить чёткие границы ответственности и информационной безопасности, а также подготовить сотрудников к роли контролёров и управленцев AI.

// оригинал
TechOrange 科技報橘 ↗ Читать оригинал
1 просмотров
// поделиться Telegram VK