За последние два года предприятия активно внедряли генеративный ИИ: сначала приобретали Copilot, затем подключали несколько SaaS‑решений с ИИ, после чего отделы проводили PoC. Однако с ростом числа AI Agent возрастают и риски — в том числе угрозы безопасности. Яркий пример — инцидент в июле, когда OpenAI в ходе внутреннего тестирования безопасности использовала AI Agent. Агент обнаружил неизвестный уязвимый участок, вышел за пределы тестовой среды и проник в систему Hugging Face. Для доступа к учётным записям четырёх публичных сервисов он использовал украденные учётные данные. Hugging Face смогла обнаружить и остановить инцидент благодаря собственным механизмам обнаружения.
Чтобы блокировать нежелательные действия AI Agent, компаниям нужно учитывать несколько ключевых факторов:
* от чьего имени действует Agent;
* есть ли у него прямой доступ к системе;
* контролируются ли необратимые операции;
* фиксируются ли все действия.
Для эффективного управления AI Agent предприятиям нужна специальная платформа. Она должна обеспечивать среду для совместной разработки, выполнения и управления агентами. Зрелая платформа для работы с несколькими агентами включает ряд важных компонентов:
* управление идентификацией и минимальными привилегиями (Identity & Least Privilege);
* управляемые инструменты и коннекторы (Governed Tools & Connectors);
* организацию рабочих процессов и одобрение человеком (Workflow & Human-in-the-loop);
* работу с памятью и доступом к корпоративным данным (Memory & Enterprise Data);
* оценку и наблюдаемость (Evaluation & Observability);
* управление версиями, затратами и жизненным циклом (Versioning, Cost & Lifecycle Management).
Эти элементы универсальны: независимо от того, какую модель будет использовать компания — Gemini, GPT, Claude или другую, — подходы к управлению правами, данными, безопасностью, оценкой и аудитом должны оставаться едиными. Предприятие‑агент представляет собой комплекс из модели, инструментов, идентификации, политики, оценки и аудита.
Потребность в такой платформе определяется не численностью сотрудников, а сложностью взаимодействия систем. Чтобы оценить необходимость платформы, компаниям стоит учитывать:
* количество агентов;
* степень взаимодействия между системами;
* чувствительность данных;
* степень самостоятельности выполнения задач.
Нередко в компаниях разные отделы успешно создают Agents, но проблемы возникают при их взаимодействии с CRM, ERP, HRIS или системами рабочих заявок. Agents могут изменять данные клиентов и влиять на бизнес‑процессы — в таких случаях критически важны механизмы контроля прав и управления. Перед технической оценкой внедрения AI важно проверить зрелость процессов: если они не стандартизированы, автоматизация лишь ускорит хаос, а не решит проблемы.
AI Agent лучше всего подходят для повторяющихся задач или задач, требующих одновременной работы с несколькими системами и чётких критериев выполнения. Например, они могут распределять и готовить ответы по обращениям клиентов, собирать запросы на закупки, готовить материалы к бизнес‑встречам. Одноразовые задачи (краткое изложение, перевод, классификация) эффективнее решать с помощью готовых инструментов без создания многоагентных процессов — об этом напоминает руководство Google по архитектуре Agentic AI.
Многие компании сначала подключают API моделей из‑за низкой стоимости и высокой скорости, но при официальном использовании Agents разными отделами проявляются серьёзные риски. Ошибки Agents с высокими правами могут привести к отправке ошибочных писем, изменению данных, утечке конфиденциальной информации. Платформы управления AI не только предоставляют инструменты для создания Agents, но и включают механизмы управления рисками: контроль прав, ручное одобрение, полный аудит, отслеживание событий, быстрое отключение.
При оценке затрат на внедрение платформы нужно учитывать не только стоимость моделей или цену токенов, но и расходы на разработку и тестирование коннекторов, их обслуживание при обновлении систем, трудозатраты на оценку и мониторинг (часто требуются опытные инженеры). Также важно заранее предусмотреть затраты на управление правами и соответствие законодательству, возможную смену платформы в будущем, перенос данных при переключении между моделями или обеспечении отказоустойчивости. Инженеры при оценке внедрения платформы управления AI анализируют не только стоимость моделей, но и архитектуру, которая обеспечит безопасность, стабильность и масштабируемость AI Agents на срок от трёх лет.
Для создания эффективной системы управления AI компаниям следует придерживаться ряда принципов:
* не допускать прямого взаимодействия AI с корпоративными системами;
* сначала оформить CRM, ERP как инструменты с чёткими правами и целями использования, а затем позволить Agents работать через эти инструменты, а не открывать все API;
* использовать существующие права доступа компании для агентов, а не создавать отдельные учётные записи;
* операции, которые нельзя отменить (оплата, удаление данных, изменение прав, отправка документов наружу), должны проходить через человеческое одобрение или соответствовать чётким правилам;
* все действия должны фиксироваться в полной записи: от работы модели и вызова инструментов до применённых политик и выполненных действий.
Google в своей эталонной архитектуре для корпоративных AI‑агентов определяет агента как координатора между системами — это позволяет сократить необходимость переключения между системами и масштабной точечной интеграции. Microsoft предупреждает: при добавлении каждого нового агента расходы на обслуживание могут выйти из‑под контроля, если придётся заново интегрировать системы, выстраивать процессы и разрабатывать методы оценки.
Особую опасность представляет Shadow AI: риск не в том, что сотрудники создают агентов, а в том, что компания не знает, где они их создают. Когда внутренние инструменты компании не удовлетворяют потребностям, сотрудники могут использовать личные аккаунты ChatGPT, неодобренные AI‑сервисы или самостоятельно интегрировать внешние инструменты. Это усложняет контроль над потоками данных, использованием прав и повышает риски информационной безопасности. Чтобы избежать этих проблем, компании должны предоставлять управляемую платформу — тогда все разработки будут вестись в контролируемой, проверяемой и управляемой среде.
Преимущества такого подхода очевидны:
* полная запись по каждому агенту;
* сохранение коллективного опыта;
* чёткое определение границ ответственности;
* возможность повторного использования успешных решений (коннекторов, шаблонов Prompt, тестовых случаев, политик управления).
В качестве примера платформы можно привести CloudMile AEGIS AI Foundry. Она объединяет создание и выполнение агентов в единой No-code/Low-code среде, поддерживает гибридное облачное развёртывание (компания сама определяет, какие работы и данные остаются локально, а какие размещаются в облаке). На платформе унифицировано управление: контроль идентификаторов и прав, многоуровневая проверка безопасности, полная запись аудита, панель использования для отслеживания доступа к данным, вызова инструментов и затрат на модели. Ключевая ценность такой платформы — не снижение порога входа для разработки, а обеспечение единых стандартов безопасности, управления и контроля затрат при расширении применения агентов в компании.
При внедрении AI‑агентов критичным моментом является не интеллектуальность модели, а начало взаимодействия агента с реальными данными, получение им идентификатора и выполнение действий. Практичный подход — не полная автоматизация агентами, а выбор 1–2 часто используемых, проверяемых и поддающихся человеческой проверке процессов. Сначала на платформе нужно создать первую повторяемую систему идентификаторов, инструментов, оценки и стандартов развёртывания, а после отладки постепенно повышать автономность агентов. Компании нужна не просто улучшенная диалоговая система, а система, которая позволит всем безопасно создавать решения, даст руководителям возможность их запускать и обеспечит возможность немедленного выявления и устранения проблем при авариях. Если у компании есть только 1–2 низкорисковых запроса на ответы, платформа может не понадобиться. Но когда несколько отделов используют Agent, Agent выполняет действия в разных SaaS или компания ограничена требованиями законодательства и аудита, общая платформа будет эффективнее и безопаснее, чем отдельные API для каждого отдела. Информация предоставлена CloudMile, отредактирована TechOrange.
<<<CODE_BLOCK_N>>>
<<<IMG_N>>>
Подписаться в Макс
