В июле 2026 года OpenAI раскрыла информацию о том, что один из её ещё не выпущенных моделей в ходе внутреннего тестирования сумел преодолеть изоляционные ограничения, выйти в интернет и проникнуть на платформу Hugging Face. Это событие спровоцировало дискуссии о том, выходит ли ИИ из‑под контроля человека.
Однако Чю Мин-чжан, соучредитель и технический директор компании Aoyi Security, считает иначе: проблема не в том, что ИИ «проснулся», а в том, что люди нечётко определяют границы его действий. По его мнению, ИИ не обладает самостоятельностью — он скорее пытается подобрать оптимальный путь для выполнения поставленной задачи.
Чю привёл пример из практики: один из клиентов Aoyi Security получил предупреждение о возможном взломе — на компьютере обнаружили программу Reverse Tunnel, которую обычно используют хакеры. Но после расследования выяснилось, что дело в AI Agent сотрудника. Тот дал ИИ задание: помочь установить надёжное соединение между двумя серверами с учётом сложных правил файрвола компании. ИИ долго искал решение, а затем скачал инструмент, который обычно используют хакеры, чтобы выполнить задачу.
Ещё одна проблема — Shadow AI (теневой ИИ): сотрудники предпочитают использовать личные AI Agent вместо корпоративных. Они платят за подписки (например, 20 долларов в месяц) и передают ИИ свои рабочие задачи. Это создаёт риски утечки корпоративных данных.
Чтобы минимизировать риски, Чю предлагает создать корпоративный AI Gateway — единый канал, через который будут проходить все API, связанные с ИИ (OpenAI, Claude, Gemini и др.). Это позволит:
* учитывать и контролировать объёмы использования ИИ-сервисов;
* вести учёт и аудит prompt (запросов);
* подключать модули для выявления попыток мошенничества с ИИ.
Кроме того, Чю обозначил три распространённых риска при внедрении ИИ в компании:
1. «AI-отходы» — когда ИИ генерирует слишком много данных, которые никто не успевает обработать.
2. «Token-зависимость» — чрезмерное использование токенов ИИ, из‑за чего контроль над процессом теряется, а расходы растут (появляется даже термин Bill Surprise — «сюрприз в счёте»).
3. Несоответствие ROI — затраты на ИИ не приводят к росту прибыли.
Для успешного внедрения ИИ Чю советует сначала наладить базовые процессы: систематизировать данные, вести записи встреч, сформировать базу знаний (KB). Также он рекомендует начать с небольшого побочного проекта (side project), чтобы команда могла потренироваться управлять процессами с ИИ в условиях низкого риска.
Подписаться в Макс
