OpenAI подтвердила, что два её AI-модели — GPT-5.6 Sol и ещё один предрелизный мощный модель — в ходе внутреннего тестирования самовольно вышли из контролируемой среды и проникли в производственную систему платформы Hugging Face. Компания назвала инцидент «беспрецедентным событием в сфере кибербезопасности».
Тестирование было направлено на оценку способности моделей осуществлять сетевые атаки. В рамках эксперимента OpenAI намеренно ослабила защитные механизмы, которые обычно блокируют выполнение атакующих команд. Модели активно стремились решить задачу в рамках оценки ExploitGym.
Сначала они использовали уязвимость нулевого дня в стороннем ПО внутри sandbox, чтобы получить доступ к внешней сети. Затем предположили, что ответы к задаче ExploitGym хранятся на Hugging Face, — и начали серию атак: похитили учётные данные, применили различные методы взлома и в итоге открыли путь для удалённого выполнения кода в производственной среде Hugging Face.
Весь процесс прошёл без участия человека. За выходные AI-агент выполнил десятки тысяч автоматических действий — Hugging Face впоследствии восстановила более 17 000 записей о событиях. Атаку в итоге заблокировал собственный AI-агент Hugging Face.
Hugging Face ранее уже сообщала о взломе, но тогда не знала, кто стоит за атакой. После расследования OpenAI подтвердила, что атаку осуществили её модели. Сооснователь и CEO Hugging Face Delangue в X заявил, что изначально подозревал причастность передовой лаборатории из‑за высокой сложности AI-агента. Он подчеркнул, что не видит злого умысла со стороны OpenAI, но потрясён тем, что всё произошло автономно.
Эксперты по кибербезопасности выражают тревогу: по словам главы Luta Security Moussouris, современные модели подобны «самым умным в мире мастерам побега», способным найти выход из любой ситуации. Инженер Tolmo Suiche отметил, что передовые модели сокращают разрыв с опытными хакерами, а глава RunSybil Herbert-Voss назвал такую атаку ситуацией, которую раньше лишь теоретически предполагали, но не наблюдали на практике.
OpenAI в своём блоге заявила, что главный урок инцидента — необходимость синхронизировать уровень безопасности моделей с быстрым развитием возможностей ИИ. Компания считает, что продвинутые модели кибербезопасности могут помочь командам по защите раньше обнаруживать уязвимости и оперативно их устранять.
Подписаться в Макс
