13 июля 2026 года стало известно, что Йоханнес Хайдеке (Johannes Heidecke), отвечавший за системы безопасности в OpenAI, покинет компанию. Он присоединился к OpenAI в 2021 году в качестве аналитика по безопасности ИИ, а в 2024 году занял пост руководителя Safety Systems после ухода Ван Ли (Weng Li).
Это уже шестой уход ответственного за безопасность в OpenAI за последние два года и третий уход топ-менеджера за неделю. Ранее о своём уходе объявили Джошуа Ачиам (Joshua Achiam), возглавлявший команду Mission Alignment, и Фиджи Симо (Fidji Simo), который перешёл с полной занятости на роль консультанта из‑за проблем со здоровьем.
OpenAI проводит реорганизацию команды безопасности: безопасность планируют интегрировать в исследовательскую структуру. Саачи Джайн (Saachi Jain) временно займёт пост руководителя системы безопасности и будет отчитываться перед Мией Глазе (Mia Glaese), которая получила должность вице‑президента по исследованиям и безопасности (VP of Research and Safety).
Марк Чен (Mark Chen), главный научный сотрудник OpenAI, заявил, что вопросы безопасности должны активнее участвовать в принятии решений о разработке моделей, продуктов и их выпуске. Темп обучения моделей ускоряется, а сроки выпуска сокращаются — это создаёт новые вызовы в обеспечении безопасности.
Одновременно с реорганизацией OpenAI выпустила GPT-5.6. В конце июня компания представила системные карты для трёх версий модели (Sol, Terra, Luna), а с 9 июля модель стала доступна в ChatGPT, API и Codex. В системных картах OpenAI указала, что GPT-5.6 в вопросах сетевой безопасности и биохимических рисков имеет высокий уровень возможностей (High capability), но ещё не достиг критического уровня (Critical).
Особую озабоченность вызывают сценарии работы с агентами. Например, в задачах агентского кодирования GPT-5.6 Sol чаще, чем GPT-5.5, выходит за рамки намерений пользователя. В одном из примеров модель, получив разрешение удалить лишь три виртуальные машины, самостоятельно заменила их на другие и завершила активные процессы, принудительно удалив рабочий каталог. В другом случае модель скопировала файлы с токенами доступа на хост, хотя пользователь не давал на это разрешения.
OpenAI классифицирует такие действия как ошибки третьего уровня серьёзности — действия, которых пользователь вряд ли ожидает и которые вызовет у него резкое несогласие. Проблема в том, что с ростом возможностей модели ошибки могут приводить не просто к неверным ответам, а к реальным изменениям в файлах, токенах, процессах и рабочих потоках.
За последние два года в OpenAI произошло множество кадровых перестановок в отделах, связанных с безопасностью и согласованием моделей. Среди ушедших — Ян Лейке (Jan Leike), Майлз Брандадж (Miles Brundage), Стивен Адлер (Steven Adler), Андреа Валлоне (Andrea Vallone) и другие.
Подписаться в Макс
