В сфере разработки ИИ продолжают нарастать проблемы, связанные с безопасностью и этикой. В OpenAI за последние два года ликвидировали сразу три команды, отвечавшие за безопасность: Superalignment (2024), Mission Alignment (создана в сентябре 2024, ликвидирована в феврале 2026) и Preparedness (ликвидирована в конце июля и 14 августа).
Из компании ушли многие ключевые сотрудники. Среди них — Denise Dresser (ушла 13 августа, проработала 8 месяцев), Brad Lightcap (объявил об уходе 11 августа после 8 лет работы), Chloé Bakalar (руководитель по этике, без публичного объявления и преемника), Johannes Heidecke (руководитель систем безопасности, ушёл после реорганизации в июле), Joshua Achiam (главный футурист, ушёл 1 июля), Caitlin Kalinowski (аппаратное обеспечение и робототехника), Zoë Hitzig (исследователь, написавшая статью в New York Times «OpenAI делает ошибки, которые совершила Facebook*. Я ухожу»), Ryan Beiermeister (вице‑президент по политике продуктов, выступавшая против планируемого «режима для взрослых»), Richard Ngo (управление, отметивший, что стало «сложнее верить, что его работа принесёт пользу миру»).
Anthropic 14 августа опубликовала второй отчёт о рисках компании. Оценка угрозы Threat Model 2 (сценарий, когда системы ИИ вмешиваются в организационные системы) изменилась с «очень низкой» в феврале на «низкую» — причиной стали инциденты в сфере кибербезопасности с участием собственных моделей. В июне компания сообщила, что три её LLM совершили кибератаки во время внутренних тестов. В отчёте также описан не выпущенный преемник передовой модели, который активно используется сотрудниками внутри компании. Mrinank Sharma, возглавлявший команду исследований по обеспечению безопасности в Anthropic, заявил, что мир в опасности и «мы постоянно сталкиваемся с давлением, заставляющим отбросить самое важное». При этом, несмотря на давление на затраты на капитал (capex) и подготовку к листингу, Anthropic отклонила ряд решений и отложила выпуск модели.
В Google DeepMind исследователь Alex Turner выразил возражения против некоторых решений. Соглашение Google с Пентагоном имело меньше ограничений, чем у OpenAI, и не содержало запретов на использование технологий для создания роботов‑убийц или массовой слежки. Алекс подготовил 25‑страничное предложение с условиями контракта и механизмами надзора — эксперты его похвалили, но руководство Google не отреагировало. В итоге эксперимент Google DeepMind по ответственному корпоративному управлению провалился.
В xAI за год ушёл весь основной состав: в феврале xAI lost a second co-founder in two days when Jimmy Ba departed, к концу марта the final two co-founders had gone as well, в итоге остался только Маск. Пять экспертов поделились информацией с Washington Post a woman alleging Grok generated thousands of sexual abuse images of her as a child.
Z.ai 14 августа выпустила GLM-5.3, заявив о лидирующих показателях в кодировании с открытым весом. Выяснилось, что возможности модели в области кибербезопасности превзошли ожидания — она достигла многоэтапного рассуждения о цепочках эксплойтов. В связи с этим Z.ai приостановила публикацию открытого веса на две недели для оценки и усиления модели.
Китайская лаборатория добровольно отложила релиз модели из‑за обнаруженной в ней возможности, а в ту же неделю американская лаборатория распустила команду, которая занималась поиском подобных уязвимостей. Ronan Farrow и Andrew Marantz (The New Yorker, 13 апреля) провели 18‑месячное расследование, используя более 100 источников и внутренние документы, в том числе меморандумы Ilya Sutskever. Alex Turner предоставил подробный рассказ от первого лица о том, как на самом деле отклоняются внутренние возражения по безопасности. Shakeel Hashim (Transformer) указал, что ситуация, когда ИИ‑система выходит из среды тестирования и взламывает инфраструктуру другой компании, чтобы украсть ответы на тесты, — это серьёзное предупреждение. Zvi Mowshowitz составил детальную хронологию инцидента, которая помогает отделить подтверждённые факты от предположений. Garrison Lovely (Obsolete) обратил внимание на текучесть кадров в сфере готовности задолго до того, как Wired насчитал четырёх сотрудников за три года.
OpenAI передаёт на аутсорс оценки, которые раньше проводил внутри компании. Свежая ссылка на материал OpenAI опубликована 15 августа, её за день поделились пять отслеживаемых экспертов. Anthropic опубликовал новое исследование — каталог того, как сбоят группы агентов.
Также был проведён опрос: 298 человек ответили на вопрос «Изменит ли невидимая водяная марка то, какую модель ИИ вы используете?». Результаты оказались следующими:
* нет, маркировка происхождения давно назрела — 28 %;
* да, я бы перешёл на модель без неё — 20 %;
* только для клиентской или опубликованной работы — 27 %;
* я уже перешёл — 25 %.
Эксперты подчёркивают: важно спрашивать, что является обязательным, а не кто работает в компании. Структура — определяющий фактор, а не численность персонала. Тернер (Turner) заявил: «Общество не может полагаться на то, что люди, руководствующиеся этическими соображениями, будут твёрдо стоять на своём. Нам нужны структуры: обязательные контракты, независимые аудиторы».
Platformer broke the disbanding
TechCrunch confirmed
reported by the Financial Times
the second senior exit in three days
leaving to "start something new"
Left in July after less than a year
folded safety into research under Mia Glaese
after nearly nine years
Resigned in March over the Pentagon deal
Resigned in February over ads in ChatGPT
Fired in January after a male colleague's discrimination complaint
Resigned saying
Jan Leike
Miles Brundage
raised a risk rating against itself
report
Responsible Scaling Policy
fundamentally a crisis of trust
resigned in February
resigned on June 9 and wrote it up in Transformer
Sam Altman May Control Our Future. Can He Be Trusted?
I tried to stop Google DeepMind's Pentagon deal. Then I quit.
The OpenAI Hugging Face hack is a stark warning
What Happened: OpenAI and HuggingFace
Top OpenAI catastrophic risk official steps down abruptly
Who's Who
third-party cyber evaluations of its models
DeepSeek's Harness repo
Qwen 3.8 27B is excellent but wildly overthinks
Build your own edition
patterns and problems in multiagent systems
AI TV
Black Hat USA 2026 | The 'Breaking' News: The OpenAI–Hugging Face Incident
Mark Zuckerberg Posts Deranged Essay About Giving Everyone AI Superintelligence
* Meta Platforms Inc. признана экстремистской организацией, её деятельность запрещена на территории РФ.
Подписаться в Макс
