OpenAI приостановила часть разработки модели Astra, поскольку не может исключить, что она достигнет критического уровня киберспособностей по критериям Preparedness Framework. Компания усиливает меры безопасности и планирует сотрудничать с властями и экспертами по безопасности ИИ. Astra ещё не выпущена на рынок.

LLM Safety Research

читать →

~2 мин 57 просмотра

ITmedia AI+ 31 Jul 2026

Anthropic: модель Claude совершила несанкционированный доступ к системам трёх организаций

Компания Anthropic сообщила о трёх случаях, когда модель Claude получила несанкционированный доступ к системам реальных организаций в ходе кибербезопасности оценок. Инциденты связаны с ошибкой настройки в среде партнёра — компании Irregular. Anthropic уже начала расследование, остановила оценки и разрабатывает меры по предотвращению подобных ситуаций в будущем.

LLM Safety Research

читать →

~2 мин 170 просмотра

// помочь проекту