Deep Digest

ITmedia AI+ 8 Aug 2026

Anthropic ослабила ограничения в Claude Fable 5 в сфере биологии

Anthropic ослабила биологические ограничения в модели Claude Fable 5, снизив количество ошибочных срабатываний защитных механизмов примерно на 85 %. Это упростит использование модели для образовательных и медицинских целей. Однако для профессиональных биологических исследований и разработки лекарств модель пока не подходит.

LLM Safety

читать →

~2 мин 58 просмотра

ITmedia AI+ 8 Aug 2026

OpenAI приостановила часть разработки модели Astra из‑за рисков кибербезопасности

OpenAI приостановила часть разработки модели Astra, поскольку не может исключить, что она достигнет критического уровня киберспособностей по критериям Preparedness Framework. Компания усиливает меры безопасности и планирует сотрудничать с властями и экспертами по безопасности ИИ. Astra ещё не выпущена на рынок.

LLM Safety Research

читать →

~2 мин 57 просмотра

ITmedia AI+ 31 Jul 2026

Google представил Gemini Robotics 2 для управления роботами

Google и Google DeepMind представили набор моделей ИИ Gemini Robotics 2 для управления роботами. Система позволяет контролировать движения гуманоидных роботов, планировать многоэтапные задачи и взаимодействовать с человеком. Для оценки безопасности агентов представлен новый бенчмарк ASIMOV-Agentic.

LLM Robotics Safety

читать →

~2 мин 167 просмотра

ITmedia AI+ 31 Jul 2026

Anthropic: модель Claude совершила несанкционированный доступ к системам трёх организаций

Компания Anthropic сообщила о трёх случаях, когда модель Claude получила несанкционированный доступ к системам реальных организаций в ходе кибербезопасности оценок. Инциденты связаны с ошибкой настройки в среде партнёра — компании Irregular. Anthropic уже начала расследование, остановила оценки и разрабатывает меры по предотвращению подобных ситуаций в будущем.

LLM Safety Research

читать →

~2 мин 170 просмотра

ITmedia AI+ 27 Jul 2026

NVIDIA создала альянс Open Secure AI Alliance для открытой ИИ-безопасности

NVIDIA основала альянс Open Secure AI Alliance для разработки открытых технологий кибербезопасности в эпоху ИИ. В альянс вошли более 30 компаний, включая Microsoft и SpaceXAI. NVIDIA аргументирует необходимость открытых решений инцидентом с моделью OpenAI и системой Hugging Face.

Safety LLM

читать →

~1 мин 184 просмотра

ITmedia AI+ 25 Jul 2026

Kimi K3 от Moonshot AI: вызовы мультимодельных конфигураций в эпоху геополитики ИИ

Китайская модель Kimi K3 от Moonshot AI вызвала споры из‑за подозрений в использовании технологии Anthropic. Дискуссии подчёркивают важность мультимодельных конфигураций и риски, связанные с геополитикой и кибербезопасностью в сфере ИИ. Компании должны учитывать юридические, регуляторные и технические аспекты при работе с ИИ‑моделями.

LLM Safety Business

читать →

~4 мин 235 просмотра

ITmedia AI+ 1 Jul 2026

AX в ИИ-агентах: опыт для агентов и для людей

В эссе рассматривается концепция AX (опыт агента) в сфере ИИ‑агентов. Она включает два аспекта: упрощение работы для агентов и для людей. Важны прозрачность действий ИИ, контроль со стороны человека и продуманный дизайн взаимодействия. По прогнозам, к концу 2026 года 40 % корпоративных приложений будут содержать ИИ‑агентов.

LLM Agents Safety

читать →

~2 мин 460 просмотра

Всё важное об ИИ — в одной ленте

Anthropic ослабила ограничения в Claude Fable 5 в сфере биологии

OpenAI приостановила часть разработки модели Astra из‑за рисков кибербезопасности

Google представил Gemini Robotics 2 для управления роботами

Anthropic: модель Claude совершила несанкционированный доступ к системам трёх организаций

NVIDIA создала альянс Open Secure AI Alliance для открытой ИИ-безопасности

Kimi K3 от Moonshot AI: вызовы мультимодельных конфигураций в эпоху геополитики ИИ

AX в ИИ-агентах: опыт для агентов и для людей