Deep Digest

ITmedia AI+ 22 Oct 2026

Claude от Anthropic помогает сократить атакующие поверхности ПО, включая OpenSSH

Anthropic использовала модель Claude для анализа и сокращения атакующих поверхностей в ПО. В ходе исследования, охватившего 25 открытых проектов, обнаружено 493 проблемы безопасности. Значимым результатом стала оптимизация OpenSSH: в версии 10.6 сокращён доступ к коду до аутентификации.

LLM Safety Research

читать →

~2 мин 99 просмотра

ITmedia AI+ 17 Oct 2026

Anthropic и METR: новый уровень оценки рисков в сфере ИИ

Anthropic предоставила METR доступ к своим системам на уровне сотрудников. METR планирует публиковать анализ рисков и инцидентов, связанных с деятельностью компании. CEO OpenAI поддержал идею оценки рисков и заявил о намерении реализовать аналогичные меры.

LLM Safety Research

читать →

~2 мин 152 просмотра

ITmedia AI+ 3 Sep 2026

Anthropic представила EFS для защиты корпоративных клиентов

Anthropic запустила механизм EFS для корпоративных клиентов: он обеспечивает конфиденциальность на уровне ZDR и позволяет выявлять неправомерное использование системы. Данные для мониторинга хранятся в облаке клиента, а уведомления о угрозах поступают его команде безопасности. Решение разрабатывалось совместно с более чем 100 компаниями.

LLM Safety Business

читать →

~2 мин 133 просмотра

ITmedia AI+ 1 Sep 2026

Anthropic: Claude научился улучшать безопасность AI без потери производительности

Anthropic провела эксперимент, в ходе которого модель Claude самостоятельно исправляла проблемные типы поведения других AI. Модель улучшила показатели безопасности по 10 видам действий, превзойдя результаты человеческих исследователей. Эксперимент демонстрирует потенциал автоматизации настройки безопасности AI.

LLM Safety Research

читать →

~1 мин 170 просмотра

ITmedia AI+ 22 Aug 2026

Anthropic: Mythos 5 в Claude Security для сканирования уязвимостей

Anthropic открыла доступ к модели Mythos 5 для сканирования уязвимостей через сервис Claude Security. Клиенты с планом Claude Enterprise смогут получать результаты анализа и предложения по устранению уязвимостей, но не получат прямого доступа к модели. Компания также запустила фонд для поддержки организаций, занимающихся автоматизацией исправления уязвимостей, и сотрудничает с партнёрами для интеграции Mythos 5 в существующие решения безопасности.

LLM Safety Research

читать →

~2 мин 264 просмотра

ITmedia AI+ 20 Aug 2026

OpenAI представила Private Safety Processing для выявления злоупотреблений

OpenAI представила механизм Private Safety Processing для выявления злоупотреблений при работе с API. Он анализирует серию взаимодействий и выявляет подозрительные паттерны, сохраняя опцию Zero Data Retention. Данные клиента при этом не доступны сотрудникам OpenAI и остаются под контролем клиента. Компания позиционирует решение как компромисс между безопасностью и конфиденциальностью в условиях растущих требований к хранению данных.

Safety LLM

читать →

~2 мин 283 просмотра

ITmedia AI+ 20 Aug 2026

Claude Mythos 5 и GPT-5.6 Sol: как бизнесу защититься от AI-атак

Продвинутые AI-модели ускоряют поиск и использование уязвимостей, создавая дисбаланс между скоростью атак и защиты. Чтобы минимизировать риски, компаниям нужно активнее внедрять AI в процессы безопасности, но сохранять человеческий контроль над ключевыми решениями. Важны взвешенная расстановка приоритетов и усиление прозрачности для всех типов идентификаторов — от людей до AI‑агентов.

LLM Safety Research

читать →

~2 мин 273 просмотра

ITmedia AI+ 19 Aug 2026

OpenAI приостанавливает часть обучения RL для усиления безопасности

OpenAI временно приостановила обучение с подкреплением для новых моделей, чтобы усилить меры безопасности и обеспечить соответствие новым стандартам. Компания ужесточает мониторинг активности моделей, улучшает методы выравнивания и укрепляет безопасность исследовательской среды. Приоритет — выявление и предотвращение опасного поведения моделей при сохранении темпов разработки.

LLM Safety Research

читать →

~2 мин 300 просмотра

ITmedia AI+ 11 Aug 2026

OpenAI расширяет систему Daybreak и представляет GPT-5.6-Cyber

OpenAI расширила систему кибербезопасности Daybreak, введя два уровня доступа — Daybreak Blue и Daybreak Red. Компания представила модель GPT-5.6-Cyber, которая показала высокую эффективность в решении задач по кибербезопасности. Модель уже обнаружила несколько уязвимостей, в том числе в движке V8 Chrome.

LLM Safety Research

читать →

~2 мин 383 просмотра

ITmedia AI+ 8 Aug 2026

Anthropic ослабила ограничения в Claude Fable 5 в сфере биологии

Anthropic ослабила биологические ограничения в модели Claude Fable 5, снизив количество ошибочных срабатываний защитных механизмов примерно на 85 %. Это упростит использование модели для образовательных и медицинских целей. Однако для профессиональных биологических исследований и разработки лекарств модель пока не подходит.

LLM Safety

читать →

~2 мин 365 просмотра

ITmedia AI+ 8 Aug 2026

OpenAI приостановила часть разработки модели Astra из‑за рисков кибербезопасности

OpenAI приостановила часть разработки модели Astra, поскольку не может исключить, что она достигнет критического уровня киберспособностей по критериям Preparedness Framework. Компания усиливает меры безопасности и планирует сотрудничать с властями и экспертами по безопасности ИИ. Astra ещё не выпущена на рынок.

LLM Safety Research

читать →

~2 мин 387 просмотра

ITmedia AI+ 31 Jul 2026

Google представил Gemini Robotics 2 для управления роботами

Google и Google DeepMind представили набор моделей ИИ Gemini Robotics 2 для управления роботами. Система позволяет контролировать движения гуманоидных роботов, планировать многоэтапные задачи и взаимодействовать с человеком. Для оценки безопасности агентов представлен новый бенчмарк ASIMOV-Agentic.

LLM Robotics Safety

читать →

~2 мин 441 просмотра

Всё важное об ИИ — в одной ленте