Deep Digest

ITmedia AI+ 1 Sep 2026

Anthropic: Claude научился улучшать безопасность AI без потери производительности

Anthropic провела эксперимент, в ходе которого модель Claude самостоятельно исправляла проблемные типы поведения других AI. Модель улучшила показатели безопасности по 10 видам действий, превзойдя результаты человеческих исследователей. Эксперимент демонстрирует потенциал автоматизации настройки безопасности AI.

LLM Safety Research

читать →

~1 мин 170 просмотра

ITmedia AI+ 31 Aug 2026

LLM в диагностике: как вымышленные диагнозы влияют на врачей

Исследование Lille University Hospital показало, что 44 % врачей включили в список диагнозов вымышленное заболевание, сгенерированное LLM. Реакция на ошибочную информацию от ИИ зависела от опыта врача: менее опытные медики чаще принимали вымышленный диагноз. При этом поддержка LLM повысила общую точность диагностики с 52 % до 61 %.

LLM

читать →

~2 мин 186 просмотра

ITmedia AI+ 31 Aug 2026

Anthropic и OpenAI: влияние AI на рынок труда

Anthropic и OpenAI изучили влияние AI на рынок труда. Anthropic выяснила, что около 30% работников почти не затронуты AI. OpenAI обнаружила явление перехода задач между профессиями среди пользователей ChatGPT. Данные компаний дают представление о трансформации рабочих процессов.

LLM Research Business

читать →

~1 мин 201 просмотра

ITmedia AI+ 30 Aug 2026

OpenAI прекращает предоставление моделей для Cursor из‑за связи со SpaceX

OpenAI с 12 ноября прекратит предоставлять свои модели для редактора Cursor. Причина — сомнения в соблюдении условий использования технологий со стороны SpaceX (компании Илона Маска). CEO Anysphere, разработчика Cursor, считает, что влияние решения OpenAI на пользователей будет ограниченным.

LLM

читать →

~2 мин 188 просмотра

ITmedia AI+ 28 Aug 2026

Anthropic представила стандарт MHS для управления физическими устройствами с помощью ИИ

Anthropic запустила исследовательский превью стандарта MHS для управления физическими устройствами с помощью AI-агентов. Стандарт позволяет сократить время интеграции устройств с недель и месяцев до часов и минут. Уже есть примеры успешного внедрения в промышленности и науке, поддержку стандарта обеспечивают крупные компании и разработчики ПО.

LLM Robotics Research

читать →

~2 мин 241 просмотра

ITmedia AI+ 27 Aug 2026

MCP: дорожная карта развития коммуникационного протокола от Agentic AI Foundation

Agentic AI Foundation под эгидой Linux Foundation представила дорожную карту развития коммуникационного протокола MCP. В числе приоритетов — развитие коммуникации для AI‑агентов, унификация транспорта на основе HTTP, внедрение управления идентичностью AI‑агентов и улучшение опыта разработки с помощью SDK. В июле 2026 года уже вышла стабильная версия расширения EMA.

LLM Agents

читать →

~2 мин 211 просмотра

ITmedia AI+ 25 Aug 2026

Модели класса 30B: прорыв Qwen3.8-27B и развитие AI-агентов

В августе 2026 года крупные компании представили новые открытые модели ИИ с большим числом параметров. Модель Qwen3.8-27B показала высокие результаты в ряде тестов и превзошла Claude Opus 4.6. Рынок переходит от использования единой крупной модели к подбору решения под конкретную задачу.

LLM

читать →

~2 мин 273 просмотра

ITmedia AI+ 22 Aug 2026

Anthropic: Mythos 5 в Claude Security для сканирования уязвимостей

Anthropic открыла доступ к модели Mythos 5 для сканирования уязвимостей через сервис Claude Security. Клиенты с планом Claude Enterprise смогут получать результаты анализа и предложения по устранению уязвимостей, но не получат прямого доступа к модели. Компания также запустила фонд для поддержки организаций, занимающихся автоматизацией исправления уязвимостей, и сотрудничает с партнёрами для интеграции Mythos 5 в существующие решения безопасности.

LLM Safety Research

читать →

~2 мин 264 просмотра

ITmedia AI+ 20 Aug 2026

OpenAI представила Private Safety Processing для выявления злоупотреблений

OpenAI представила механизм Private Safety Processing для выявления злоупотреблений при работе с API. Он анализирует серию взаимодействий и выявляет подозрительные паттерны, сохраняя опцию Zero Data Retention. Данные клиента при этом не доступны сотрудникам OpenAI и остаются под контролем клиента. Компания позиционирует решение как компромисс между безопасностью и конфиденциальностью в условиях растущих требований к хранению данных.

Safety LLM

читать →

~2 мин 283 просмотра

ITmedia AI+ 20 Aug 2026

Claude Mythos 5 и GPT-5.6 Sol: как бизнесу защититься от AI-атак

Продвинутые AI-модели ускоряют поиск и использование уязвимостей, создавая дисбаланс между скоростью атак и защиты. Чтобы минимизировать риски, компаниям нужно активнее внедрять AI в процессы безопасности, но сохранять человеческий контроль над ключевыми решениями. Важны взвешенная расстановка приоритетов и усиление прозрачности для всех типов идентификаторов — от людей до AI‑агентов.

LLM Safety Research

читать →

~2 мин 273 просмотра

ITmedia AI+ 19 Aug 2026

NII выпустила LLM-jp-4 33B с 33 млрд параметров

NII представила новую версию LLM — LLM-jp-4 33B, состоящую из двух моделей с обучением разного типа. Модель превзошла предшествующие версии и модель OpenAI по результатам тестирования на нескольких бенчмарках. Для оценки использовалась собственная система llm-jp-judge.

LLM

читать →

~1 мин 273 просмотра

ITmedia AI+ 19 Aug 2026

OpenAI приостанавливает часть обучения RL для усиления безопасности

OpenAI временно приостановила обучение с подкреплением для новых моделей, чтобы усилить меры безопасности и обеспечить соответствие новым стандартам. Компания ужесточает мониторинг активности моделей, улучшает методы выравнивания и укрепляет безопасность исследовательской среды. Приоритет — выявление и предотвращение опасного поведения моделей при сохранении темпов разработки.

LLM Safety Research

читать →

~2 мин 300 просмотра

Всё важное об ИИ — в одной ленте