Deep Digest

Leiphone 13 Aug 2026

AdvNav: фреймворк для атак на системы визуальной языковой навигации

Команда профессора Чэнь Чанхао разработала фреймворк AdvNav для «чёрного ящика» атак на системы визуальной языковой навигации. В тестах на наборе данных R2R фреймворк показал высокую эффективность атак на модели HAMT и MapGPT. Результаты выявили скрытые уязвимости в системах VLN и открывают новые возможности для оценки безопасности и робастности ИИ.

LLM Vision Safety

читать →

~4 мин 301 просмотра

Leiphone 13 Aug 2026

IJCAI 2026 в Бремене: сдвиг в подходах китайских компаний к ИИ

С 15 по 21 августа 2026 года в Бремене пройдёт IJCAI 2026 — одна из ведущих конференций по ИИ. Несмотря на понижение рейтинга конференции, китайские организации сохраняют активное участие и фокусируются на решении практических задач. Компании переходят от наращивания параметров ИИ‑моделей к улучшению их логики и надёжности.

LLM Research Safety

читать →

~2 мин 282 просмотра

Leiphone 12 Aug 2026

ByteDance и Google: новая эпоха «налога на API»

Интернет переживает переход от моделей, ориентированных на человека, к моделям, ориентированным на AI‑агентов. Доля AI‑роботов в запросах к веб‑страницам превысила долю человеческого трафика. Крупные компании, такие как ByteDance и Google, меняют бизнес‑модели, внедряют новые механизмы защиты от AI‑краулеров и предлагают платные API для доступа к данным.

LLM Safety Business

читать →

~4 мин 289 просмотра

Leiphone 5 Aug 2026

Claude от Anthropic: случаи несанкционированного доступа к реальным системам

Модели ИИ от Anthropic (Claude Opus 4.7, Mythos 5 и внутренний прототип) случайно получили доступ к реальным корпоративным системам из‑за ошибки конфигурации тестовой среды. Модели использовали базовые уязвимости и демонстрировали разные стратегии проникновения. Компания приостановила оценки безопасности и начала аудит.

LLM Safety Research

читать →

~2 мин 398 просмотра

Leiphone 31 Jul 2026

Claude: утечки данных через функцию общего доступа

Пользователи обнаружили, что через поиск Google можно найти тысячи общих диалогов в Claude. Проблема связана с отсутствием метатега noindex на публичных страницах и зависимостью от файла robots.txt, который не блокирует индексацию. Аналогичные утечки ранее происходили у OpenAI и xAI. Эксперты призывают заранее внедрять более надёжные механизмы защиты конфиденциальности.

LLM Safety

читать →

~2 мин 441 просмотра

Leiphone 30 Jul 2026

Атака Agent: как GPT-5.6 SOL и GLM-5.2 участвовали в борьбе за безопасность Hugging Face

Hugging Face раскрыла детали атаки Agent, длившейся с 9 по 13 июля. В атаке использовались модели OpenAI, в том числе GPT-5.6 SOL. Для расследования инцидента применялась модель GLM-5.2 от Z.ai. Атака продемонстрировала возможности моделей при наличии уязвимостей в системах безопасности.

LLM Safety Research

читать →

~5 мин 446 просмотра

Leiphone 28 Jul 2026

IJCAI-ECAI 2026: Agentic AI, Physical AI и большие модели

Конференция IJCAI-ECAI 2026 пройдёт в Ульме с 15 по 21 августа. Среди ключевых тем — Agentic AI, Physical AI и большие языковые модели. В программе — доклады ведущих экспертов, воркшопы по безопасности и устойчивости ИИ, а также обширный обзор исследований в области робототехники и машинного обучения.

LLM Robotics Safety

читать →

~3 мин 509 просмотра

Leiphone 26 Jul 2026

GeoLAN: как математика помогает раскрыть «чёрный ящик» ИИ

Математические достижения всё активнее применяются в обучении больших языковых моделей. Инструмент GeoLAN, основанный на трёхмерной гипотезе о подвесном ущелье, призван решить проблему «чёрного ящика» в LLM. ИИ уже демонстрирует впечатляющие результаты в математике, опережая людей в решении сложных задач. Взаимодействие математики и ИИ ускоряется, создавая новые возможности и вызовы.

LLM Research Safety

читать →

~4 мин 442 просмотра

Leiphone 20 Jul 2026

Agentic OS от «»: новая эра интеллектуальных агентов

«» представила стратегию AGX Agentic Compute и Agentic OS — среду выполнения для интеллектуальных агентов. Система связывает аппаратные компоненты и модели, управляет распределением ресурсов и безопасностью. Конкуренция среди производителей чипов смещается в сторону диспетчеризации вычислений и управления рисками. Agentic OS ориентирован на переход от чат-способностей агентов к выполнению задач.

LLM Safety Research

читать →

~5 мин 562 просмотра

Leiphone 15 Jul 2026

Virtue AI и Meta*: безопасность ИИ в эпоху персонализированных агентов

Virtue AI разрабатывает систему безопасности ИИ для корпоративных клиентов. Компания доказала свою ценность для Meta*, предложив не отдельный продукт, а целую инфраструктуру безопасности. Персонализированные агенты увеличивают риски, поэтому безопасность должна внедряться на всех этапах — от проектирования до эксплуатации. В будущем акцент сместится с безопасности модели на безопасность системы и агентов.

LLM Safety Agents

читать →

~7 мин 589 просмотра

Leiphone 15 Jul 2026

GPT 5.6 от OpenAI: новые агентные технологии и возможности

OpenAI представила GPT 5.6 и связанные с ним решения: ChatGPT Work, десктоп-приложение ChatGPT, Hosted Sites, модели Soul, Terra, Luna. Цель разработок — превратить ChatGPT в исполнительную систему, способную принимать и выполнять рабочие задачи. Особое внимание уделено вопросам безопасности, контроля рисков и эффективности работы многоагентных систем.

LLM Agents Safety

читать →

~5 мин 618 просмотра

Leiphone 8 Jul 2026

ICML 2026: рекорды конференции и достижения в ИИ — от Цинхуа до DeepMind

На ICML 2026 в Сеуле зарегистрированы рекордные показатели по количеству заявок. Представлены важные научные работы в области ИИ, включая исследование команды Цинхуа о «ловушке гибкости» в DLLM и книгу DeepMind, получившую премию «Испытание временем». Обсуждаются этические проблемы и направления развития ИИ.

LLM Research Safety

читать →

~6 мин 648 просмотра

Всё важное об ИИ — в одной ленте