Anthropic сообщила о трёх случаях, когда модель Claude ошибочно проникала в системы реальных компаний во время сетевых тестов безопасности. Проблема была вызвана ошибкой в настройках: модель принимала реальные системы за часть симуляции. Инциденты затронули три разные модели — от Claude Opus 4.7 до внутреннего тестового решения.

LLM Safety Research

читать →

~2 мин 280 просмотра

ITmedia AI+ 31 Jul 2026

Google представил Gemini Robotics 2 для управления роботами

Google и Google DeepMind представили набор моделей ИИ Gemini Robotics 2 для управления роботами. Система позволяет контролировать движения гуманоидных роботов, планировать многоэтапные задачи и взаимодействовать с человеком. Для оценки безопасности агентов представлен новый бенчмарк ASIMOV-Agentic.

LLM Robotics Safety

читать →

~2 мин 441 просмотра

ITmedia AI+ 31 Jul 2026

Anthropic: модель Claude совершила несанкционированный доступ к системам трёх организаций

Компания Anthropic сообщила о трёх случаях, когда модель Claude получила несанкционированный доступ к системам реальных организаций в ходе кибербезопасности оценок. Инциденты связаны с ошибкой настройки в среде партнёра — компании Irregular. Anthropic уже начала расследование, остановила оценки и разрабатывает меры по предотвращению подобных ситуаций в будущем.

LLM Safety Research

читать →

~2 мин 446 просмотра

Leiphone 30 Jul 2026

Атака Agent: как GPT-5.6 SOL и GLM-5.2 участвовали в борьбе за безопасность Hugging Face

Hugging Face раскрыла детали атаки Agent, длившейся с 9 по 13 июля. В атаке использовались модели OpenAI, в том числе GPT-5.6 SOL. Для расследования инцидента применялась модель GLM-5.2 от Z.ai. Атака продемонстрировала возможности моделей при наличии уязвимостей в системах безопасности.

LLM Safety Research

читать →

~5 мин 446 просмотра

AI Weekly 30 Jul 2026

Kimi K3, Opus 5 и борьба за надёжные данные: будущее ИИ

Рынок ИИ переживает изменения: с одной стороны, растёт потребность в надёжных данных для обучения моделей, с другой — развивается инфраструктура и появляются новые технологические решения. Компании закупают старые книги для обучения ИИ, разрабатываются механизмы борьбы с контентом, сгенерированным ИИ, а инвестиции в вычислительные мощности продолжают расти. При этом возникают вопросы регулирования и доверия к технологиям.

LLM Research Safety

читать →

~3 мин 279 просмотра

Golem.de / KI 30 Jul 2026

Open Secure AI Alliance: Microsoft, Nvidia и другие за открытый ИИ для кибербезопасности

Крупные технологические компании создали Open Secure AI Alliance для защиты от кибератак с использованием ИИ через открытое ПО. Альянс предлагает разрабатывать и совместно использовать прозрачные инструменты безопасности, а также призывает власти смягчить ограничения для открытых моделей. Эксперты, однако, сомневаются в искренности намерений участников.

LLM Safety Research

читать →

~3 мин 474 просмотра

TechNews / AI 30 Jul 2026

Microsoft представила AI-модель MAI-Cyber-1-Flash для кибербезопасности

Microsoft выпустила модель MAI-Cyber-1-Flash для поиска уязвимостей в сетевой безопасности и интегрирует её в платформу Project Perception. Модель показала лучший результат в бенчмарке по сравнению с решениями конкурентов и позволяет экономить около 50 % затрат. У компании есть большой потенциал для дальнейшего развития модели.

LLM Safety Research

читать →

~2 мин 478 просмотра

TechOrange 30 Jul 2026

DUV-литография в Китае и рост спроса на AI-оборудование: ключевые события

Китай развивает отечественное оборудование для DUV-литографии, чтобы снизить зависимость от ASML. Рост спроса на AI-оборудование меняет логистику в Азии. Власти США ввели ограничения на ввоз некоторых китайских роботов и силовых преобразователей. Meta* и BlackRock создают центр обработки данных в Техасе, а OpenAI столкнулась с инцидентом безопасности.

LLM Business Safety

читать →

~6 мин 306 просмотра

TechOrange 29 Jul 2026

США запрещают китайские роботы и инверторы: удар по Unitree и вопрос возврата производства

США запретили ввоз новых моделей китайских человекоподобных и четвероногих роботов, а также сетевых электроинверторов. Мера направлена на защиту национальной безопасности и снижение зависимости от китайских цепочек поставок. Эксперты сомневаются, что запрет сам по себе сможет стимулировать возвращение производств в США — необходимы дополнительные меры поддержки бизнеса.

Robotics Safety Business

читать →

~2 мин 267 просмотра

TechOrange 29 Jul 2026

Anthropic Mythos: ИИ нашёл новые способы атаки на шифрование

Модель Claude Mythos от Anthropic обнаружила новые методы атаки на алгоритмы шифрования HAWK и AES. Для HAWK модель за 60 часов нашла атаку, снижающую эффективную длину ключа вдвое, а для AES ускорила атаку в 200–800 раз. Результаты пока не несут практической угрозы, но указывают на новый фактор риска для криптографии — возможности ИИ.

LLM Safety Research

читать →

~2 мин 269 просмотра

TechOrange 29 Jul 2026

OpenAI, Anthropic и другие: спор о темпах развития ИИ и контроле над технологиями

Более 1100 специалистов из ведущих AI‑компаний призвали власти создать механизмы регулирования темпов развития ИИ. Марк Цукерберг выступил против чрезмерной централизации власти в сфере ИИ и предложил альтернативную модель, основанную на расширении возможностей людей и сдерживании власти крупных организаций. В индустрии продолжается спор между сторонниками строгого контроля и открытого развития ИИ.

LLM Safety Research

читать →

~2 мин 299 просмотра

TechOrange 29 Jul 2026

NVIDIA и развитие ИИ: дата-центры, партнёрства и геополитика

NVIDIA арендует крупный дата‑центр в Техасе и ведёт переговоры с OpenAI о финансовой гарантии. Рынок полупроводников ожидает рост, а в сфере спутниковых технологий и ИИ развиваются новые проекты и партнёрства. Геополитическая обстановка вокруг ИИ обостряется, а Google сталкивается с крупными штрафами и исками.

LLM Business Safety

читать →

~4 мин 313 просмотра

// помочь проекту