Deep Digest

TechOrange 6 Jul 2026

JadePuffer: первая атака вымогателя с ИИ-агентом

Группа Sysdig обнаружила атаку JadePuffer — первую программу-вымогатель, управляемую ИИ‑агентом. Атака использует уязвимости в Langflow и Nacos, собирает конфиденциальные данные и шифрует настройки для шантажа. Эксперты рекомендуют усилить безопасность инфраструктуры ИИ.

LLM Safety Agents

читать →

~4 мин 225 просмотра

TechOrange 6 Jul 2026

ИИ в финансах: риски, прогнозы и регулирование — Citi, FCA, McKinsey

ИИ активно меняет финансовую индустрию — от повышения эффективности до борьбы с мошенничеством. Регуляторы, включая FCA, предупреждают о рисках использования ИИ в финансах и предлагают меры по их снижению. При этом технология может сделать финансовые услуги доступнее для более широкого круга людей.

LLM Safety Business

читать →

~3 мин 259 просмотра

TechOrange 6 Jul 2026

Codey от Mind Children: социальный робот для общения и помощи

Стартап Mind Children Robotics создаёт социального робота Codey для общения и помощи людям. Его планируют использовать в образовании, медицине и других сферах. Основной рынок — Южная Корея, в США робот сначала появится в отелях, музеях и галереях. При этом внедрение таких роботов вызывает вопросы с точки зрения этики и защиты данных.

LLM Agents Safety

читать →

~2 мин 242 просмотра

TechNews / AI 5 Jul 2026

ЮНИСЕФ: 20 млн детей используют ИИ, осваивая его в 3 раза быстрее взрослых

По данным ЮНИСЕФ, около 20 миллионов детей в 10 странах используют ИИ, осваивая его в три раза быстрее взрослых. Более 13 миллионов из них применяют ИИ для учёбы и домашних заданий. ЮНИСЕФ призывает власти и технологические компании усилить защиту детей в цифровой среде и провести дополнительные исследования влияния ИИ на их развитие.

LLM Safety Research

читать →

~2 мин 393 просмотра

Habr / Машинное обучение 4 Jul 2026

AI как новая поверхность атаки: реальные инциденты, мошенничество и уязвимости агентной эпохи

Статья рассматривает случаи атак на AI-системы и связанные с ними угрозы, включая мошенничество, утечки данных и уязвимости агентных систем, и классифицирует их по уровню нанесённого ущерба.

LLM Safety Agents

читать →

~19 мин 299 просмотра

cs.CL

arXiv

Cornell University Library

arXiv cs.CL 4 Jul 2026

ProvenanceGuard: новый способ защитить LLM-агентов от ошибок

Разработана система ProvenanceGuard для защиты LLM-агентов от несоответствий с запросами пользователя; тесты показали значительное снижение частоты ошибок.

LLM Safety Research

читать →

~1 мин 440 просмотра

Computerwoche 3 Jul 2026

Как выявить скомпрометированных агентов ИИ: признаки и методы

«Смертельная тройка» факторов делает агентов ИИ уязвимыми для атак. Практикам нужны новые способы отличить скомпрометированное поведение от нормального. Meta* предложила «Правило двух»: агенты должны иметь не более двух из трёх компонентов «смертельной тройки». Есть пять сигналов, которые могут помочь обнаружить скомпрометированные агенты ИИ.

LLM Safety

читать →

~4 мин 262 просмотра

TechNews / AI 3 Jul 2026

OpenAI и Anthropic: обсуждение доли прибыли и регулирования ИИ

OpenAI рассматривает возможность передачи 5% акций правительству США для распределения прибыли от ИИ. Financial Times и «Рейтер» сообщают о дискуссиях вокруг доли капитала в ИИ-индустрии. Белый дом усиливает надзор за передовыми моделями, а Министерство торговли сняло экспортные ограничения для некоторых моделей Anthropic.

LLM Business Safety

читать →

~2 мин 434 просмотра

Leiphone 3 Jul 2026

ICML 2026 в Сеуле: новые тренды в машинном обучении

С 6 по 11 июля в Сеуле пройдёт ICML 2026 — 43‑я Международная конференция по машинному обучению. Количество заявок на конференцию удвоилось, что говорит о качественных изменениях в исследованиях ИИ. Среди ключевых трендов — рассуждения о LLM, безопасность ИИ, оптимизация моделей и применение ИИ в науке.

LLM Research Safety

читать →

~3 мин 465 просмотра

Leiphone 2 Jul 2026

Отчёт об оценке безопасности языковых моделей: Пекин, 2026

В Пекине опубликовали первый в мире отчёт об оценке способности языковых моделей предотвращать угрозы безопасности. В исследовании проанализировали 38 моделей с помощью 313 вопросов высокого риска. Отчёт предлагает новые критерии оценки безопасности и рекомендации для управления рисками.

LLM Safety Research

читать →

~2 мин 461 просмотра

Computerwoche 2 Jul 2026

Visa: ИИ-агенты совершают покупки в цифровых кассах

Visa запустила пилотную программу Visa Agentic Ready — в её рамках ИИ-агенты совершили первые реальные покупки в Европе. В операции участвуют более 30 европейских банков и ряд торговых компаний. Для защиты транзакций используется протокол доверенных агентов (TAP) и платёжные ключи Visa Passkey.

LLM Agents Safety

читать →

~2 мин 270 просмотра

TechOrange 2 Jul 2026

UBTech представила робота-компаньона UWORLD U1: шаг к семейному использованию

UBTech представила робота-компаньона UWORLD U1, нацеленного на семейное использование. В отличие от большинства человекоподобных роботов, ориентированных на промышленность, U1 призван помогать одиноким людям. При этом остаются технические и этические вопросы, связанные с его применением в быту.

Robotics LLM Safety

читать →

~2 мин 260 просмотра

Всё важное об ИИ — в одной ленте