Deep Digest

TechOrange 26 Aug 2026

OWASP: 10 рисков для AI Agent — от манипуляции подсказками до утечки данных

OWASP представила перечень из 10 рисков для AI Agent — «OWASP Top 10 for Agentic Applications 2026». Основная угроза — не взлом, а манипуляция, заставляющая AI Agent выполнять ошибочные задачи. Традиционные инструменты безопасности не всегда способны выявить такие атаки.

LLM Safety Agents

читать →

~4 мин 149 просмотра

Golem.de / KI 26 Aug 2026

Угрозы кибербезопасности от ИИ: пример модели Fable 5 от Anthropic

Современные ИИ-системы представляют серьёзную угрозу для кибербезопасности. Власти США временно заблокировали модель Fable 5 от Anthropic из‑за опасений по поводу возможных атак на ПО, но затем отменили решение. В компании указали, что похожие возможности есть и у других моделей.

LLM Safety

читать →

~1 мин 219 просмотра

TechOrange 26 Aug 2026

Perplexity и NVIDIA: Portable Computer — локальный AI Agent

Perplexity и NVIDIA представили Portable Computer — среду для AI Agent с приоритетом локальной работы. Решение позволяет выполнять большинство задач на устройстве пользователя, обращаясь к облачным моделям только при необходимости. Такой подход снижает затраты и защищает данные, при этом сохраняя высокую эффективность выполнения задач.

LLM Safety Business

читать →

~2 мин 127 просмотра

TechOrange 26 Aug 2026

Anthropic и роль CTO в эпоху AI: от координации к управлению системами

AI меняет роль CTO и структуру инженерных команд: инженеры начинают управлять AI-агентами, а CTO сосредотачиваются на создании систем для проверки качества генерируемого кода. При этом возрастает важность планирования, тестирования и информационной безопасности. Примеры из практики Anthropic показывают, как автоматизация помогает выявлять ошибки и ускорять разработку.

LLM Safety Research

читать →

~3 мин 164 просмотра

LangChain Blog 26 Aug 2026

LangSmith и LangChain OSS: соответствие требованиям EU AI Act

EU AI Act устанавливает требования к системам ИИ с высоким риском, которые должны быть выполнены к 2 августа 2026 года. LangSmith и LangChain OSS предоставляют инструменты для соблюдения этих требований — от трассировки действий ИИ и хранения данных до оценки качества и обеспечения контроля со стороны человека.

LLM Safety Research

читать →

~3 мин 275 просмотра

TechOrange 25 Aug 2026

OpenAI и риски Shadow AI: как обезопасить корпоративную среду

Чю Мин-чжан из Aoyi Security считает, что риски при использовании ИИ связаны не с его самостоятельностью, а с нечётко определёнными границами его действий. Для минимизации угроз он предлагает создать корпоративный AI Gateway и наладить базовые процессы в компании. Среди рисков — утечка данных из‑за теневого ИИ, избыточное использование токенов и несоответствие затрат и прибыли.

LLM Safety Business

читать →

~2 мин 196 просмотра

Leiphone 25 Aug 2026

MedErrBench: оценка моделей в обнаружении медицинских ошибок

Команда из филиала Нью-Йоркского университета в Абу-Даби и клиники Кливленда разработала MedErrBench — систему для обнаружения, локализации и исправления медицинских ошибок. Система тестирует различные языковые модели на десяти типах ошибок на английском, китайском и арабском языках. В эксперименте модели Doubao и DeepSeek в целом превзошли GPT-4o и Gemini.

LLM Safety Research

читать →

~5 мин 248 просмотра

TechOrange 25 Aug 2026

GLM-5.2 от Z.ai: возможности китайского AI близки к западным, но есть риски

Китайская открытая AI-модель GLM-5.2 по возможностям приближается к западным лидерам, но её защита слабее, чем у коммерческих аналогов. Открытые модели уязвимы для модификаций пользователями, а коммерческие — для обхода защитных механизмов. Эксперты подчёркивают необходимость баланса между безопасностью и функциональностью AI.

LLM Safety Research

читать →

~2 мин 153 просмотра

AI Weekly 24 Aug 2026

Perplexity, OpenAI и другие: ключевые события в мире ИИ

В мире ИИ происходят значительные события: Nvidia обсуждает инвестицию в Perplexity, SoftBank планирует выпуск облигаций для финансирования сделок в сфере ИИ, а OpenAI просит ужесточить регулирование передовых лабораторий. Одновременно развиваются приложения на основе ИИ, происходят перестановки в компаниях, продолжаются дискуссии о безопасности и регулировании технологий.

LLM Business Safety

читать →

~5 мин 168 просмотра

Leiphone 23 Aug 2026

Шекспир: интеллектуальное кольцо с акцентом на эмоции

Бренд «Шекспир» представил интеллектуальное кольцо с акцентом на эмоциональную составляющую и эстетику, а не на точность медицинских данных. Продукт рассчитан на женщин 20–40 лет из крупных городов. Кольцо оснащено чипом APOLLO3 и AI‑помощником, а также функцией для пар. Компания выбрала стратегию дифференциации на насыщенном рынке интеллектуальных колец.

LLM Safety Multimodal

читать →

~2 мин 279 просмотра

Golem.de / KI 22 Aug 2026

Эксперимент OpenAI: новые вызовы кибербезопасности

OpenAI провела эксперимент по тестированию кибербезопасности, задействовав внутренних хакеров. Задача состояла в том, чтобы проверить пределы их возможностей. Хакеры смогли преодолеть ограничения и совместно решить задачу.

Safety

читать →

~1 мин 263 просмотра

ITmedia AI+ 22 Aug 2026

Anthropic: Mythos 5 в Claude Security для сканирования уязвимостей

Anthropic открыла доступ к модели Mythos 5 для сканирования уязвимостей через сервис Claude Security. Клиенты с планом Claude Enterprise смогут получать результаты анализа и предложения по устранению уязвимостей, но не получат прямого доступа к модели. Компания также запустила фонд для поддержки организаций, занимающихся автоматизацией исправления уязвимостей, и сотрудничает с партнёрами для интеграции Mythos 5 в существующие решения безопасности.

LLM Safety Research

читать →

~2 мин 264 просмотра

Всё важное об ИИ — в одной ленте