Экосистема плагинов DeepSeek Harness сталкивается с проблемами безопасности, отсутствием регулирования и механизмов обнаружения плагинов. В ней насчитывается более 10 тыс. репозиториев и 1,1 тыс. плагинов, однако отсутствуют ключевые элементы, такие как каталог, система поиска и верификации. Выявлены серьёзные уязвимости в системе безопасности и конфликты между плагинами.

LLM Safety Research

читать →

~6 мин 152 просмотра

Leiphone 1 Sep 2026

OpenWorker от Уэнды: открытый агент для десктопа и его сложности

Уэнда и Rohit Prasad выпустили открытый десктоп-агент OpenWorker. Продукт объединяет маршрутизацию моделей, вызов инструментов, память, коннекторы и механизм проверки прав. Однако сообщество выявило ряд проблем: от совместимости разных моделей до сложностей с контролем данных и прав доступа. Проект остаётся тестовым, и его успех зависит от решения этих вопросов.

LLM Agents Safety

читать →

~4 мин 151 просмотра

Leiphone 1 Sep 2026

Экосистема плагинов DeepSeek Harness: проблемы безопасности и управления

Анализ экосистемы плагинов DeepSeek Harness выявил отсутствие механизмов управления и серьёзные угрозы безопасности. Многие плагины нерелевантны или не соответствуют стандартам, а установка плагинов может приводить к аннулированию кэша и конфликтам. Ответственность за безопасность ложится на пользователя.

LLM Safety Business

читать →

~6 мин 121 просмотра

ITmedia AI+ 1 Sep 2026

Anthropic: Claude научился улучшать безопасность AI без потери производительности

Anthropic провела эксперимент, в ходе которого модель Claude самостоятельно исправляла проблемные типы поведения других AI. Модель улучшила показатели безопасности по 10 видам действий, превзойдя результаты человеческих исследователей. Эксперимент демонстрирует потенциал автоматизации настройки безопасности AI.

LLM Safety Research

читать →

~1 мин 170 просмотра

TechOrange 31 Aug 2026

OpenAI и Cursor: изменения, фабрики HBM и кибератаки с ИИ

OpenAI прекратит предоставлять модели для Cursor с 12 ноября. SK Hynix строит в США фабрику по упаковке HBM с инвестициями более 40 млрд долларов. Более 100 организаций предупредили об усилении кибератак с использованием ИИ. Anthropic представила предварительный обзор стандарта Model Hardware Standard (MHS).

LLM Safety Research

читать →

~5 мин 130 просмотра

AI Weekly 30 Aug 2026

Подходы к использованию ИИ в образовании: опыт UChicago и Alpha School

Университет Чикаго ограничивает использование ИИ в обучении, в то время как Alpha School активно внедряет адаптивное ПО. Эксперты обращают внимание на проблемы безопасности и авторства в работах, сгенерированных ИИ. Компании и творческие студии разрабатывают правила использования ИИ. Отчёт MIT подчёркивает необходимость разных подходов к интеграции ИИ в зависимости от дисциплины.

LLM Research Safety

читать →

~5 мин 153 просмотра

TechOrange 29 Aug 2026

ИИ в финансах: рост прибыли и ключевые факторы внедрения

Согласно отчёту The 2026 Global AI in Financial Services Report, уровень внедрения ИИ в финансовой отрасли достигает 81%, но лишь 40% организаций добились роста прибыли. Среди ключевых факторов успеха — большой бюджет на ИИ, использование собственных моделей и работа в нишевых сценариях. Ожидается значительный рост внедрения автономных AI-агентов к 2030 году.

LLM Business Safety

читать →

~5 мин 176 просмотра

Leiphone 29 Aug 2026

Уязвимости в GPT и Claude: риск утечки скрытых рассуждений

Модели GPT, Claude и Gemini уязвимы к утечке скрытых рассуждений (reasoning). Исследователи смогли восстановить скрытое рассуждение в этих API, используя совместимые модели. Проблема связана с недостаточной жёсткостью привязки контекста и кросс-модельной совместимостью. Утечка рассуждений несёт риски для безопасности данных и может разрушить монополию крупных компаний на данные о рассуждениях.

LLM Safety Research

читать →

~4 мин 250 просмотра

TechOrange 28 Aug 2026

Как добиться доверия к AI Agent: подход CYBERBIZ

Многие компании запускают AI-инструменты, но сотрудники продолжают работать по-старому из‑за недоверия к системе. Чтобы добиться принятия AI Agent, нужно начинать с низкорисковых задач с чёткими правилами и возможностью отката ошибок. Ключевой фактор — накопление доверия через небольшие успешные внедрения и анализ реальных данных использования.

LLM Business Safety

читать →

~2 мин 176 просмотра

TechOrange 28 Aug 2026

OpenAI, Anthropic и другие предупреждают: AI упрощает кибератаки

Более ста крупных компаний предупредили о том, что развитие ИИ снижает порог для сложных кибератак. В совместном письме предложены меры по усилению киберзащиты для предприятий, ИТ‑компаний и правительств. Угроза становится особенно актуальной на фоне новых атак на критическую инфраструктуру.

LLM Safety Research

читать →

~2 мин 185 просмотра

TechNews / AI 28 Aug 2026

AI в прогнозировании тайфунов: точность растёт, роль метеорологов меняется

Искусственный интеллект повышает точность прогнозирования путей тайфунов — в некоторых случаях опережает традиционные модели. ECMWF с 2025 года внедрит систему AI-прогнозов AIFS, точность которой может быть на 20 % выше традиционных методов. Однако AI пока не способен полностью заменить физические модели, поэтому наиболее вероятный сценарий — их совместное использование, а роль метеорологов может сместиться в сторону оценки рисков и интерпретации прогнозов.

LLM Research Safety

читать →

~2 мин 254 просмотра

Google DeepMind 27 Aug 2026

Google и партнёры проводят первые двойные слепые оценки ИИ-модели Gemini Flash Lite

Google совместно с партнёрами запустил первые двойные слепые оценки модели Gemini Flash Lite. Метод позволяет избежать искажения результатов из‑за предварительного знакомства модели с тестовыми заданиями. За счёт криптографической защиты данные оценщиков и параметры модели остаются конфиденциальными. Инициатива призвана повысить доверие к бенчмаркам ИИ.

LLM Safety Research

читать →

~1 мин 363 просмотра

// помочь проекту