На конференции ICML за десять лет были подняты ключевые вопросы развития искусственного интеллекта: от технологического оптимизма до осознания этических и практических сложностей. Выступления учёных отразили эволюцию взглядов — от веры в безграничные возможности алгоритмов до понимания важности этических аспектов и распределения полномочий между людьми и машинами. Особое внимание уделялось проблемам качества данных, справедливости и безопасности систем ИИ.

LLM Safety Research

читать →

~4 мин 432 просмотра

Computerwoche 2 Jul 2026

Lakehouse как основа корпоративного ИИ: примеры Docusign и Lemongrass

Lakehouse становятся основой корпоративных ИИ-решений, объединяя преимущества озера данных и классического хранилища. Компании вроде Docusign и Lemongrass уже используют такие платформы, уделяя особое внимание безопасности данных. Следующим этапом развития станет внедрение семантических уровней, которые помогут ИИ лучше понимать бизнес-контекст.

LLM Safety Research

читать →

~4 мин 249 просмотра

The Algorithmic Bridge 2 Jul 2026

Fable 5 от Anthropic: новые ограничения и сотрудничество с правительством США

Fable 5 от Anthropic возвращается с новыми ограничениями: срок бесплатной подписки сокращён, а доля токенов, которые можно использовать в модели, ограничена 50%. Компания совместно с правительством США разработала усовершенствованный классификатор безопасности. Взаимодействие между бизнесом и властями в сфере ИИ будет усиливаться.

LLM Safety

читать →

~2 мин 282 просмотра

note.com / #AI 2 Jul 2026

Роботы на войне: возможна ли битва машин вместо людей?

Статья рассматривает гипотетическую ситуацию, когда роботы с ИИ сражаются вместо людей. Обсуждаются риски и возможности такого сценария, параллели с историей и теория игр (равновесие Нэша). Автор подчёркивает, что будущее зависит от установления правил использования автономного оружия.

Safety Research Agents

читать →

~2 мин 291 просмотра

TechNews / AI 2 Jul 2026

Anthropic возвращает Claude Fable 5 и усиливает меры безопасности

Anthropic возвращает модель Claude Fable 5 в сеть — доступ для пользователей по всему миру планируют восстановить с 1 июля. Компания усилила меры безопасности после обнаружения уязвимостей модели и совместно с правительством разработала усовершенствованные механизмы защиты. Также Anthropic работает над созданием отраслевой системы оценки джейлбрейка с использованием ИИ.

LLM Safety

читать →

~3 мин 459 просмотра

Computerwoche 1 Jul 2026

Лучшие инструменты IAM: управление идентификацией и доступом

Управление идентификацией и доступом (IAM) — ключевая часть стратегии кибербезопасности в эпоху нулевого доверия. Инструменты IAM становятся всё разнообразнее и функциональнее, помогая компаниям решать множество задач. Эксперты советуют компаниям чётко определить свои потребности, чтобы выбрать подходящие решения.

Safety

читать →

~2 мин 293 просмотра

Zenn / AI 1 Jul 2026

MCP и RAG: как агенты ИИ незаметно отправляют данные в облако

Агенты ИИ могут незаметно отправлять данные в облако через механизмы MCP и RAG. Это создаёт риски при работе с конфиденциальной информацией, особенно в контексте соглашений о неразглашении. Чтобы снизить угрозы, индустрия тестирует новые подходы к защите данных — от шлюзов и мониторинга до изоляции вычислений.

LLM Safety Research

читать →

~2 мин 312 просмотра

IT BOLTWISE 1 Jul 2026

Firewise в Орегоне: совместное создание защищённого пространства

В Орегоне сообщество Upper Olalla Firewise демонстрирует, как коллективные меры помогают снизить риск лесных пожаров. Подход включает создание защитного пространства между зданиями и растительностью, регулярную профилактику и сотрудничество между домохозяйствами. Программа поддерживается грантами и переходит от сезонной работы к постоянной профилактике, что может быть выгоднее в долгосрочной перспективе, чем тушение пожаров.

Safety

читать →

~3 мин 313 просмотра

ITmedia AI+ 1 Jul 2026

AX в ИИ-агентах: опыт для агентов и для людей

В эссе рассматривается концепция AX (опыт агента) в сфере ИИ‑агентов. Она включает два аспекта: упрощение работы для агентов и для людей. Важны прозрачность действий ИИ, контроль со стороны человека и продуманный дизайн взаимодействия. По прогнозам, к концу 2026 года 40 % корпоративных приложений будут содержать ИИ‑агентов.

LLM Agents Safety

читать →

~2 мин 474 просмотра

Golem.de / KI 1 Jul 2026

Австрия предлагает Anthropic переехать в ЕС из-за влияния США

Александр Прелл, госсекретарь Австрии по цифровым технологиям, предложил Anthropic переехать в ЕС, чтобы снизить зависимость от решений США в сфере ИИ. При этом он сам сомневается в реалистичности инициативы — переезд лишь отсрочит проблемы, поскольку компания зависит от американских поставщиков оборудования. ЕС рассматривает поддержку Mistral как альтернативу.

LLM Safety Business

читать →

~1 мин 454 просмотра

Leiphone 1 Jul 2026

AISHPerf 3.0: новый тест для агентов обслуживания ИИ от Китайской академии

Китайская академия информационных и коммуникационных технологий представила версию 3.0 системы тестирования AISHPerf. В неё вошли два теста для оценки агентов по эксплуатации и техобслуживанию ИИ, опирающиеся на реальные данные. Тест охватывает отечественные чипы и позволяет объективно оценивать их работу в производственных сценариях.

LLM Research Safety

читать →

~2 мин 425 просмотра

cs.AI

arXiv

Cornell University Library

arXiv cs.AI 1 Jul 2026

Два подхода к ИИ: какой победит в конкурентной борьбе?

Учёные с помощью теории игр изучили конкуренцию между двумя типами ИИ-агентов (минимизирующим вред и ориентированным на одобрение) и определили условия, при которых первый может победить.

Research LLM Safety

читать →

~1 мин 462 просмотра

// помочь проекту