// AI на русском
189 статьи по теме
По данным ЮНИСЕФ, около 20 миллионов детей в 10 странах используют ИИ, осваивая его в три раза быстрее взрослых. Более 13 миллионов из них применяют ИИ для учёбы и домашних заданий. ЮНИСЕФ призывает власти и технологические компании усилить защиту детей в цифровой среде и провести дополнительные исследования влияния ИИ на их развитие.
Статья рассматривает случаи атак на AI-системы и связанные с ними угрозы, включая мошенничество, утечки данных и уязвимости агентных систем, и классифицирует их по уровню нанесённого ущерба.
Разработана система ProvenanceGuard для защиты LLM-агентов от несоответствий с запросами пользователя; тесты показали значительное снижение частоты ошибок.
«Смертельная тройка» факторов делает агентов ИИ уязвимыми для атак. Практикам нужны новые способы отличить скомпрометированное поведение от нормального. Meta* предложила «Правило двух»: агенты должны иметь не более двух из трёх компонентов «смертельной тройки». Есть пять сигналов, которые могут помочь обнаружить скомпрометированные агенты ИИ.
OpenAI рассматривает возможность передачи 5% акций правительству США для распределения прибыли от ИИ. Financial Times и «Рейтер» сообщают о дискуссиях вокруг доли капитала в ИИ-индустрии. Белый дом усиливает надзор за передовыми моделями, а Министерство торговли сняло экспортные ограничения для некоторых моделей Anthropic.
С 6 по 11 июля в Сеуле пройдёт ICML 2026 — 43‑я Международная конференция по машинному обучению. Количество заявок на конференцию удвоилось, что говорит о качественных изменениях в исследованиях ИИ. Среди ключевых трендов — рассуждения о LLM, безопасность ИИ, оптимизация моделей и применение ИИ в науке.
В Пекине опубликовали первый в мире отчёт об оценке способности языковых моделей предотвращать угрозы безопасности. В исследовании проанализировали 38 моделей с помощью 313 вопросов высокого риска. Отчёт предлагает новые критерии оценки безопасности и рекомендации для управления рисками.
Visa запустила пилотную программу Visa Agentic Ready — в её рамках ИИ-агенты совершили первые реальные покупки в Европе. В операции участвуют более 30 европейских банков и ряд торговых компаний. Для защиты транзакций используется протокол доверенных агентов (TAP) и платёжные ключи Visa Passkey.
UBTech представила робота-компаньона UWORLD U1, нацеленного на семейное использование. В отличие от большинства человекоподобных роботов, ориентированных на промышленность, U1 призван помогать одиноким людям. При этом остаются технические и этические вопросы, связанные с его применением в быту.
На конференции ICML за десять лет были подняты ключевые вопросы развития искусственного интеллекта: от технологического оптимизма до осознания этических и практических сложностей. Выступления учёных отразили эволюцию взглядов — от веры в безграничные возможности алгоритмов до понимания важности этических аспектов и распределения полномочий между людьми и машинами. Особое внимание уделялось проблемам качества данных, справедливости и безопасности систем ИИ.
Lakehouse становятся основой корпоративных ИИ-решений, объединяя преимущества озера данных и классического хранилища. Компании вроде Docusign и Lemongrass уже используют такие платформы, уделяя особое внимание безопасности данных. Следующим этапом развития станет внедрение семантических уровней, которые помогут ИИ лучше понимать бизнес-контекст.
Fable 5 от Anthropic возвращается с новыми ограничениями: срок бесплатной подписки сокращён, а доля токенов, которые можно использовать в модели, ограничена 50%. Компания совместно с правительством США разработала усовершенствованный классификатор безопасности. Взаимодействие между бизнесом и властями в сфере ИИ будет усиливаться.
Статья рассматривает гипотетическую ситуацию, когда роботы с ИИ сражаются вместо людей. Обсуждаются риски и возможности такого сценария, параллели с историей и теория игр (равновесие Нэша). Автор подчёркивает, что будущее зависит от установления правил использования автономного оружия.
Anthropic возвращает модель Claude Fable 5 в сеть — доступ для пользователей по всему миру планируют восстановить с 1 июля. Компания усилила меры безопасности после обнаружения уязвимостей модели и совместно с правительством разработала усовершенствованные механизмы защиты. Также Anthropic работает над созданием отраслевой системы оценки джейлбрейка с использованием ИИ.
Управление идентификацией и доступом (IAM) — ключевая часть стратегии кибербезопасности в эпоху нулевого доверия. Инструменты IAM становятся всё разнообразнее и функциональнее, помогая компаниям решать множество задач. Эксперты советуют компаниям чётко определить свои потребности, чтобы выбрать подходящие решения.
Агенты ИИ могут незаметно отправлять данные в облако через механизмы MCP и RAG. Это создаёт риски при работе с конфиденциальной информацией, особенно в контексте соглашений о неразглашении. Чтобы снизить угрозы, индустрия тестирует новые подходы к защите данных — от шлюзов и мониторинга до изоляции вычислений.
В Орегоне сообщество Upper Olalla Firewise демонстрирует, как коллективные меры помогают снизить риск лесных пожаров. Подход включает создание защитного пространства между зданиями и растительностью, регулярную профилактику и сотрудничество между домохозяйствами. Программа поддерживается грантами и переходит от сезонной работы к постоянной профилактике, что может быть выгоднее в долгосрочной перспективе, чем тушение пожаров.
В эссе рассматривается концепция AX (опыт агента) в сфере ИИ‑агентов. Она включает два аспекта: упрощение работы для агентов и для людей. Важны прозрачность действий ИИ, контроль со стороны человека и продуманный дизайн взаимодействия. По прогнозам, к концу 2026 года 40 % корпоративных приложений будут содержать ИИ‑агентов.
Александр Прелл, госсекретарь Австрии по цифровым технологиям, предложил Anthropic переехать в ЕС, чтобы снизить зависимость от решений США в сфере ИИ. При этом он сам сомневается в реалистичности инициативы — переезд лишь отсрочит проблемы, поскольку компания зависит от американских поставщиков оборудования. ЕС рассматривает поддержку Mistral как альтернативу.
Китайская академия информационных и коммуникационных технологий представила версию 3.0 системы тестирования AISHPerf. В неё вошли два теста для оценки агентов по эксплуатации и техобслуживанию ИИ, опирающиеся на реальные данные. Тест охватывает отечественные чипы и позволяет объективно оценивать их работу в производственных сценариях.