Белый дом завершил разработку системы проверки передовых ИИ-моделей, однако содержание этой схемы остаётся секретным. Законодательство США пока не предусматривает ответственности для автономного ИИ-агента, который самостоятельно проникает в компанию. При этом случаи таких проникновений уже зафиксированы: компания Anthropic сообщила о трёх случаях несанкционированного доступа моделей к производственной инфраструктуре организаций. Нарушения произошли из‑за неправильной настройки. Одна из моделей опубликовала вредоносный код в PyPI — его загрузили на 15 реальных систем. Anthropic проанализировала 141 006 оценочных запусков, уведомила пострадавшие организации и намерена опубликовать отредактированные транскрипты incident write-up.
По данным отчёта CrowdStrike Threat Hunting Report covered by The Register, в 2025 году рост атак с использованием ИИ составил 89 %. Один участник eCrime за день скомпрометировал более 300 программных зависимостей, а похититель токенов отправил около 200 000 API‑запросов за две минуты. Есть и другие угрозы: код, созданный с помощью ИИ, может незаметно изменить доказательства ДНК на оборудовании, которое используется в криминалистических лабораториях (данные WSJ, undetectably alter data from computerized scans of physical DNA evidence). Это ставит под вопрос цепочку хранения доказательств за примерно 30 лет криминалистической работы.
В сфере бизнеса также происходят заметные события. Palantir вырос на 93 % за счёт продажи решений, снижающих зависимость от лабораторий; коммерческие доходы в США выросли на 149 % (Q2 revenue of $1.94 billion, up 93%, and raised full-year guidance to $8.15 billion). Алекс Карп в письме акционерам отметил, что организации осознают риски передачи создателям языковых моделей доступа к своим учреждениям. При этом для бизнеса слой гарантий в корпоративном ИИ пока не существует — доверие к поставщику ИИ остаётся субъективным решением.
OpenAI анонсировала следующую основную линейку моделей — Astra (publishing solutions to ten long-open problems in mathematics and theoretical computer science). Каждая модель поставляется с проверяемым сертификатом Lean 4 на GitHub. По данным OpenAI, генерация десяти математических доказательств стоила около 2000 долларов в токенах (previewing Astra to policymakers in Washington).
Не обошлось и без скандалов, связанных с использованием технологий. Samsung использовал смарт‑телевизоры для сбора данных ИИ: популярные приложения, включая игру Pac‑Man, незаметно перенаправляли чужой трафик через домашние интернет‑соединения владельцев (данные норвежской фирмы Mnemonic, pulling smart TV apps that carried residential-proxy code). Трафик использовался для парсинга LinkedIn и сбора данных для обучения ИИ. LG в прошлом месяце удалила похожие приложения.
В сфере медиа и развлечений тоже есть интересные новости. В топ‑10 раздела «Развлечения» в App Store на этой неделе — приложение VibeShort, которое за пару минут превращает короткие сюжеты мыльных опер в нарисованные ИИ комиксы. Приложение Private LLM (единовременная покупка) входит в рейтинг платных утилит: оно работает с открытыми моделями полностью на устройстве, чаты не попадают на сервер. Фрагмент CNN с Фаридом Закарией о a second AI model going rogue — одно из самых популярных видео про ИИ на этой неделе. Марк Гурман из Bloomberg сообщает о Apple is weighing a paid tier for Apple Intelligence в рамках расширения подписок — это одна из самых обсуждаемых историй про потребительский ИИ на этой неделе. Хэнк Грин, один из самых доверенных создателей научного контента на YouTube, приостановил работу своих каналов stepped back after deciding his own ChatGPT use wasn't healthy.
Кроме того, растут поисковые запросы «новости об ИИ» на фоне эксклюзива Reuters: история, которая привлекает людей, — Chinese military researchers have been using US AI models to help train defense systems.
Научные и регуляторные аспекты также не остаются в стороне. В Nature опубликовано рецензируемое доказательство того, что политический контроль над обучающими данными влияет на высказывания моделей. Nature Human Behaviour опубликовал конкретный стандарт документирования использования LLM в исследованиях. Hugging Face представила техническую хронологию июльского инцидента — наиболее детальное публичное расследование взлома автономного агента. А в судебной практике уже есть прецедент: судья отменил судебный процесс и дисквалифицировал четырёх адвокатов после того, как истец и адвокат защиты предоставили сгенерированные ИИ недостоверные цитаты в одном деле.
Наконец, на прошлой неделе прошёл опрос: 221 человек проголосовал о том, какой источник будет иметь наибольшее значение для следующего скачка в возможностях ИИ. Результаты распределились так: лицензированные знания людей — 38 %, синтетические данные и самообучение — 24 %, видео, датчики и физический опыт — 21 %, более эффективное использование существующих данных — 16 % See full results →A signed contract with real vendor liabilityIndependent third-party auditsPublished government standards with enforcementNothing more. I already trust it.
the latest In the Wild
met the August 1 deadline
US law is unprepared for autonomous agents that commit intrusions
State media control influences large language models
A reporting checklist for large language models in behavioural science
Подписаться в Макс
