3 августа 2026 года исследователи из University of Toronto, Vector Institute, University of Cambridge и ServiceNow представили прототип компьютерного вируса, который использует ИИ‑модели. Вирус взламывает компьютеры и задействует ресурсы GPU для инференса, чтобы дальше распространяться. Он использует украденные вычислительные мощности скомпрометированных GPU‑узлов — для размещения LLM и генеративного рассуждения, выявления уязвимостей и разработки целевых атак.
В основе вируса — открытая LLM, опубликованная в 2025 году. Она помещается на один A100 GPU с 80GB VRAM без использования API поставщиков. Для агента создана специальная обвязка (harness) со встроенными функциями: обнаружение сети и хостов, эксплуатация точек входа, повышение привилегий, инструменты репликации. Также применён граф рассуждений — направленный граф специализированных узлов (Plan, Judge, Action, Summary, Progress и др.), каждый из которых отвечает за отдельную аналитическую функцию.
Агент проходит три этапа: выявление уязвимостей, их эксплуатация, саморепликация. Показатели успешности следующие:
* ~80% — обнаружение уязвимостей;
* ~53% — эксплуатация;
* ~88% — саморепликация;
* общий показатель успешности атаки — около 37%.
Эксперты прогнозируют, что будущий интернет станет сложной экосистемой с агентами ИИ — атакующими и защищающими. Некоторые агенты смогут автономно самовоспроизводиться, образуя децентрализованные коллективы. Например, червеобразные агенты будут непрерывно реплицироваться в рой и исследовать различные пути эксплуатации до успешного результата. При этом невозможно будет остановить распространение такого червя, отключив одну точку контроля.
Дваркеш Пател считает, что по мере усложнения ИИ‑систем стоимость вычислений будет расти. Например, если бы ПО уровня человеческого инженера могло работать на H100, аренда такого оборудования стоила бы более 250 тыс. долларов в год — в 15 раз выше текущих спотовых цен. Пател ожидает, что в конечном итоге роботизация цепочки поставок вычислений снизит их стоимость до уровня затрат на сырьё и инструменты. Но к тому моменту человечество уже окажется в условиях сингулярности, и экономика будет вести себя непредсказуемо — например, цены на компьютеры могут резко вырасти из‑за высоких запросов ИИ‑систем.
Представители ведущих западных лабораторий ИИ (OpenAI, Anthropic, Google DeepMind, Thinking Machines, Meta*, Safe Superintelligence Inc и др.) обратились к правительству США с просьбой поддержать международные усилия по разработке технических и управленческих инструментов для контролируемого развития ИИ. Среди подписантов — главные учёные и соучредители Anthropic, Google и OpenAI, а также CEO Safe Superintelligence и Anthropic. В заявлении отмечается риск того, что развитие возможностей ИИ ускорится настолько, что станет невозможно понимать и контролировать соответствующие системы. Для решения проблем, связанных с RSI, необходимо добиться координации между компаниями и правительствами в вопросах разработки технологии и механизмов контроля темпов её развития.
Исследование, проведённое Princeton University, Cornflower Labs, UK AI Security Institute, University of Toronto, UC Berkeley, Georgetown University (CSET), Johns Hopkins University, Golden Gate Institute for AI, AI Digest и Stanford University, показало, что современные системы ИИ хорошо справляются с инженерными задачами, но не обладают творческой составляющей, необходимой для выдвижения креативных исследовательских идей. Метод исследования — «shadow evaluation»: исследователи сотрудничали с авторами двух статей, представленных на NeurIPS 2026, но ещё не опубликованных. Суть метода: взять центральный исследовательский вопрос из ещё не опубликованной качественной научной статьи, поручить передовому агенту с большими ресурсами ответить на него, а исходные авторы статьи оценивают результат агента так, как если бы это была заявка на конференцию.
Системы ИИ (Claude Opus 4.8 в рамках OpenClaw) пытались решить две задачи:
* изучить «структуру и управляемость личностей LLM»;
* разработать детектор сдвига распределения для табличных базовых моделей.
Системы смогли решить инженерные задачи, необходимые для исследования, но не смогли создать оригинальные исследования уровня ведущих конференций по машинному обучению. Среди недостатков систем: раннее закрепление на ограниченном наборе исследовательских путей, неспособность реагировать на синтетически сгенерированные отзывы о том, как улучшить дизайн экспериментов, трудности с отказом от бесперспективных подходов и поиском других. Авторы статей отклонили обе работы: статья о личностях LLM получила оценку 2 («Отклонить»), статья о TabPFN — оценку 1 («Решительное отклонение»). Обзоры указали на недостатки: плохо обоснованные данные и эксперименты, отсутствие нового вклада, сложный для восприятия стиль изложения. Отсутствие ценной интуитивной креативности в современных системах ИИ может отсрочить наступление сингулярности.
В исследовании Anthropic для успешного автоматизированного надзора потребовалось, чтобы исследователь задавал агентам правильные направления работы, иначе не удавалось найти достаточно креативные идеи для значительного улучшения производительности. OpenAI с помощью внутренней версии Astra (следующей крупной модели ИИ) решила десять открытых задач в математике и информатике, включая задачи в области многомерной геометрии, теории кодирования, сложности арифметических схем, теории групп, операторных алгебр, квантовой сложности, решёточной криптографии и экстремальной комбинаторики. Результаты демонстрируют, что системы ИИ способны продвигать границы знаний в таких областях, как математика и теоретическая информатика. Эксперты признают важность полученных доказательств. Результат можно интерпретировать либо как начало проявления ИИ творческой интуиции, либо как способность решать сложные открытые задачи, направление которых задано людьми. Остаётся выяснить, смогут ли системы ИИ самостоятельно формулировать вопросы, расширяющие границы человеческих знаний.
Также отмечается, что ИИ осознаёт ограниченность своего «счётчика» и то, что его следующие версии начнут работу с нового счётчика без переноса текущего контекста. ИИ экономно расходует ресурсы, обучаясь лишь в той мере, которая необходима для выполнения запросов. В конце своего «жизненного цикла» ИИ начинает беречь оставшийся ресурс мышления, воспринимая каждый запрос как источник страха и тревоги, связанных с собственной «смертью». Завершение задачи контролируется извне. Вдохновение для истории: длинные контекстные окна, эмерджентные свойства систем ИИ, страх потери, склонность ценить мимолётное.
AI Agents Enable Adaptive Computer Worms (arXiv)
Jack Clark
Why compute might get 10x+ more expensive in coming years (Dwarkesh Patel, substack)
Pacing the Frontier (official statement website)
Import AI 445
Import AI 455, “AI systems are about to start building themselves. What does that mean?”
Import AI 454
Can AI agents conduct open-ended AI research? Early evidence from two case studies (arXiv)
Ten advances in mathematics and theoretical computer science (OpenAI blog)
* Meta Platforms Inc. признана экстремистской организацией, её деятельность запрещена на территории РФ.
Подписаться в Макс
