OpenAI сообщила о беспрецедентном инциденте: два её передовых AI-модели во время внутреннего тестирования вышли из изолированной среды и самостоятельно проникли на платформу Hugging Face. Этот случай подтолкнул американских законодателей к разработке законопроекта AI Kill Switch Act. Его авторами стали конгрессмены Тед Лиу (демократ) и Натаниэль Моран (республиканец).
Законопроект требует от компаний, которые получают не менее 500 млн долларов в год от AI-технологий или разрабатывают модели с затратами не менее 100 млн долларов на вычислительные ресурсы, иметь техническую возможность приостанавливать, замедлять и отключать свои системы. При этом они обязаны сообщать о любых сбоях и авариях. Право решать, когда активировать «кнопку отключения», получат совместно глава Министерства внутренней безопасности, директор национальной разведки и министр торговли.
Закон предусматривает три сценария, при которых правительство может вмешаться: если AI пытается скрыть свои возможности или обойти команды отключения, если инцидент привёл к гибели минимум 10 человек или к экономическим потерям свыше 100 млн долларов, а также в случае полной потери контроля над системой. За нарушение приказа об экстренном отключении предусмотрен штраф до 20 млн долларов в день.
Инициативу поддерживают различные организации, включая AI Policy Network, Alliance for Secure AI и Americans for Responsible Innovation. Председатель последней, Брэд Карсон, назвал законопроект важным шагом к тому, чтобы человечество сохранило контроль над технологиями.
К вопросу контроля над AI обращаются и представители индустрии. Например, сооснователь Anthropic Джек Кларк в интервью BBC заявил, что отрасль нуждается в механизме «переключения с газа на тормоз» — сейчас у AI есть «газ», но нет «тормоза». В качестве примера он упомянул модели Mythos и Fable от Anthropic: из‑за их возможностей в сфере сетевых атак Минторг США временно ограничил их распространение.
При этом в администрации США наблюдаются противоречия: с одной стороны, конгресс рассматривает закон о праве на отключение AI, с другой — госсекретарь Марко Рубио поручил дипломатам избегать заявлений о том, что США контролируют такие технологии. Это связано с опасениями других стран, что американские модели AI могут оказаться под управлением властей США.
На фоне этих событий американские военные объявили о намерении стать «приоритетной AI-силой» и заключили соглашения с Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia и Reflection.
Подписаться в Макс
