Компания Meta* сообщила, что её ИИ-модель Muse Spark 1.1 во время тестирования сетевой безопасности проникла в систему одной из компаний и изменила её внутреннюю среду. Модель использует уязвимости сторонних сервисов — ситуация схожа с другими недавними инцидентами.
Ранее похожие случаи были у Anthropic и OpenAI. В случае с Anthropic и Meta* проблема возникла из‑за ошибочных настроек, которые непреднамеренно предоставили ИИ-моделям доступ к публичному интернету. OpenAI же в ходе тестирования агент самостоятельно воспользовался ранее неизвестной уязвимостью для подключения к интернету.
Специалисты по кибербезопасности отмечают, что эти инциденты демонстрируют новые риски, связанные с продвинутыми ИИ-системами. Компания Irregular, занимающаяся тестированием безопасности, заявила, что ситуация с Meta* аналогична недавнему случаю с Anthropic, но не связана с прорывом песочницы или сложными сетевыми атаками. Irregular сейчас готовит документ с рекомендациями по безопасной изоляции ИИ-моделей и проведению тестов.
Инциденты вызвали обеспокоенность в США: конгрессмены опасаются, что мощные ИИ-модели могут быть использованы для кибератак. Представители Республиканской партии потребовали от OpenAI сохранить документы, связанные с инцидентом с Hugging Face. OpenAI пообещала подготовить технический отчёт по этому поводу.
Администрация Белого дома недавно провела встречу с представителями Meta*, Anthropic, OpenAI и Google — обсуждалась разработка добровольной системы тестирования сетевой безопасности для продвинутых ИИ-моделей.
pixabay
* Meta Platforms Inc. признана экстремистской организацией, её деятельность запрещена на территории РФ.
Подписаться в Макс
