Угрозы кибербезопасности от ИИ: пример модели Fable 5 от Anthropic

Современные ИИ-системы представляют серьёзную угрозу для кибербезопасности. Власти США временно заблокировали модель Fable 5 от Anthropic из‑за опасений по поводу возможных атак на ПО, но затем отменили решение. В компании указали, что похожие возможности есть и у других моделей.

За последние два месяца стало очевидно, насколько серьёзную угрозу для кибербезопасности представляют современные продвинутые ИИ-системы. Одним из эпизодов стал шаг властей США — они заблокировали новейшую модель Anthropic под названием Fable 5. Причина — опасения, что её могут использовать для поиска уязвимостей в распространённом ПО. Позже решение отменили. В Anthropic отметили, что аналогичные возможности есть и у других доступных ИИ-моделей — в том числе у как минимум одной китайской модели, выпущенной с открытыми весами (ограниченной формой открытого ПО).