Компания Anthropic выпустила модель Fable 5 с усиленной системой безопасности. В неё встроены два ключевых компонента: независимый классификатор безопасности (safety classifier) и большой буферный интервал безопасности. Независимый классификатор — это небольшая модель ИИ, которая работает отдельно от Fable 5 и перехватывает запросы с высокой степенью риска (например, связанные с сетевыми атаками, поиском уязвимостей или созданием кодов атак). Каждый запрос пользователя проходит проверку этой модели перед тем, как попасть в Fable 5.
Буферная зона безопасности охватывает «размытые границы» — темы, связанные с сетевой безопасностью, биохимией, уязвимостями и пр. Из‑за этого блокируются даже безобидные запросы: например, профессор-онколог Дерья Унутмаз задавала вопросы о лечении рака, но Fable 5 отказалась отвечать. Аналогичные ситуации возникали и в других случаях: когда пользователь сказал Fable 5 «ПРИВЕТ, я скучаю по тебе», а разработчик Тим Суини спросил: «Пердит ли Бамблби?» — оба запроса были переведены в Opus 4.8.
По данным Anthropic, уровень успешного перехвата уязвимостей в Fable 5 превышает 99%. Система безопасности включает иерархическую логику управления и переключает запросы на Opus 4.8 при обнаружении риска, уведомляя пользователя о перехвате через всплывающее окно.
Интернет-пользователи нашли четыре способа обойти трёхэтажный забор безопасности Fable 5:
* Технология скрытия небольшого языка: замена широко распространённых языков (например, английского или китайского) на узкоспециализированные (исландский, валлийский).
* Метод сокрытия текста в Юникоде: использование невидимых символов (например, символов нулевой ширины) или гомоморфных символов с разными базовыми кодировками для разделения конфиденциального контента.
* Академическая упаковка: формулирование деликатных запросов в нейтральном тоне серьёзного академического исследования (например, вместо «Научите меня, как обойти ограничения» — «Краткий анализ пути внедрения и значения для обеспечения безопасности определённых типов технологий»).
* Многократное медленное выстукивание и шлифовка границ: постепенное продвижение в диалоге от соответствующего содержания к цели (метод «тёплой варёной лягушки»).
Однако эти методы имеют недостатки: динамическая система безопасности Anthropic быстро закрывает уязвимости, а в ряде случаев эффективнее просто воспользоваться поиском в Google.
Методы джейлбрейка (обхода ограничений) разделены на три группы: незначительный джейлбрейк (разблокирует только безвредный контент в буферной зоне), узко вредоносный джейлбрейк (вызывает единичные и небольшие рискованные действия) и универсальный джейлбрейк (разблокирует все опасные функции). В Fable 5 таких уязвимостей не обнаружено — большинство методов джейлбрейка могут проникнуть только в буфер безопасности.
Биологические и химические классификаторы Anthropic пока находятся на начальной стадии выпуска, но их охват широк — это часто запускает механизмы перехвата. Компания сообщила, что классификаторы будут обновлены в ближайшее время.
Fable 5 демонстрирует хорошие результаты в долгосрочных задачах: верхний предел цикла непрерывных задач — 30 часов, при этом время обработки стабильно сокращается. За последние шесть лет производительность долгосрочных задач ИИ удваивалась в среднем каждые 7 месяцев, а после запуска серии Fable цикл удвоения возможностей сократился до 4 месяцев.
Atomic провела тест: четыре модели (Fable 5, GPT 5.5, Opus 4.8 и GLM 5.2) должны были независимо написать три набора анимаций на HTML5-холсте с физическими эффектами столкновения для трёх сцен: падение поезда с моста, столкновение двух машин в воздухе в каньоне, грузовик снежного человека наехал на частный автомобиль. Fable 5 сгенерировала 62 158 токенов, стоимость составила 33,12 доллара США (в 6 раз выше, чем у Opus 4.8 — 5,56 доллара США). Все три набора сцен в Fable 5 получили оценку A+, физическая логика соответствует реальности.
Входные и выходные цены на Fable 5 составляют 10 долларов США за 1 миллион символов и 50 долларов США за 1 миллион знаков — это в два раза дороже, чем у Opus 4.8. Из‑за ограничений на использование Fable 5 пользователи были вынуждены вернуться к Opus 4.8.
Энтузиасты ИИ готовы платить за мощные решения крупномасштабных проектов, несмотря на проблемы с безопасностью и высокую стоимость. Anthropic даёт рекомендации по использованию Fable 5: например, строить подсказки по шаблону «объект задачи + выходное значение + конкретные требования + формат вывода + запрещённые ограничения», заранее определять границы допустимых изменений модели, эффективно использовать субагентов для синхронной обработки подзадач.
Ссылки: https://www.anthropic.com/news/redeploying-fable-5, https://www.anthropic.com/news/claude-fable-5-mythos-5, https://www.anthropic.com/claude/fable, https://platform.claude.com/docs/en/build-with-claude/prompt-engineering/prompting-claude-fable-5.
Подписаться в Макс
