OpenAI и Anthropic по‑разному решают вопрос сохранения данных при использовании передовых ИИ‑моделей. Проблема стала особенно актуальной после того, как Anthropic в июле скорректировала свою политику данных. В частности, для моделей Claude Fable 5, Claude Mythos 5 и других аналогичных требуется сохранять данные в течение 30 дней — ZDR (Zero Data Retention, нулевое сохранение данных) недоступен. Anthropic объясняет это необходимостью отслеживать опасные действия, которые могут распределяться на десятки или сотни запросов. Одно взаимодействие может выглядеть как обычный запрос, а в совокупности с другими — указывать на формирование атаки. Компания признаёт, что такая политика может оттолкнуть клиентов, привыкших к ZDR, особенно если конкуренты не предъявляют подобных требований. Среди тех, кто выразил сомнения по поводу политики Anthropic, — генеральный директор Microsoft Сатья Наделла и генеральный директор Palantir Алекс Карп. Они считают, что в таких сферах, как медицина и финансы, нужны чёткие гарантии отсутствия сохранения данных.
OpenAI же предлагает другой подход — систему Private Safety Processing. Её суть в том, чтобы обеспечивать безопасность без сохранения исходных данных. Новая система позволяет анализировать несколько связанных взаимодействий, выявляя риски, при этом сохраняя принцип ZDR. Данные клиентов могут храниться в инфраструктуре, которую контролирует клиент, либо в среде OpenAI с шифрованием с помощью ключа, которым владеет клиент — сотрудники OpenAI не смогут напрямую увидеть чувствительный контент. При обнаружении рисков (например, связанных с кибератаками или биологическим оружием) OpenAI получает не исходный контент, а сигналы с указанием категории и уровня угрозы. Клиент может обжаловать решение или предоставить дополнительную информацию.
OpenAI уже тестирует систему с Microsoft, Databricks и другими клиентами, планируется расширение внедрения в сентябре, а также публикация технической документации. Однако пока система находится на ранней стадии тестирования, и ещё предстоит выяснить, сможет ли она одновременно поддерживать ZDR и эффективно контролировать безопасность взаимодействий.
Вопрос сохранения данных постепенно становится одним из ключевых критериев выбора ИИ‑модели для предприятий. В условиях, когда ИИ всё чаще используется для длительных многоэтапных задач, в том числе в сфере разработки ПО и кибербезопасности, важно найти баланс между защитой данных и обеспечением безопасности работы моделей.
Подписаться в Макс
