Компании Anthropic, OpenAI и Google обвиняют конкурентов в «дистилляции» (distillation) — масштабном использовании выходных данных их моделей для создания собственных, более дешёвых решений. По словам Anthropic, сторонние команды массово собирают ответы её топовых моделей, чтобы ускорить разработку своих продуктов.
Проблема обнажила противоречия в индустрии ИИ: раньше крупные компании утверждали, что общедоступная в сети информация может использоваться для разработки моделей (на основе принципа «разумного использования»). Теперь же они же заявляют о нарушении прав, когда другие применяют тот же подход к выходным данным AI-моделей.
Кроме того, Anthropic, OpenAI и Google стали представлять такие действия как угрозу безопасности — говорят о множестве ботов, которые «атакуют» модели и извлекают из них знания. При этом сами эти компании в прошлом аналогичным образом собирали контент с сайтов — из‑за этого росли операционные расходы веб‑ресурсов, а некоторые из них даже платили за трафик и обработку запросов ботов.
Технически дистилляция подразумевает обучение менее крупной и дорогой модели на основе выходных данных собственной модели. Но в случае «дистилляционных атак», о которых говорит Anthropic, речь идёт о том, что конкуренты используют чужие выходные данные для улучшения своих продуктов. Некоторые исследователи опасаются, что жёсткая позиция Anthropic приведёт к тому, что всю дистилляцию начнут считать подозрительной, и это усилит неразбериху в отрасли.
Сотрудник Китайской лаборатории политики Оксфорда Зилан Цянь считает, что это типичная игра в «кошки‑мышки»: пока выходные данные AI‑моделей остаются в сети, кто‑то обязательно найдёт способ извлечь из них выгоду.
Подписаться в Макс
