Уязвимости в GPT и Claude: риск утечки скрытых рассуждений
Модели GPT, Claude и Gemini уязвимы к утечке скрытых рассуждений (reasoning). Исследователи смогли восстановить скрытое рассуждение в этих API, используя совместимые модели. Проблема связана с недостаточной жёсткостью привязки контекста и кросс-модельной совместимостью. Утечка рассуждений несёт риски для безопасности данных и может разрушить монополию крупных компаний на данные о рассуждениях.