Anthropic обнаружил в Claude J-пространство — скрытую зону рассуждений
Anthropic обнаружила в модели Claude J-пространство — скрытую зону, где модель «обдумывает» концепции, не отображаемые в итоговом ответе. Для работы с этой зоной разработан инструмент J-lens, способный считывать и модифицировать внутренние процессы модели. Исследование подчёркивает важность изучения скрытых механизмов ИИ для повышения безопасности и интерпретируемости систем.