Исследователи Ванесса Фигейредо и Уилтер Франчески поставили под сомнение традиционный взгляд на надёжность больших языковых моделей (LLM). Обычно надёжность связывают с возможностями самой модели, но авторы утверждают: ключевую роль играет управление процессом вывода (inference-time control) — то есть слой вычислений, который определяет, как формулируется задача и как выбирается контекст.
Для решения проблемы они предложили архитектуру CogniConsole. Её суть в том, чтобы вынести управление процессом вывода за пределы модели — в структурированный интерфейс. Этот интерфейс сочетает программную координацию с ограниченным рассуждением на основе подсказок (prompts).
Чтобы проверить эффективность подхода, авторы использовали 489 тестов, ориентированных на управляемость (controllability-oriented probes), в многоэтапной интерактивной среде. Они последовательно увеличивали структурную поддержку — от полностью неструктурированной до полностью структурированной. Результаты показали: чем выше уровень структурированности, тем меньше вариативность результатов и частота сбоев при неизменной архитектуре модели.
Авторы пришли к выводу, что многие проблемы LLM (например, уход от контекста или непоследовательное соблюдение ограничений) связаны не с недостаточной мощностью модели, а с недостаточно чётким управлением процессом вывода. Работа закладывает основу для того, чтобы рассматривать управление выводом как самостоятельный элемент при проектировании и оценке систем на базе LLM — и не ограничиваться только наращиванием мощности моделей.
В доступном исходнике не указаны конкретные датасеты, бенчмарки и численные результаты, а также детальные ограничения исследования.
View PDF
HTML (experimental)
arXiv:2607.08774
arXiv:2607.08774v1
[view email
View PDF
HTML (experimental)
TeX Source
view license
< prev
next >
new
recent
2026-07
cs
cs.HC
NASA ADS
Google Scholar
Semantic Scholar
What is the Explorer?
What is Connected Papers?
What is Litmaps?
What are Smart Citations?
What is alphaXiv?
What is CatalyzeX?
What is DagsHub?
What is GotitPub?
What is Huggingface?
What is ScienceCast?
What is Replicate?
What is Spaces?
What is TXYZ.AI?
What are Influence Flowers?
What is CORE?
Learn more about arXivLabs
Which authors of this paper are endorsers?
What is MathJax?
Подписаться в Макс
