Новый метод улучшает работу больших языковых моделей

Авторы исследования предложили новый метод улучшения работы больших языковых моделей (LLM). Проблема в том, что LLM могут выдавать неожиданные результаты — например, из‑за разных подсказок или лишней информации. В работе описан метод FCPA: он помогает согласовать работу «генератора» (который создаёт ответы) и «валидатора» (который их проверяет). Метод учитывает частоту появления тех или иных строк в данных и устраняет ряд проблем, которые мешали добиться согласованности работы частей системы. Эксперименты показали, что FCPA повышает согласованность и производительность генератора — коэффициент корреляции Пирсона вырос на 27% для IFEval и HumanEval, при этом качество валидатора сохранилось.