Циклы против подсказок: проверка ответов в LLM
Автор статьи сравнивает два подхода к проверке ответов в LLM: самокритику модели и верификатор, привязанный к источнику. Эксперимент показал, что самокритика не снижает частоту галлюцинаций, тогда как верификатор сокращает количество ошибок примерно вдвое. Ключевой вывод: циклы агентов должны опираться на внешнюю, детерминированную проверку, а не на собственное суждение модели.