Новый метод борьбы с галлюцинациями в LLM: GILP снижает ошибки в 5 раз

Исследователи Синьюань Сонг и Цзекун Цай разработали метод Grounded Iterative Language Planning (GILP) для уменьшения галлюцинаций в языковых агентах на базе LLM. Суть метода в том, что он объединяет небольшую параметризованную модель (она предсказывает изменения состояния, риски и ценность) с рассуждениями агента через API. Если результаты не совпадают, система запрашивает пересмотр. При тестировании с GPT-4o-mini частота галлюцинаций снизилась с 0,176 до 0,035, а успешность выполнения задач выросла с 0,668 до 0,838 — при этом дополнительных запросов к LLM потребовалось всего около 22%.