Новый подход к генерации текста: как справиться с «галлюцинациями» ИИ

Исследователи Ирен Штраус, Александра Бутой и Райан Коттерелл предложили новый способ моделирования генерации языка. Они пересмотрели традиционный подход, при котором система должна точно идентифицировать язык, — и сфокусировались на создании правдоподобных, но ранее не виденных строк текста. Авторы проанализировали, как можно допустить множество ошибок в генерации, но при этом сохранить высокую точность: частота ошибок может стремиться к нулю, а точность — оставаться на уровне 100%. Также они изучили, как можно ослабить требование к новизне результатов — то есть разрешить, чтобы лишь часть генерируемого текста была действительно новой. Такой подход делает модель генерации языка ближе к реальным условиям работы больших языковых моделей, где неизбежны повторы и случайные ошибки, но их количество можно контролировать.