Исследователи предложили метод SOLAR, который помогает многоязычным языковым моделям давать согласованные ответы на запросы на разных языках. Проблема в том, что такие модели часто выдают противоречивые результаты из‑за зависимости от лексики конкретного языка. SOLAR выравнивает представления так называемых мягких токенов (взвешенных по вероятности сочетаний словарных вложений) в разных языках, используя английский как основу. В тестах метод показал рост точности на +17,7 балла по сравнению с базовой моделью и на +3,8 балла — по сравнению со стандартной точной настройкой. Особенно эффективен SOLAR для языков с ограниченными ресурсами.
arXiv cs.CL
·
·
~1 мин
SOLAR: новый способ устранить языковые расхождения в ИИ-моделях
SOLAR — метод выравнивания представлений токенов в многоязычных моделях, повышающий согласованность ответов на разных языках и точность анализа.
1 просмотров
// похожие статьи