SOLAR: новый способ улучшить межъязыковые рассуждения в ИИ

SOLAR выравнивает представления токенов в разных языках для согласованных межъязыковых рассуждений, повышая точность многоязычных моделей.

Исследователи предложили метод SOLAR — вспомогательную программу для настройки многоязычных языковых моделей. Она выравнивает представления «мягких токенов» (взвешенных по вероятности сочетаний словарных вложений) в разных языках, используя английский в качестве основы. Это позволяет избежать противоречий в ответах на семантически эквивалентные запросы на разных языках. В тестах SOLAR повысил точность на +17,7 балла по сравнению с базовой моделью и на +3,8 балла по сравнению со стандартной настройкой. Особенно эффективен метод для языков с ограниченными ресурсами.