DeepDigest
arXiv cs.CL · · ~1 мин

SOLAR: новый способ устранить языковые расхождения в ИИ-моделях

SOLAR — метод выравнивания представлений токенов в многоязычных моделях, повышающий согласованность ответов на разных языках и точность анализа.

SOLAR: новый способ устранить языковые расхождения в ИИ-моделях

Исследователи предложили метод SOLAR, который помогает многоязычным языковым моделям давать согласованные ответы на запросы на разных языках. Проблема в том, что такие модели часто выдают противоречивые результаты из‑за зависимости от лексики конкретного языка. SOLAR выравнивает представления так называемых мягких токенов (взвешенных по вероятности сочетаний словарных вложений) в разных языках, используя английский как основу. В тестах метод показал рост точности на +17,7 балла по сравнению с базовой моделью и на +3,8 балла — по сравнению со стандартной точной настройкой. Особенно эффективен SOLAR для языков с ограниченными ресурсами.

Источник: arXiv cs.CL
1 просмотров
// поделиться Telegram VK