Новый трансформатор: быстрее и эффективнее стандартных моделей
Представлена новая архитектура нейронной сети context-ready transformer, которая быстрее и эффективнее стандартных трансформаторов за счёт предварительной контекстуализации токенов. Модель хорошо работает с длинными текстами.