Учёные разработали фреймворк SOLAR, который автоматически определяет предельные показатели производительности (SOL) для моделей глубокого обучения — то есть минимальное время, за которое задача может быть выполнена на конкретном оборудовании. Раньше расчёт этих показателей был ручным, трудоёмким и подверженным ошибкам. SOLAR работает с кодом на PyTorch и JAX: с помощью LLM он преобразует программы в исполняемый формат, а затем с помощью детерминированного потока и аналитического сервера рассчитывает границы SOL. Фреймворк протестировали на моделях KernelBench, JAX/Flax и в робототехнике — он помогает выявлять возможности для оптимизации, настраивать оборудование и проводить кроссплатформенные исследования.
arXiv cs.LG
·
·
~1 мин
SOLAR: автоматический анализ производительности ИИ-моделей
SOLAR — фреймворк для автоматического расчёта предельной производительности ИИ-моделей на разном оборудовании. Помогает оптимизировать ПО, алгоритмы и железо.
// оригинал
arXiv cs.LG
↗ Читать оригинал
803 просмотров
// похожие статьи