DeepDigest
arXiv cs.LG · · ~1 мин

SOLAR: автоматический анализ производительности ИИ-моделей

SOLAR — фреймворк для автоматического расчёта предельной производительности ИИ-моделей на разном оборудовании. Помогает оптимизировать ПО, алгоритмы и железо.

cs.LG
arXiv
Cornell University Library

Учёные разработали фреймворк SOLAR, который автоматически определяет предельные показатели производительности (SOL) для моделей глубокого обучения — то есть минимальное время, за которое задача может быть выполнена на конкретном оборудовании. Раньше расчёт этих показателей был ручным, трудоёмким и подверженным ошибкам. SOLAR работает с кодом на PyTorch и JAX: с помощью LLM он преобразует программы в исполняемый формат, а затем с помощью детерминированного потока и аналитического сервера рассчитывает границы SOL. Фреймворк протестировали на моделях KernelBench, JAX/Flax и в робототехнике — он помогает выявлять возможности для оптимизации, настраивать оборудование и проводить кроссплатформенные исследования.

// оригинал
arXiv cs.LG ↗ Читать оригинал
803 просмотров
// поделиться Telegram VK