DeepDigest
arXiv cs.LG · · ~1 мин

SOLAR: автоматический анализ производительности ИИ-моделей

SOLAR — фреймворк для автоматического расчёта предельной производительности ИИ-моделей на заданном оборудовании; помогает оптимизировать ПО и железо.

SOLAR: автоматический анализ производительности ИИ-моделей

Разработан фреймворк SOLAR, который автоматически определяет теоретические границы производительности моделей глубокого обучения (так называемые границы SOL — на основе скорости света) на конкретном оборудовании. Инструмент работает с исходным кодом на PyTorch и JAX: с помощью LLM он преобразует программы в исполняемый формат, а затем анализирует их, вычисляя возможные пределы скорости работы. Авторы протестировали SOLAR на моделях KernelBench, JAX/Flax и в задачах робототехники. Система позволяет точнее оптимизировать ПО и оборудование под конкретные ИИ-задачи.

Источник: arXiv cs.LG
1 просмотров
// поделиться Telegram VK