NVIDIA: эффективность H100 зависит от проектирования модели
NVIDIA указывает на проблему неэффективного использования топовых GPU из‑за неправильного проектирования моделей. Эффективность работы оборудования зависит от алгебраической интенсивности — отношения числа вычислений к объёму переданных данных. Компания представила 7 критериев проектирования моделей, дружественного к пропускной способности.