Компания Cerebras представила новую серверную систему CS-4, которая использует Wafer-Scale Engine — чип размером с обеденную тарелку. По данным Cerebras, скорость вывода ИИ (inference) в CS-4 может быть в 30 раз выше, чем у традиционных GPU-систем. Однако эти показатели пока не подтверждены независимыми бенчмарками и сильно зависят от «разреженности» вычислений (sparsity) — в случае работы с крупными языковыми моделями эффект может быть не таким заметным.
CS-4 отличается не только повышенной вычислительной мощностью, но и новой архитектурой Nexus. Система позволяет разместить в одном шкафу до трёх модулей, объединяющих вычислительные, силовые и управляющие элементы. Благодаря новому подходу количество компонентов в CS-4 уменьшилось примерно на 50% по сравнению с предыдущей версией, что упрощает развёртывание в дата-центрах и сокращает время установки.
Кроме того, в CS-4 удвоена пропускная способность связи между чипами — с 1,2 Tbps до 2,4 Tbps, а задержка между чипами сократилась с 5 до 2 микросекунд. Это отражает общий тренд в индустрии ИИ-оборудования: акцент смещается с производительности отдельного чипа на эффективность работы всей инфраструктуры в рамках шкафа (rack-scale infrastructure).
Cerebras применяет подход disaggregated inference (декомпозированный вывод) — распределяет разные этапы процесса вывода ИИ между разными типами чипов. Например, этап предварительного заполнения (prefill), требующий параллельных вычислений, можно поручить ускорителям AMD Instinct GPU или AWS Trainium, а этап декодирования (decode), где нужно последовательно генерировать токены, — чипу Cerebras. Так компания отходит от модели, где один тип оборудования выполняет весь процесс, и предлагает гибкое распределение задач.
\nCerebras сотрудничает с Amazon Web Services (AWS) и AMD, чтобы реализовать этот подход. Исполнительный директор Cerebras Эндрю Фельдман заявил, что к концу 2027 года компания планирует увеличить скорость вычислений в 4 раза, а пропускную способность — в 20 раз. Также планируется создать вычислительные мощности до 600 MW. При этом Cerebras сталкивается с рыночными вызовами: после IPO акции компании упали более чем на 30%, а квартальная выручка не оправдала ожиданий рынка. Эксперты считают, что масштабирование производства и развёртывание систем Cerebras может оказаться сложнее, чем ожидают инвесторы.
Подписаться в Макс
