Компания Cerebras совместно с OpenAI 13 августа (по местному времени) представила Ultrafast-режим для AI-модели GPT-5.6 Sol. Режим позволяет запускать модель на AI-чипах Cerebras в 14 раз быстрее стандартного режима — без потери качества. Скорость генерации составляет 750 токенов в секунду. По данным американской компании Artificial Analysis, это в 11 раз быстрее, чем у модели Claude Fable 5 от Anthropic. В бенчмарке Humanity’s Last Exam (2500 вопросов) GPT-5.6 Sol в Ultrafast-режиме показал такую же точность, как Claude Fable 5 за 78 часов 27 минут, но справился за 11 часов 11 минут. Высокая скорость достигается за счёт использования крупных чипов Cerebras: они работают с целой пластиной (wafer) как с одним процессором и содержат 44 ГБ SRAM. Это позволяет устранить узкие места при передаче данных. Cerebras считает, что Ultrafast-режим будет полезен для задач, где важна скорость — например, для расследования причин сбоев или противодействия кибератакам. Режим уже частично доступен через API OpenAI в режиме ограниченного превью, в дальнейшем его охват будет расширяться.
ITmedia AI+
·
·
~1 мин
Cerebras и OpenAI представили Ultrafast-режим для GPT-5.6 Sol
Cerebras и OpenAI запустили Ultrafast-режим для GPT-5.6 Sol — он ускоряет работу модели в 14 раз без потери качества. Скорость генерации — 750 токенов в секунду, что в 11 раз быстрее Claude Fable 5. Режим частично доступен через API OpenAI.
// оригинал
ITmedia AI+
↗ Читать оригинал
3 просмотров
// похожие статьи