OpenAI и Broadcom представили чип Jalapeño: прорыв в анализе данных больших языковых моделей

Компания OpenAI, известная созданием ChatGPT и Codex, совместно с Broadcom — признанным поставщиком полупроводниковых компонентов — анонсировала новый чип Jalapeño. Он разработан специально для вывода больших языковых моделей (LLM) в центрах обработки данных. Чипы станут частью долгосрочного проекта: их будут совершенствовать с течением времени. Broadcom утверждает, что ASIC (специализированная интегральная схема) создана с нуля на основе данных, полученных в ходе обсуждений с исследователями из OpenAI, и в соответствии с дорожной картой OpenAI для будущих моделей и продуктов. Разработка и производство чипа заняли девять месяцев. OpenAI заявляет, что раннее тестирование показало: Jalapeño обеспечит значительно более высокую производительность на ватт по сравнению с современными устройствами. При этом измерение производительности ещё не завершено — подробный технический отчёт представят в ближайшие месяцы. OpenAI стремится снизить зависимость от сторонних компаний (например, Nvidia) за счёт вертикальной интеграции и получить полный набор функций для своих моделей и продуктов. OpenAI и её конкуренты заинтересованы в использовании специального кремния, чтобы увеличить производительность в условиях глобального дефицита вычислительных ресурсов. OpenAI и Broadcom планируют внедрить чипы Jalapeño в центрах обработки данных к концу этого года.