DeepDigest
TechOrange · · ~2 мин

Microsoft Azure: интеграция инфраструктуры для ИИ — вызовы и решения

Главный ограничитель развития инфраструктуры ИИ — время, поскольку разные её компоненты (энергия, дата‑центры, чипы, ПО) имеют разные сроки разработки и обновления. Microsoft продвигает подход «от чипа до системы» и использует ИИ для проектирования инфраструктуры. Сотрудничество с поставщиками смещается в сторону раннего совместного проектирования.

Microsoft Azure: интеграция инфраструктуры для ИИ — вызовы и решения

Алистэр Спирс, глобальный менеджер по базовой инфраструктуре Azure в Microsoft, в интервью на выставке SEMICON Taiwan заявил, что главный ограничитель развития ИИ-инфраструктуры — время. Дело в том, что разные компоненты технологической цепочки (электроэнергия, дата-центры, чипы, ПО) имеют разные сроки строительства и обновления. Например, планирование новых источников энергии может занимать 10–30 лет, а ПО обновляется почти мгновенно.

Спирс отметил, что ИИ-нагрузка становится всё разнообразнее: от крупных моделей — к малым, специализированным и ИИ‑агентам. Последние, в частности, не только генерируют ответы, но и выполняют задачи — поэтому требуется сочетание CPU и ИИ‑ускорителей. При этом некоторые задачи могут быть краткосрочными — важно быстро запускать и завершать их.

По мнению Спирса, наибольший потенциал для повышения эффективности кроется в «зазорах» между технологическими уровнями — от чипов до моделей. Microsoft продвигает подход «от чипа до системы» (silicon-to-systems), чтобы искать возможности оптимизации в рамках всей системы, а не отдельных компонентов. Например, характеристики модели (размер, требования к памяти) влияют на выбор оборудования. Так, при разработке собственного ИИ‑чипа Maia компания определяет объём памяти, количество блоков Tensor‑вычислений и формат чисел, чтобы «оптимизировать железо под лучшее использование софта».

Сотрудничество с поставщиками тоже меняется: теперь они вовлекаются в проектирование на ранних этапах — от разработки чипов до сетевых решений. Microsoft должна заранее прогнозировать спрос, чтобы партнёры могли синхронизировать планирование. Спирс подчеркнул, что Тайваньские поставщики могут усилить свои позиции за счёт использования ИИ в проектировании чипов и оптимизации цепочек поставок.

Также Microsoft использует ИИ для проектирования инфраструктуры: помогает оптимизировать разводку на платах, расположение чипов, а также автоматизирует тестирование и проверку соединений.

// оригинал
TechOrange ↗ Читать оригинал
7 просмотров
// поделиться Telegram VK