DeepDigest
Leiphone · · ~4 мин

«»: путь от M×N к Agentic Infra на WAIC 2026

Компания «» представила на WAIC 2026 свои технические достижения в сфере AI Infra. За последний год ей удалось снизить затраты на вывод в 10 раз, а дневной объём вызовов Token вырос в 40 раз. Ключевая особенность платформы — гетерогенная оптимизация и единое развёртывание на базе M моделей и N чипов.

«»: путь от M×N к Agentic Infra на WAIC 2026

В 2026 году на конференции WAIC компания «» (Увэнь Синьчжун) представила свои технические достижения в сфере AI Infra. Её основатель и CEO Ся Лисюэ вместе с коллегами из факультета электронной инженерии Университета Цинхуа создал компанию с целью разработать платформу, которая свяжет M моделей и N чипов и максимизирует коммерческую ценность каждого чипа. Изначально акцент был сделан на гетерогенном обучении и развитии инфраструктуры для крупномасштабного вывода результатов.

Эволюция бизнес-выражения компании прошла путь от соединения M моделей и N чипов через «Token фабрику» до стратегии Agentic Infra («») на WAIC. Изменения в позиционировании отражают эволюцию AI‑инфраструктуры: от обучения к выводу результатов и далее — к эпохе Agent.

Одной из проблем, которую пытается решить «», стала проблема «Token‑стиллеров»: растущие счета за Token не позволяют чётко понять, какие задачи решены с их помощью. Из‑за различий в путях вывода результатов, размерах моделей и совместимости с чипами стоимость разных Token варьируется даже при достижении одинаковых бизнес‑результатов. Стратегия «» призвана решить эту проблему.

За последний год «» добилась снижения затрат на вывод в 10 раз, уровень доступности платформы составил более 99,99 %. К июлю дневной объём вызовов Token на платформе «» вырос в 40 раз по сравнению с декабрем прошлого года. Ся Лисюэ считает, что в ближайшие 1–2 года затраты на Token могут снизиться более чем в 10 раз.

Компания уже выполняет оптимизацию для 16 типов гетерогенности и готова к совместимости в будущем, если на рынке останется 5 игроков. Ключевая конкурентная сила «» — гетерогенная оптимизация и единое развёртывание на базе M моделей и N чипов.

На WAIC компания представила новую архитектуру — кросс-кластерную гетерогенную архитектуру PD‑разделения (Prefill-RelayDecode-MainDecode, PDD). Она преобразует традиционное «PD‑разделение» в трёхуровневую разделительную архитектуру инференса P-RLD-MD. Архитектура позволяет скрыть задержку при передаче KV Cache между кластерами и снизить задержку за счёт более точного управления, тем самым повышая эффективность инференса. PDD позволяет снизить TTFT на 51,5 %, а стоимость одного Token — на 37,5 %. Команда PDD планирует применять метод на более крупных и разнообразных гетерогенных чипах, ожидая дальнейшего роста показателей.

«» инвестирует в направление обучения с подкреплением (reinforcement learning). На WAIC компания представила технологию для крупномасштабного междоменного обучения с подкреплением — она обеспечивает непрерывную стабильную работу в течение недели без перерывов. В будущем планируется расширить поддержку междоменных вычислительных ресурсов до уровня более 100 тыс. карт для поддержки следующего поколения высокопроизводительного Agentic AI.

Кроме того, компания начинает работу в направлении физического ИИ (с акцентом на воплощённый интеллект / embodied intelligence). Ся Лисюэ считает, что для воплощённого интеллекта в физическом мире нужны эффективные и масштабные инфраструктуры. Для их создания требуются организации, разбирающиеся и в облачных, и в конечных системах. По его мнению, в сфере поставок ИИ‑вычислений сохраняется дефицит, при этом есть потенциал для высвобождения вычислительных ресурсов на конечных и периферийных устройствах (телефоны, компьютеры и т. д.).

«» сотрудничает с Kimi, , MiniMax, . Бизнес-модель компании формулируется как MaaS: «,» («Вычислительные мощности определяют верхний предел доходов, эффективность оптимизации определяет пространство для прибыли»).

В эпоху Agent требуется организация множества вызовов Token в рамках долгосрочных задач, взаимодействующих с человеком (например, от генерации кода до инженерного проектирования). Это выдвигает новые требования к базовой инфраструктуре — в частности, к параллельной обработке задач и гибкому управлению запуском и остановкой. Ключевая особенность Agentic Infra — инфраструктура должна не только обслуживать AI‑приложения, но и активно использовать AI для собственной итерации.

За последний год выросли зарубежные компании, предоставляющие инфраструктуру для AI: NeoCloud, Baseten, Fireworks, Together AI — их оценка достигла десятков миллиардов долларов. По мнению Ся Лисюэ, рост этих компаний обусловлен не только предоставлением GPU‑ресурсов, но и глубокой оптимизацией под AI‑приложения и предоставлением отраслевых решений. В Китае более разнообразная архитектура вычислительных мощностей — «» необходимо оптимизировать N гетерогенных чипов, при этом в стране богаче сценарии применения AI.

Один из критериев замкнутости бизнес‑цикла в AI: после повышения цены продукта клиенты по‑прежнему готовы платить. По этому критерию AI‑бизнес перешёл от «доказательства ценности» к «оплате пользователями». Ещё один критерий замкнутости бизнес‑цикла — способность цепочки поставок постоянно делиться прибылью. «» оптимистично смотрит на внедрение решений в сфере Agentic Infra для энергетики, электроэнергетики и воплощённого ИИ. Цель — снизить затраты для клиентов в 10 раз.

:WAIC:

// оригинал
Leiphone ↗ Читать оригинал
24 просмотров
// поделиться Telegram VK