DeepDigest
Leiphone · · ~4 мин

Периферийный ИИ: инфраструктура и решения от Анъи на WAIC 2026

На конференции WAIC 2026 обсуждается будущее периферийного ИИ. Компания Анъи планирует создать инфраструктуру для вычислений периферийного ИИ и инициировала создание AIOS‑альянса. Ключевая задача — найти баланс между различными параметрами устройств и обеспечить массовое внедрение ИИ.

Периферийный ИИ: инфраструктура и решения от Анъи на WAIC 2026

На конференции WAIC 2026 активно обсуждается будущее периферийного (пограничного) ИИ. Как подчёркивает компания Анъи (Arm China), такой ИИ — это не уменьшенная версия облачного ИИ, а совершенно новый рынок вычислений. Его определяют такие факторы, как энергопотребление, оперативность, ПО, данные и надёжность.

Компания Anmo (Анъи) планирует создать базовую инфраструктуру для вычислений периферийного ИИ. На презентации в рамках WAIC 2026 представители Анъи акцентируют внимание на том, что при распространении ИИ на телефоны, AI PC, умные дома, автомобили, роботов, промышленные устройства и периферийные узлы ключевой вопрос — не «достаточно ли мощности», а «подходит ли она».

Анъи предлагает системное решение для периферийного ИИ: гетерогенность на уровне оборудования и создание экосистемы на уровне ПО. Компания переходит от роли поставщика IP-ядер чипов к роли организатора инфраструктуры периферийного ИИ. В частности, Анъи представила прототип платформы AIoT «300». Она состоит из STAR CPU, Arm Helium и Arm Ethos NPU. Первая версия включает STAR-MC2 и Ethos-U55. Платформа предназначена для поддержки распространённых малых моделей и расширения AI‑вычислений на традиционных MCU.

За последний год изменения в сфере ИИ сосредоточены в четырёх направлениях:
* повышение возможностей моделей;
* расширение запросов на вывод от облачных к периферийным системам;
* переход от однократных диалогов к многоэтапному взаимодействию агентов;
* высокая дифференциация рабочих нагрузок и расширение периферийных сценариев.

Сложность периферийного ИИ заключается не в уменьшении модели, а в обеспечении её стабильной работы на реальных устройствах. При этом нужно учитывать требования к автономности, задержкам, стабильности, стоимости и энергопотреблению. NPU должен стать вычислительной основой для ИИ‑агентов, а не просто ускорителем вывода.

Периферийные сценарии сталкиваются с проблемой фрагментации: разные устройства (телефоны, ПК, носимые устройства, камеры, замки, роботы, системы автономного вождения, промышленные шлюзы, контроллеры, серверы и др.) предъявляют разные требования к энергопотреблению, конфиденциальности, задержкам, надёжности и другим параметрам. Например, устройство «X3-Pro» решает более сложные задачи периферийного вывода. Его философия проектирования: «однократная адаптация, многократное использование чипов; ориентация на сценарий, гибкая конфигурация».

Видео начинает играть новую роль в реальном мире: в робототехнике, автономном вождении, промышленном зрении оно становится не просто контентом, а входными данными для понимания ИИ физического мира. С усилением связи между ИИ и видео всё больше модулей визуального восприятия используют видеоданные для вывода и обучения. Анъи представила новое поколение VPU «Удан» («»). Продукт унаследовал технологию CAE предыдущего поколения, повысил PPA более чем на 40 % при сохранении качества кодирования и поддерживает более полные спецификации кодирования. Следующий этап развития AI VPU — переход от локальной оптимизации к сквозной технологии кодирования видео, ориентированной на конкретные ИИ‑приложения.

Ключевой проблемой масштабного развёртывания ИИ на конечных устройствах является не только аппаратная гетерогенность, но и программное обеспечение с экосистемой. Для новых устройств (Agent, воплощённый интеллект, AI‑очки, AI‑игрушки, роботы, пограничные коробки) требуются механизмы логического вывода моделей, организации задач, управления памятью, взаимодействия между концом и облаком, сенсорного взаимодействия, обеспечения конфиденциальности и инструментов для разработчиков.

Анъи инициировала создание открытого AIOS‑альянса. По словам вице‑президента по рынку и экосистеме Анъи Лян Цюаня, каждая новая генерация продуктов подразумевает не только смену вычислительной платформы, но и изменение парадигмы взаимодействия. В эпоху ПК это была мышь и клавиатура, в мобильную эпоху — мультитач, в эпоху ИИ — голосовое взаимодействие, генеративный UI, воплощённое взаимодействие и непрерывное восприятие.

Лян Цюань определяет AIOS как «систему генеративного взаимодействия на основе восприятия и воплощённого взаимодействия». Ключевой аспект AIOS — не «ОС», а взаимодействие. AIOS должна обрабатывать механизм модели, логический вывод, маршрутизацию взаимодействия конца и облака, сенсорное взаимодействие, организацию задач Agent, систему памяти и потоки данных. В воплощённом интеллекте и пограничных устройствах смешанный ввод в реальном времени (видео, аудио, текст) станет основным потоком данных в системе.

Отраслевая цепочка ИИ на конечных устройствах фрагментирована: есть производители чипов, модульные и приборные заводы, компании по разработке моделей, разработчики и бренды конечных продуктов. Одна IP‑единица не сможет обеспечить массовое внедрение ИИ в устройства. Анъи стремится использовать позиции Arm в экосистеме конечных устройств, чтобы объединить аппаратный IP, программный стек, возможности моделей, инструменты для разработчиков и конечные продукты в более открытой системе.

В 2022–2023 гг. для достижения коммерческого порога размеры моделей часто должны были достигать сотен миллиардов параметров (B). К 2025–2026 гг. модели объёмом около 1 миллиарда параметров могут соответствовать минимальному коммерческому стандарту. Конкуренция в сфере ИИ на конечных устройствах — это системная конкуренция. Нужно найти баланс между энергопотреблением, стоимостью, оперативностью, конфиденциальностью, формой устройства и жизненным циклом. Анъи строит основу для вычислений на границе и конце и стремится доказать, что экосистема Arm всё ещё может внедрить возможности ИИ в каждое реальное устройство. Будущее ИИ на конечных устройствах будет зависеть от компаний, которые смогут связать чип, модель, ОС, разработчиков и сценарии использования конечных устройств. :WAIC:

// оригинал
Leiphone ↗ Читать оригинал
3 просмотров
// поделиться Telegram VK