ZML/LLMD: французский стартап бросает вызов монополии поставщиков оборудования

Французский стартап ZML запустил сервер логического вывода LLM под названием ZML/LLMD. Продукт позволяет запускать различные модели large language models (LLM) с открытым исходным кодом на разных чипах — от Nvidia и AMD до TPU от Google, Apple Metal и Intel Arc. Цель компании — разбить аппаратное обеспечение на сегменты, чтобы разные чипы могли максимально эффективно обрабатывать задачи ИИ, порой даже быстрее.