AMD объявила о покупке канадской компании Taalas, которая разрабатывает AI‑инференс‑чипы. Цель сделки — противостоять NVIDIA на рынке ИИ.
Taalas применяет нестандартный подход: вместо использования общих GPU она встраивает веса и данные конкретных AI‑моделей прямо в кремниевый чип. Это позволяет устранить узкое место в передаче данных между вычислениями и памятью, а также повысить скорость и энергоэффективность инференса.
Архитектура Taalas базируется на концепции структурированных ASIC 2000‑х годов. Чип разделён на два основных блока: ROM (для хранения весов) и SRAM (для KV‑кэша и микронастроек). Данные модели напрямую связаны между вычислительными элементами.
Первый тестовый чип компании — HC1 — выполнен по 6‑нм техпроцессу TSMC и оптимизирован под модель Meta* Llama 3.1 8B. По результатам тестов HC1 генерирует до 16 960 токенов в секунду. Это в 48 раз быстрее традиционных NVIDIA GPU и в 8,5 раз быстрее ускорителей Cerebras.
Однако у решения есть существенный недостаток: чип практически не программируем и жёстко привязан к конкретной модели. При этом Taalas разработала инструменты, которые позволяют за два месяца преобразовать новую модель в кастомный чип. Чтобы сменить модель, обычно достаточно изменить два слоя фотошаблонов — они отвечают за веса и поток данных.
Текущий предел однокристального решения — около 80 млрд параметров. В следующем поколении чипа (HC2) Taalas планирует поддерживать 200 млрд параметров. Для этого будет использоваться технология конвейерного параллелизма — она позволит распределять веса между несколькими чипами. Для сверхкрупных моделей (например, DeepSeek 671B с 671 млрд параметров) потребуется около 30 независимых решений на чипах — здесь есть физические ограничения по аппаратному наложению.
Ключевая стратегия AMD и Taalas — продвижение архитектуры «развязанного вывода» (disaggregated inference). Согласно этому подходу, AMD Instinct GPU будет обрабатывать этап предобработки (prefill), а чипы Taalas на базе SRAM — ускорять этап декодирования (decode).
Ранее AMD сотрудничала с Cerebras: предполагалось, что AMD GPU будет обрабатывать этап предобработки, а движок Cerebras — ускорять декодирование. После покупки Taalas AMD может использовать её чипы SRAM вместо чипов Cerebras. Это даст компании полный контроль над системой вывода без зависимости от сторонних производителей.
Аппаратная комбинация AMD подойдёт для платформы серверов Helios, которую компания поставляет Microsoft, Meta* и другим облачным гигантам. Клиенты смогут получить кастомизированные решения для вывода с контролем над всем процессом.
Покупка Taalas — часть масштабного плана AMD по построению «полной AI‑экосистемы». Ранее компания инвестировала миллиарды долларов в приобретение Silo AI, ZT Systems, MK1 и других предприятий.
Технология Taalas поможет AMD расширить присутствие на рынках облачного и периферийного вывода. Она хорошо подходит для периферийных решений и физического AI (Physical AI): в этих сценариях модели обычно меньше по размеру, не требуют частого обновления. Структура ASIC от Taalas обеспечивает высокую скорость отклика при низком энергопотреблении и затратах.
Ожидается, что Taalas сможет снизить стоимость каждого токена и увеличить скорость вывода в 10–20 раз. При этом стоимость производства микросхем с записанными весами моделей будет в 100 раз ниже, чем обучение новой передовой модели.
Taalas дополнит существующие решения AMD: Instinct GPU, EPYC CPU, ROCm. Компания строит всеобъемлющую платформу ИИ, чтобы клиенты могли гибко развёртывать подходящие вычислительные решения для разных рабочих нагрузок.
Стратегия AMD в области ИИ‑микросхем меняется: теперь акцент делается не просто на сравнении производительности GPU, а на настройке различных вычислительных архитектур под разные рабочие нагрузки.
Остаётся вопрос: удастся ли Taalas сохранить достаточную гибкость моделей и одновременно реализовать преимущества в скорости и стоимости специализированного вывода на платформе AMD?
* Meta Platforms Inc. признана экстремистской организацией, её деятельность запрещена на территории РФ.
Подписаться в Макс
