Компания Accelerated Understanding, представленная 25 августа, разрабатывает Physical AI, который будет предсказывать, как физические явления (температура, потоки жидкости, материалы и др.) меняются в пространстве и времени. Основатели компании — профессор Калифорнийского технологического института и бывший старший руководитель по исследованиям ИИ в NVIDIA Анима Анандкамар, а также инженер по инфраструктуре ИИ Бенедикт Йеник. Ранее их приглашали в Project Prometheus, финансируемый Джеффом Безосом, но они выбрали развитие собственного проекта.
В отличие от крупных языковых моделей (LLM), которые ориентированы на человека, Accelerated Understanding ставит в центр физических законов. Компания считает, что LLM не способны напрямую моделировать и проверять физические результаты, а узкоспециализированные физические модели обычно ограничены в задачах и зависят от данных конкретной области.
Accelerated Understanding отвергает подход с использованием Transformer (как в ChatGPT) и применяет neural operator — фреймворк машинного обучения, который позволяет изучать изменения непрерывных физических полей. В 2024 году Анандкамар и другие исследователи уже указывали в Nature Reviews Physics, что neural operator подходит для решения задач, связанных с пространственно-временными изменениями и дифференциальными уравнениями в частных производных (например, для анализа жидкостей, погоды, материалов).
Компания стремится проверить, можно ли расширить модели, ранее ориентированные на отдельные физические задачи, чтобы один крупный модель одновременно изучал разные физические явления. Уже продемонстрировано, что модель с менее чем 100 млрд параметров может генерировать 4D-результаты эволюции различных физических явлений и моделировать формы радиаторов, которые не встречались в процессе обучения.
Accelerated Understanding провела сотни крупных предварительных тренировок, максимальный размер модели достиг 1 трлн параметров, также проводились эксперименты по расширению до 35 трлн параметров. После совместного обучения на разных физических задачах модель при одинаковом масштабе показывает лучшие результаты, чем специализированные модели, обученные по отдельности. При выводе модель может обрабатывать более 5 трлн точек данных — это связано с необходимостью одновременно описывать трёхмерное пространство и время.
Среди потенциальных применений — проектирование чипов (прогнозирование влияния материалов и температуры на производительность), робототехника, экстремальное прогнозирование погоды, анализ геологических данных энергетическими компаниями. Впереди у компании задача доказать, что масштабирование между разными физическими областями будет эффективно в реальных инженерных сценариях и обеспечит значительное повышение эффективности по сравнению с существующими специализированными методами моделирования.
Подписаться в Макс
