DeepDigest
TechOrange 科技報橘 · · ~3 мин

Модель мира: следующий этап развития ИИ после LLM

Исследователи переходят от работы с языковыми моделями (LLM) к созданию «модели мира», которая позволит ИИ понимать и моделировать физический мир. Ли Фейфей и Ян Лекун по‑разному определяют суть модели, но сходятся в том, что она должна позволять ИИ предсказывать последствия действий. Выделяют три типа моделей: визуализатор, симулятор и планировщик; последний — самая сложная и важная задача. Коммерциализация направления затруднена из‑за отсутствия готовых баз данных для обучения.

Модель мира: следующий этап развития ИИ после LLM

Учёные всё активнее работают над «моделью мира» — системой, которая позволит ИИ адекватно реагировать на физическую среду. Луис Кастрикато, восемь лет изучавший крупные языковые модели (LLM), решил покинуть докторскую программу, посчитав, что эпоха фундаментальных исследований в области LLM подходит к концу. К этому мнению присоединяется и Ли Фейфей — крестная мать ИИ.

Языковые модели генерируют текст, изображения или код, предсказывая следующее слово или пиксель. Однако у такого подхода есть серьёзное ограничение: он не позволяет моделировать причинно-следственные связи в физическом мире. Мартиал Хеберт, директор школы компьютерных наук Университета Карнеги-Меллон, подчёркивает, что геометрия мира, динамика движения и физическое взаимодействие намного сложнее, чем предсказание следующего слова. Ян Лекун, лауреат премии Тьюринга, приводит пример: когда человек спрашивает, идти ли пешком до автомойки, расположенной в 100 метрах от отеля, языковая модель может посоветовать идти пешком, не учитывая, что автомобиль нужно загнать на мойку.

Понятие «модель мира» пока не имеет единого определения. Ли Фейфей описывает её как систему, изучающую статистическую структуру пространства и времени — например, как свет отражается от поверхностей или как объекты взаимодействуют по законам физики. Лекун же видит в модели мира инструмент, позволяющий агентам ИИ предсказывать последствия своих действий.

Ли Фейфей выделила три типа моделей мира: визуализатор, симулятор и планировщик. Визуализатор ориентирован на визуальную достоверность виртуального мира — например, коммерческий продукт World Labs Marble создаёт и редактирует 3D-среды из текста, изображений или видео. Симулятор стремится достоверно представить структуру физического мира — он может стать тренировочной площадкой для роботов. Планирование — самая сложная задача: оно позволит агентам ИИ принимать решения в неструктурированной реальной среде. Хеберт считает планирование ключевым элементом исследований в робототехнике — модель мира должна дать роботам общие возможности восприятия среды, а не требовать отдельной логики управления для каждой задачи.

Модель мира находит применение не только в робототехнике. Например, Overworld от Кастрикато создаёт игровые сцены, которые адаптируются к поведению игрока: когда виртуальный персонаж заходит в тёмный лес, окружающая среда меняется в зависимости от его действий.

Несмотря на интерес венчурных инвесторов, коммерциализация модели мира сталкивается с трудностями. В сентябре 2024 года World Labs завершила начальный раунд финансирования в размере 2,23 млрд долларов США, а в феврале текущего года — стратегический раунд в 1 млрд долларов США. Среди инвесторов — Andreessen Horowitz, AMD, NVIDIA и Autodesk, которые в совокупности вложили около 11,23 млрд долларов США. Стив Джанг из Kindred Ventures также поддерживает развитие направления: в его портфолио — Overworld, Causal Labs (создаёт ИИ для прогнозирования погоды) и Extropic (разрабатывает чипы для моделей мира).

Лекун прогнозирует, что к началу 2027 года необходимость смены парадигмы станет очевидной для всех. Однако это не гарантирует появления готового решения — трансформация познания и техническая зрелость решений — разные вещи. Главная трудность коммерциализации модели мира в том, что для обучения ИИ работе с физическим миром пока нет готовой базы данных — в отличие от языковых моделей, для которых достаточно информации из интернета.

// оригинал
TechOrange 科技報橘 ↗ Читать оригинал
5 просмотров
// поделиться Telegram VK