Дэвид Сильвер, бывший руководитель проекта AlphaGo, основал компанию Ineffable Intelligence. В апреле компания привлекла 1 млрд долларов инвестиций при оценке в 51 млрд долларов. В отличие от большинства AI-лабораторий, которые работают с большими языковыми моделями (LLM), Сильвер хочет создать систему, способную непрерывно учиться и открывать новые знания без опоры на человеческие данные.
Он считает, что данные, созданные людьми, могут ограничивать развитие AI. Например, для управления сложными системами (например, базовыми станциями связи или механическими руками) языковое мышление не всегда подходит — а использование человеческих данных может переносить в AI человеческие предубеждения. При этом Сильвер не отрицает достижений LLM, но отмечает, что их возможности пока зависят от активного участия людей в процессе обучения.
Подход Ineffable Intelligence основан на двух компонентах: создании масштабной инфраструктуры для обучения с подкреплением (Reinforcement Learning) и разработке симуляционных сред («крацелей» или «горнил», crucibles), где AI сможет самостоятельно открывать знания. Вместо пошагового подведения AI к нужному ответу система будет получать простые цели и погружаться в сложные среды — по аналогии с эволюцией, где принцип «выживает сильнейший» приводит к развитию сложных форм жизни.
Симуляции могут ускорить обучение AI в 10–100 раз за счёт параллельных вычислений и полной воспроизводимости, а также обеспечить более безопасную среду для экспериментов. Однако есть ограничение: навыки, освоенные в симуляции, не всегда применимы в реальном мире. Поэтому команда планирует сначала найти эффективные методы обучения в симуляции, а затем постепенно повышать её реалистичность и проверять, сохраняют ли методы эффективность в более сложных условиях.
Команда Ineffable Intelligence состоит из 20 человек. Они используют вычислительные мощности на платформе Google Cloud с GPU-кластерами на базе оборудования Nvidia Vera Rubin. Сильвер прогнозирует, что в течение года появятся убедительные доказательства правильности выбранного направления. По его оценке, создание сверхинтеллекта (способного совершать открытия в науке, математике, технике и языке, превосходящие человеческие возможности) может занять около 3 лет — раньше он оценивал срок в 3–5 лет, но ускорение исследований благодаря AI в программировании сократило этот срок.
Подписаться в Макс
