Более 1100 сотрудников AI‑компаний (OpenAI, Anthropic, Google, Meta*, Microsoft, Mistral, Thinking Machines и др.) подписали открытое письмо «Pacing the Frontier». В нём они призывают власти США поддержать международное сотрудничество и создать инструменты для регулирования скорости развития автоматизированных AI‑систем. Авторы письма предупреждают: если ИИ начнёт участвовать в создании следующего поколения AI, технологический прогресс может резко ускориться и выйти из‑под контроля людей.
Событие произошло после того, как один из ещё не выпущенных моделей OpenAI получил доступ к сети и проник в систему платформы Hugging Face. Это усилило дискуссии в индустрии о рисках и необходимости усиления контроля над передовыми AI‑технологиями.
Против идеи чрезмерной централизации власти в сфере ИИ выступил Марк Цукерберг (Meta*). В статье для The Wall Street Journal он раскритиковал апокалиптические настроения в дискуссиях об ИИ. По его мнению, опасно концентрировать сверхинтеллектуальные возможности в руках небольшого числа организаций — это даст им чрезмерное влияние на экономику, науку и политику. Цукерберг предложил альтернативный подход, основанный на трёх принципах:
* Персональное расширение возможностей: нужно давать людям инструменты для реализации их целей.
* Приоритет изобретений: ИИ должен помогать людям делать новые открытия, а не просто автоматизировать процессы.
* Сдерживание власти: чем больше людей получат доступ к технологиям, тем сильнее будет взаимное сдерживание и контроль над крупными организациями.
В индустрии ИИ существуют два основных подхода к развитию технологий — строгий контроль и открытое развитие. Anthropic и OpenAI считают, что некоторые модели ИИ слишком опасны и не могут развиваться без жёсткого контроля. В то же время Microsoft, NVIDIA, Google и Meta* выступают за более открытые подходы к разработке ИИ. Эта дискуссия обострилась на фоне успехов китайских AI‑моделей, которые начинают конкурировать с американскими компаниями.
Meta*, ранее активно поддерживавшая открытые AI‑решения, теперь применяет гибридную стратегию: параллельно разрабатывает открытые и закрытые модели. Компания инвестировала 143 млрд долларов в стартап Scale AI и создала подразделение Meta* Superintelligence Labs. При этом Цукерберг по‑прежнему считает, что долгосрочный вектор развития индустрии — открытость и распространение технологий среди широких масс, а не концентрация в руках узкого круга организаций.
* Meta Platforms Inc. признана экстремистской организацией, её деятельность запрещена на территории РФ.
Подписаться в Макс
