Глава Anthropic Дарио Амодей в соцсети X ответил на вопросы инвестора Гэвина Бейкера о регулировании ИИ и способах информирования о рисках. Амодей считает, что регулирование не обязательно ведёт к концентрации власти в руках немногих — всё зависит от того, как устроена система. По его мнению, справедливые и объективные правила могут уравновесить влияние компаний и распределить власть.
Он приводит в пример судебную систему: несмотря на то что она иногда кажется элитарной, она лучше защищает права уязвимых людей, чем самосуд. Амодей подчёркивает: власть должна опираться на правила, а не на отдельных людей.
Anthropic осторожно подходит к предложениям по регулированию ИИ. Например, компания поддерживает закон Калифорнии SB53, а к SB1047 относится более сдержанно. Оба закона исключают из регулирования предприятия с низкими затратами на обучение моделей или на их эксплуатацию. В Центре стандартов и инноваций в сфере ИИ (CAISI) и в рамках инициатив Белого дома Anthropic выступает за более строгие тесты для передовых моделей по сравнению с остальными.
Амодей отмечает, что ИИ сам по себе склонен к концентрации власти из‑за действия закона масштабирования. Даже открытые модели не решают проблему полностью: вычислительные ресурсы и чипы по‑прежнему контролируются ограниченным числом компаний. Поэтому регулирование ИИ должно решать несколько задач:
* снижать риски для сетевой и биологической безопасности;
* ограничивать влияние передовых компаний в сфере ИИ;
* оставлять пространство для развития открытых моделей;
* разрабатывать нормы для управления рисками, связанными с такими моделями.
Глава Anthropic поддерживает инициативы по тестированию передовых моделей перед развёртыванием, а также идею создать орган наподобие FINRA для проверки безопасности моделей (эту мысль выдвинул глава Google DeepMind Демис Хассабис).
Амодей стремится учитывать и риски, и потенциал ИИ. В своей статье «Machines of Loving Grace» он рассуждает о возможностях ИИ в медицине и биологии — в частности, о том, что в ближайшие 5–10 лет возможно вылечить большинство болезней. В работе «Policy on the AI Exponential» он сосредоточился на том, как изменить процесс проверки FDA, чтобы не тормозить разработку лекарств с помощью ИИ. На эту тему Амодея подтолкнула личная история: его отец умер от гепатита C незадолго до появления препарата софосбувир, который впоследствии вылечил около 95 % пациентов.
По мнению Амодея, негативное отношение людей к ИИ связано не с частыми предупреждениями о рисках, а с многолетним кризисом доверия к корпорациям, властям и технологической индустрии. Он считает, что громкие маркетинговые кампании не смогут изменить общественное мнение — важнее реальные достижения. Поэтому Anthropic увеличивает вложения в биологию и медицину, чтобы в ближайшие месяцы и годы добиться значимых результатов.
Подписаться в Макс
