15 октября (по местному времени) компания Anthropic начала предоставлять команде американской некоммерческой организации METR доступ к своим системам на уровне сотрудников. Шесть сотрудников METR получат от Anthropic терминалы и офисные помещения, а также доступ к внутренним инструментам и системам компании. При этом некоторые категории данных (например, данные клиентов и информация об архитектуре моделей) останутся недоступными.
Anthropic разработала трёхуровневую схему взаимодействия с оценочными организациями. METR находится на третьем, высшем уровне. На первом уровне работает SecureBio — для доступа к системам Anthropic ему требуется одобрение компании. В задачи SecureBio входит, в частности, рецензирование раздела о химическом и биологическом оружии. Кроме того, Anthropic ведёт переговоры с Accenture, Faculty, Hugging Face и другими организациями.
METR будет публиковать анализ уровня рисков и инцидентов, связанных с деятельностью Anthropic. При этом Anthropic не может отказаться от публикации отчётов, но вправе запросить цензурирование информации в заранее определённых категориях. METR, в свою очередь, может обнародовать своё мнение о том, было ли цензурирование обоснованным.
14 октября METR опубликовала предложение по оценке для всех передовых AI‑компаний. Цель инициативы — предоставить общественности больше материалов для оценки рисков, связанных с невозможностью контроля ИИ со стороны разработчиков. METR планирует получать доступ к данным на терминалах компаний, проводить интервью с сотрудниками и в течение нескольких недель публиковать предварительные отчёты. При этом уровень доступа не будет равен уровню старших сотрудников компании.
Организация выделяет три критерия оценки: возможность вредоносных действий, возможность их обнаружения и риск слишком быстрого ускорения повышения способностей.
CEO OpenAI Сэм Альтман поддержал идеи Амодеи (CEO Anthropic) и сообщил о намерении реализовать аналогичные меры. В настоящее время OpenAI завершает окончательные договорённости с внешними органами по оценке безопасности — детали будут опубликованы в ближайшие несколько недель.
IDCF495・
GoogleGeminiClaude
1
7660
2
WebStudioAPI
3
4
MicrosoftClaude CodeCopilot CLI
5
6
530
7
→71
8
TeslaRoadsterSpaceX“”
9
2252API
10
Microsoft3
ITmedia News
Tweets by itmedianews
@itmedianews
Подписаться в Макс
