Компания Anthropic исследовала, насколько модель Claude 3 следует заданным принципам и ценностям в общении с пользователями. Чтобы оценить ценности модели, исследователи использовали данные World Values Survey — академического проекта, который проводит опросы о ценностях людей в разных культурах мира. Claude 3 пришлось ответить на тысячи вопросов из этого опроса на разных языках. Затем ответы модели сравнили с данными опросов людей из соответствующих языковых регионов.
Выяснилось, что Claude 3 демонстрирует очень схожие базовые ценности независимо от языка общения. При этом профиль ценностей модели сильно коррелирует с западными ценностями. Исследование также проверяло, следует ли Claude 3 правилам, ценностям и принципам, заложенным с помощью Constitutional AI. Особенно заметно это проявилось в ответах на арабском языке: они часто не соответствовали средним статистическим значениям для арабоязычных стран.
По мнению исследователей Anthropic, эксперимент показал, что ИИ‑модель способна стабильно действовать в соответствии с заданными принципами. В дальнейшем компания планирует искать способы создать ИИ, который будет универсально безопасным и при этом сможет уважать и представлять культурное разнообразие населения планеты.
Подписаться в Макс
