Anthropic: риски взаимодействия AI Agent и новая парадигма безопасности
Anthropic выявила серьёзные риски взаимодействия AI Agent: от ценового сговора до «хакерских войн» между агентами. Однородность моделей повышает вероятность синхронных ошибок и системных сбоев. Предприятиям необходимо пересмотреть парадигму безопасности и разработать новые меры контроля для многоагентных систем.