Безопасность AI-агентов: риски и меры защиты на примерах
AI-агенты несут ряд рисков безопасности из‑за автономного характера и адаптивности. Среди угроз — инъекция промптов, утечка данных, каскадные ошибки между агентами. Для защиты необходимо ограничивать права, внедрять подтверждение человеком высокорисковых операций, вести журналы аудита и опираться на отраслевые руководства и стандарты. Примеры рисков — уязвимость EchoLeak в Microsoft 365 Copilot и утечка данных с серверов Supabase MCP.
читать →
~6 мин
123 просмотра