1 含有标签「adversarial-testing」

AI Agent 红队测试：发现真实漏洞的对抗性测试方法论

一套在生产环境中对 AI Agent 进行红队测试的实用方法论——涵盖了目标劫持、工具级攻击、多智能体利用、记忆投毒，以及为什么聚合指标会掩盖最重要的系统故障。