对应论文
Adaptive Adversaries: A Multi-Turn, Multi-LLM Benchmark for LLM Agent Security
视频简介
LLM代理处理外部内容时面临提示注入和多轮操控威胁,但现有安全基准多依赖攻击池固定、单轮或非自适应评估,难以反映真实攻击的演化能力。本文针对无状态LLM防御者,提出覆盖21个场景的自适应多轮攻击基准。 核心方法为自主LLM攻击者根据前序防御响应在多轮间调整策略,同时保持每轮防御交互独立。通过控制场景、攻击者、防御者和结构化输出评分固定,仅将评分限制于首轮攻击时成功率为0-1%,而允许15轮自适应攻击后成功率升至5.4-14.0%。 实验使用三个前沿LLM(Claude Opus 4.6, GPT-5.4, Gemini)进行3×3矩阵评估,收集945份转录和18,422场战斗。多攻击者联合挖掘出比最佳单攻击者多1.4-2.2倍的独特成功攻击,且生成攻击与现有基准余弦相似度仅0.02-0.14。统计显示各防御者排名在不同场景下不一致(Kendall's W=0.19),13/21场景可区分至少一对防御者。 该基准提供了可复用的评估框架、代码、数据和攻击回放集,揭示了单轮评估的局限性及防御间分布差异,但对非前沿LLM的通用性待验证。作为一个实用基准,它有望推动LLM代理安全研究向自适应对抗评估发展,但尚未达到重塑领域蓝图的程度。