对应论文

OpenART: Scaling Agent Red Teaming via Open-Ended Environment Evolution

视频简介

持久化环境中的早期状态变化会影响长程智能体行为,短静态基准无法捕捉这种累积风险。 OpenART通过环境演化进行开放式红队测试,并提出反馈驱动、无需参数更新的黑盒EMHA攻击策略。 平台含超过一万个状态场景、50个领域、50万工具技能和75种智能体模型配置,任务中位数为97次工具调用。 EMHA聚合攻击成功率85%,相对指令演化的优势随复杂度由约2%升至超过17%,显示运行时实现是独立安全变量。

外部视频链接

论文链接