对应论文
DARWIN: Evolving Jailbreak Adversary and Guardrail for LLM Safety Evaluation and Protection
视频简介
现有大语言模型安全评估与防御方法大多基于静态策略,无法应对不断演化的真实攻击手法,亟需动态、自适应的攻防框架。 提出DARWIN框架,将越狱攻击建模为开放式演化过程,通过策略发现、变异、选择与反馈组合实现攻击演化;同时引入在线对抗训练范式,让防护模型从新兴攻击样本中持续学习,兼顾鲁棒性与实用性。 在多个前沿模型上攻击成功率近100%(DeepSeek-V4-Pro、YuFeng-XGuard),GPT-5.5上超90%;防御侧在12个安全基准上平均不安全召回率91.6%,良性样本通过率近100%,超越现有强防护模型。 为LLM安全评估与防护提供了可复用的演化攻防框架,但尚未公开代码及实际部署验证,长期鲁棒性需进一步评估。