对应论文

From Detection to Refusal: Safer LLMs via Circuit-Guided Weight Scaling

视频简介

现有安全对齐能诱导拒答,但有害输入如何被检测、传递并转换成拒绝行为仍不透明,也容易在越狱提示下失效。 论文识别出由有害检测头、安全神经元和拒绝头组成的多阶段安全电路,并用头部消融、神经元干预和激活补丁验证各阶段的因果关系,再以结构不变的权重缩放增强电路。 跨Llama、Mistral、Guanaco和Qwen等六个模型、GCG及多种附加攻击评估后,平均安全率提升26.5%,四项能力基准平均仅下降1.7%;盲评和组件稳定性实验进一步支持结果。 工作同时给出可解释机制和低成本干预方式,在安全工程与机械可解释性之间形成可迁移桥梁;但电路是静态快照,模型更新和自适应攻击下的长期稳定性尚未知。

外部视频链接

论文链接