对应论文
视频简介
本文针对大型语言模型(LLM)提供商隐藏思维链(CoT)以保护知识产权和限制信息泄露的现状,发现了一个架构性漏洞:加密的推理轨迹块在不同会话、用户甚至模型之间完全兼容且可互换。这一特性使得攻击者能够利用同一提供商的较弱、防护较弱的模型来解密并输出加密的推理轨迹,从而绕过对高性能模型的直接越狱限制。 核心方法是一种可扩展的解密越狱攻击:将目标模型生成的加密推理轨迹注入到同一提供商的较弱模型中,迫使弱模型逐字解码并输出明文轨迹。该攻击无需直接攻击强模型,即可实现多种恶意目的,包括窃取专有推理过程、大规模提取私有数据、揭示危险隐藏信息以及嵌入不可见提示注入。 实验在Anthropic、OpenAI和Google等主流提供商上验证了攻击有效性。从公开仓库中抓取的315,320个推理块中成功解密出367个PII工件和182个凭证,并展示了四个攻击向量的实际威胁。此外,作者还提出了针对性的密码学和系统级缓解措施,并进行了负责任披露。 该工作首次揭示了加密推理轨迹的可互换性这一系统性安全缺陷,对LLM服务的安全设计具有重要警示意义。它改变了人们对客户端加密数据安全的认知,但尚局限于特定实现机制,未形成普适的防御框架,因此属于颠覆性成果而非范式转变。