推理、记忆与推理时控制
突破级
暂无讲解视频
收录解读
这篇论文关注一个对后训练和模型控制都很关键的问题：模型通过指令微调或推理训练获得的行为，是否可以在不重新训练目标模型的情况下迁移到另一个模型。作者提出 Master Key Hypothesis，认为能力可以表示为低维潜在子空间中的方向，并能通过线性子空间对齐跨模型映射。
方法上，Unlock 先用同一家族或相关模型中的 capability-present / capability-absent 变体做激活对比，提取能力方向，再用低秩线性变换把该方向映射到目标模型表示空间，最后在推理时作为 normalized activation intervention 注入。整个流程不需要标签、不需要梯度训练，主要依赖前向激活和线性对齐。
它值得收录，因为它把 steering vector 从风格/安全控制推进到能力迁移问题，并给出了一个可复用的训练外能力注入接口。论文在 CoT、GSM8K、MATH、SVAMP 等推理行为上展示了跨尺度迁移收益，尤其说明部分后训练收益可能来自对已有潜在能力的可达性重塑，而不一定是全新能力写入。
主要限制是证据仍集中在推理行为和相对可控的模型家族/规模迁移上，Master Key 还更像一个强假设而非已被广泛验证的定律。它目前不能替代系统性后训练，也没有充分证明复杂多能力组合、跨架构迁移和长期副作用，因此定为突破而不是颠覆。