推理、记忆与推理时控制 突破级 暂无讲解视频
发表时间
2026-03-23
arXiv
2603.21928

收录解读

Continual test-time adaptation 一直有一个现实矛盾:想提升在线适应效果,就往往要更新更多参数;但一旦更新太多,推理效率和稳定性都会快速变差。现有很多方法在效率与泛化之间做经验折中,但较少给出更干净的机制解释。

The Golden Subspace 的核心贡献,是提出并分析一个最小适应子空间:在单步适应设定下,这个子空间与预训练分类器的行空间重合。论文进一步用 sample-wise Average Gradient Outer Product 作为在线估计 proxy,并据此构造 GOLD,把 continual adaptation 压缩到一个动态维护的小子空间内进行。这样一来,CTTA 的问题不再只是‘更新多少层’,而是‘更新应局限在哪个可解释子空间’。

它值得正式收录,因为 test-time adaptation 主线里真正稀缺的是机制层澄清。这篇工作既给了结构性解释,也给了可以实际运行的在线方案,属于理论和系统实现结合得比较紧的路线。对本仓库强调的 deployment-time adaptation 来说,这种 work 比单纯刷分更耐久。

它没有升到更高一级,是因为当前理论结果和系统实现仍主要围绕视觉分类/分割等 CTTA 场景,跨更广模态和任务的外溢还需进一步验证。现阶段它是很强的 CTTA clarification + method paper,但尚未形成更高一级的范式替换。

链接