可解释性与机制分析
突破级
暂无讲解视频
收录解读
这篇论文重要的地方是把 transformer memory、冲突仲裁和 confident hallucination 放进同一个几何解释框架。它关注的不是某个 hallucination benchmark，而是模型记忆如何在内部形成吸引子结构。
如果这个 framing 成立，它能解释为什么模型在证据冲突、模式补全和错误确信之间会表现出稳定但错误的输出。这类机制性解释对 memory editing、retrieval augmentation 和 hallucination mitigation 都有直接参考价值。
它值得正式收录，因为本库对 interpretability 的要求不是漂亮可视化，而是能改变我们理解模型内部状态和失效模式的结构化解释。Attractor geometry 正好落在这个层面。
它没有更高，是因为这类理论解释需要更多模型、任务和干预实验来验证；当前还不应把它视为 transformer hallucination 的完整统一理论。