可解释性与机制分析
突破级
暂无讲解视频
收录解读
## 问题与背景 问题与背景：mechanistic interpretability 的一个难点，是很多所谓“机制抽取”仍然缺乏可证性和稳定性。尤其 Transformer 的 block-level 机制，很难做到带保证的抽取。
## 方法/新意 方法/新意：BlockCert 主打 certified blockwise extraction，把解释工作从经验可视化推进到带形式保证的机制抽取。它关注的是如何更可靠地拿到 Transformer 内部可验证的机制块。
## 意义/放在仓库中的位置 意义/放在仓库中的位置：它适合放在 interpretability / mechanism extraction 主线，与 CODEC、capability localization、CoT-Control 形成机制理解工具链。
## 局限/为何不更高 局限/为何不更高：影响目前仍主要局限在 mechanistic interpretability 子社区，外溢到更广模型控制与系统工程还需要时间，因此先定为突破性。