对应论文
Mechanist: AI as a Scientific Instrument for Discovering the Mechanisms of Intelligence
视频简介
AI模型能力强大但机制不清,安全性难以控制,现有机械可解释性探索主要靠人工,效率低。本文提出用AI自动化发现AI智能机制,以弥合理解与控制的鸿沟。 Mechanist系统构建了约1.3万篇可解释性论文的知识图谱,整合覆盖26个领域、4300万篇论文的多学科数据库,并整理32种基础分析方法。作为智能体,它能够自主生成假设、设计实验、验证机制,并与Claude Code等系统比较。 实验声称Mechanist相比Claude Code和现有AI科学家系统能生成更有价值的机制假说、更可靠地执行实验。它发现了跨模态不安全特征可通过看似安全的数据迁移的安全风险,提出了关于信念的机制理论,解释模型如何表征世界知识、形成信念、推测他人信念及其预训练涌现,并将机制见解转化为实际干预,提升多场景性能,引导科学基础模型生成指定DNA序列。 完整 PDF 给出 16 篇论文、9 个主题的盲复现实验,三位专家与两种模型评审均把 Mechanist 排在 Claude Code 和 AI Scientist 之前,并开放代码和数据;但仍缺少外部团队复现和跨科学领域长期检验。