理论、鲁棒性与核心机器学习
突破级
暂无讲解视频
收录解读
这篇论文把对抗样本问题重新定义为机器感知流形与人类概念流形之间的“指数级错位”。作者定义感知流形为模型高置信度归入某类别的全部输入集合，并估计其维度，发现标准网络的流形维度远高于自然概念流形维度，因此在高维空间中任何输入都离任意类别流形很近，对抗扰动便成为几何必然。价值在于它把鲁棒性问题从“错误特征”讨论推进到“感知几何是否与人类对齐”的层面。