神经科学与认知科学
突破级
有讲解视频
收录解读
医疗时间序列建模，尤其是 EEG、ECG 这类多通道生物信号，通常不是由完全对等的 token 彼此自由交互而成，而更接近由少数中心性信号源驱动并向全局传播。本文把问题直接指向标准 Transformer 的结构失配：去中心化的全注意力机制并不适合这种“中心化源、全局观测”的医学时序数据，因此在长序列、多通道和跨通道依赖上会付出不必要的代价。
作者提出 CoTAR（Core Token Aggregation-Redistribution）结构，用单一核心 token 先聚合多通道时序中的全局信息，再把整合后的信息重新分发给局部 token，从而替代标准 attention 中每个 token 对所有 token 的均匀交互。这个设计的关键不是单纯省算力，而是显式引入一种与医疗时序生成机制更相符的归纳偏置，让模型优先学习中心化生理信号与局部观测之间的关系。
这篇论文适合仓库的认知科学 / 生物医学时序 AI 主线，也能覆盖医疗时间序列建模这条应用主线。它的价值在于提出了一个对领域结构有针对性的 Transformer 替代思路，而不是泛化地追求更轻量的 attention 近似。若后续在 EEG、ECG、ICU 多模态生理监测等任务上被复用，外溢价值会很明显。
它目前归为突破性而不是更高一级，原因是证据仍主要集中在医疗时间序列这一垂直领域，外溢到通用序列建模或更大规模基础模型路线还没有被充分证明。它更像一篇强的领域型架构论文，而不是已经改写通用 Transformer 路线的总纲领工作。