脑电基础模型开始接受审计：高分背后，AI究竟学会了哪些脑信号知识？

作者丨论文团队

编辑丨ScienceAI

脑电（EEG）是人工智能与神经科学交汇处最常见、也最难读懂的信号之一。它能以毫秒级分辨率记录大脑活动，却同时混合着频率节律、通道关系、复杂度和跨频耦合等多类结构。

过去，研究人员主要依靠频带功率、Hjorth 参数、谱熵、样本熵、相干性等手工特征理解 EEG。近几年，EEG foundation models 开始直接从大规模原始信号中学习表示，再迁移到睡眠分期、癫痫检测、抑郁识别、压力检测等任务。

当模型分数变高，真正重要的问题也随之改变：它不只是能不能分类，而是究竟凭什么分类。

来自上海人工智能实验室、上海交通大学、同济大学、复旦大学和休斯顿大学的研究团队，在论文「What Do EEG Foundation Models Capture from Human Brain Signals?」中，将这个问题转化为一次系统审计：基础模型到底学到了哪些可解释脑电知识，真正用了哪些知识，这些知识又能解释多少模型优势。

论文链接：https://arxiv.org/abs/2605.11410

代码链接：https://github.com/Kian-Chen/BrainPEC

高分之后，还缺一条证据链

在临床 EEG 分析和脑机接口应用中，性能不是完整答案。模型如果无法说明自己依赖哪些信号证据，跨人群、跨设备、跨任务时的可靠性仍然难以评估。

这项研究把解释问题拆成三层证据：经典 EEG 特征能否从模型表示中被读出；擦除相关表示后性能是否下降；被确认使用的特征能否组成透明分类器，追回基础模型相对于随机特征基线的优势。

因此，它不是只问「模型里有没有信息」，而是继续追问「模型是否真的用它做判断」，让可解释性从事后可视化变成更接近科学验证的证据链。

图 1：论文整体框架。研究从 6 大家族、63 个手工 EEG 特征出发，对基础模型依次进行 Probe、Erase 和 Closure 审计。

三类对象，被放进同一张审计表

研究覆盖 3 个 EEG foundation models：CSBrain、CBraMod 和 LaBraM；5 个临床 EEG 分类任务：MDD、Stress、ISRUC-Sleep、TUSL 和 Siena；以及 6 大家族、63 个手工 EEG 特征。

三者组合形成 3 × 5 × 63 = 945 个「模型—任务—特征」审计单元。第一步 Probe 使用逐层 ridge probing，从隐藏表示中预测手工特征。结果显示，847/945 个单元通过编码标准，占比 89.6%；63 个特征全部至少在一个组合中被编码。

图 2：逐层 probing 结果。颜色越亮，表示对应特征家族越容易从模型隐藏表示中被读出；三角形标记峰值层。

知道，不等于用上

只做 probing 很容易把「模型知道什么」误读成「模型依赖什么」。为此，研究团队进一步使用 LEACE-style subspace erasure，在特征编码最强的层上擦除相关子空间，再观察性能变化。

若擦除后性能显著下降，该特征被视为 representation-causal；若能读出但不影响表现，则属于 encoded-only。结果显示，648 个单元（68.6%）通过 representation-causal 标准，199 个（21.1%）属于 encoded-only。

这说明 EEG 基础模型会在任务目标下选择性调用表征。对科学解释而言，「读得出来」和「被用来决策」必须分开讨论。

图 3：63 个手工特征的编码率与 representation-causal 通过率。浅色表示可读出，深色表示擦除后影响性能。

模型看的不是单一指标

从特征家族看，频域特征最突出，这与传统 EEG 分析中频带功率和频谱形状的重要性一致。但时间域形态、时频包络、复杂度、跨频耦合和跨通道关系也在不同任务中提供信息。

研究还控制了家族内冗余，避免把相关特征的重复表达误认为独立贡献。结果显示，基础模型捕获的不是单一频带功率，而是一组跨尺度、多通道、多家族的 EEG 结构。

图 4：特征家族层面的学习与使用总结，以及家族内冗余控制后的擦除效果。

透明特征能追回多少模型优势

最后一步 Closure 检验解释是否「够用」。作者将被确认使用的特征取出，训练透明 logistic regression 分类器，并与随机特征基线、原始基础模型比较。

结果显示，这些确认特征平均恢复了基础模型优势的 79.3%。MDD 和 Sleep 几乎可被现有手工特征解释；Siena 位于中间；TUSL 和 Stress 仍留下更明显的未解释部分。

这些剩余部分不只是「解释失败」。更谨慎地说，现有 6 大家族、63 个特征尚未完全覆盖基础模型使用的全部有效信号，也为后续 EEG 概念发现提供了入口。

图 5：Closure 结果。确认被使用的透明特征平均恢复 79.3% 的基础模型优势，不同任务之间存在清晰梯度。

让基础模型成为可复查的科学工具

对于 AI for Science 来说，这项工作的重要性不只在于解释几个 EEG 模型。它提供了一种更一般的思路：当基础模型进入科学数据，研究者需要的不只是排行榜分数，也需要知道模型是否重新发现已知规律、是否真正使用这些规律。

当模型表征与经典特征高度重叠，这种重叠让模型更可信，也相当于用机器表征为传统脑电知识提供了一次独立验证；当模型表现很好却仍难以被现有特征词典解释，留下的缺口则可能指向尚未被命名的新神经标志物候选。

更高一层看，这也是机器脑在「读」生物脑、生物脑又反过来「读」机器脑的过程。机器学习模型从原始 EEG 中抽取结构，研究者再用几十年积累的脑电知识审计模型内部表征。XAI for Science 的价值，或许正在这种双向读取中显现。

未来真正有影响力的 EEG AI，可能不会只是在测试集上多提高几个百分点，而是能够把高维神经网络表征转化为可复查的脑信号证据。一方读懂自己的过程，恰好成了另一方生长的起点。