网易首页 > 网易号 > 正文 申请入驻

ICLR 2026 | NeuroAdapter:直接从大脑信号“画”出你所见

0
分享至



如果人类的大脑能直接连接打印机,将我们脑海中闪过的画面实时还原出来,这个世界会变成什么样?

这听起来像是在致敬《盗梦空间》,一项名为 NeuroAdapter 的视觉解码框架正让这一幕变得触手可及。

来自哥伦比亚大学研究团队的最新成果表明,我们不仅能从 fMRI(功能磁共振成像)信号中高保真地重建视觉图像,还能第一次看清:到底是哪块脑区在“指挥”这场艺术创作。



01 告别“中间商”:脑信号直接转化

传统的脑电图像重建就像玩“传声筒”游戏:先要把大脑信号翻译成一段文字或中间特征,再交给 AI 去画图。 痛点很明显:信息在层层转手间失真了,而且你根本分不清哪些细节来自大脑,哪些又是 AI 自己的瞎编。



左图:典型的两阶段解码流程首先将大脑活动映射至中间特征空间(例如 CLIP/DINO),随后利用这些嵌入向量来引导生成模型。右图:我们的端到端方法直接以大脑活动为条件来驱动潜在扩散模型,从而实现了对图像空间与大脑空间中生成动态的解读。

NeuroAdapter 选择了最硬核的路线:端到端直连。它舍弃了冗余的中间特征空间,直接让大脑表征去“约束”潜在扩散模型(LDM)的生成过程。下图为NeuroAdapter 训练流程。皮层分区 + 线性映射 + 扩散控制。通过将脑皮层顶点数据直接映射为“大脑标记(tokens)”,AI 就像直接读取了大脑的底层逻辑,重构质量直接比肩目前最前沿的复杂算法。



(a) fMRI 数据采集范式;(b) 皮层分区;(c) 基于分区的线性映射,将顶点数据映射为大脑表征标记(tokens);以及 (d) 利用这些标记对潜在扩散模型(Latent Diffusion Model)进行条件控制,以实现图像重构。

该框架的另一个重要组件是大脑编码器。受 Kneeland 等人的启发,研究人员使用了一个基于相同 fMRI 图像训练数据集训练的全脑编码器,以在评估过程中识别最佳解码刺激。



(a) 基于大脑编码器的图像选择示例:针对一个 NSD 测试样本,利用预测的 fMRI 响应与实测的 fMRI 响应之间的皮尔逊相关系数进行图像筛选。(b) 红色曲线:由解码图像预测出的大脑活动与实测大脑活动之间的相关性。蓝色曲线:针对测试集中的刺激图像所预测的大脑活动与对应的 fMRI 响应之间的相关性。

02 IBBI 框架:给大脑解码装上监测器

光能画出来还不够,科学家更想知道“为什么”。 研究团队引入了一种“图像—大脑双向可解释性框架”(IBBI),通过分析扩散去噪过程各阶段的交叉注意力模式,来揭示不同皮层脑区如何影响生成过程的演进轨迹。本研究不仅突显了端到端“大脑—图像”重建技术的巨大潜力,更为实现可解释的神经解码确立了一条可行路径。

通过监控扩散去噪过程中的“交叉注意力模式”,IBBI 就像一台高速摄影机,捕捉到了惊人的动态:

早期阶段:图像还是一团混沌时,大脑的注意力是“漫射”的,在广泛搜寻结构。

中后期阶段:随着轮廓显现,注意力迅速“收敛”,精准锁定在图像的核心内容上。

团队甚至给脑区排了序,划分出五个层级。 这种可视化方案让我们一眼就能识别出谁是主导生成的“高影响力脑区”,谁又是打酱油的“次要脑区”。



03 因果扰动实验:遮住“高级语义区”会怎样?

为了验证这套逻辑的可靠性,研究者探索了其“因果扰动”。 他们尝试对特定的感兴趣区域(ROI)进行遮蔽:

遮掉低层级脑区:生成的图像语义基本没变,就像少了点无关紧要的噪点。

遮掉高层级脑区:图像瞬间崩塌,内容发生彻底改变!



模型对比。在八项图像质量指标上,对现有方法与本方法(NeuroAdapter)的解码性能进行了对比。为确保对比的公平性,图中结果均以相对于“特定受试者的 ImageNet 检索基线”的相对提升幅度形式呈现。



图示为去噪过程中平均脑区贡献向量在皮层表面的投影示例。黄色区域表示在去噪过程中影响较大的脑区,蓝色区域则表示影响较小的脑区。

实验数据证明,NeuroAdapter 在高级语义指标上表现尤为强悍,甚至在没有独立低级通路的情况下,依然跑出了极其扎实的性能指标。

04 未来:如何从形似走向神似

论文团队在讨论中提到一个深刻的观点:目前的脑解码基准测试已经快“饱和”了。 很多时候得分高只是因为 AI 模型更强,而不是我们更懂大脑。

NeuroAdapter 的意义在于,它提供了一个“神经活动—生成过程”的交互界面。当我们能以双向互联的方式将脑活动与图像特征紧密耦合,脑机接口将不再是一个黑盒,而是一条通往理解人类意识的透明路径。

下一步,团队将致力于解决扩散模型自带的随机性波动,让“大脑画笔”更加稳定、一致。

也许不久后的未来,我们分享梦境的方式,将不再是苍白的文字,而是一张精准重构的快照。



脑机接口社区是国内首家脑机接口(BCI)产业服务平台、国内脑机接口新媒体开创者与引领者。主要为企业、科研团队、投资机构和从业者提供以下服务:

宣传报道:图文、短视频、直播形式报道企业动态、技术解读、产品介绍等内容,提升曝光和行业影响力。

资源对接:根据需求匹配资本、供应链、临床机构、渠道方等资源,完成真实对接,促进合作。

成果转化:协助技术团队寻找产业方、投资人及落地场景,推动技术到产品的转化。

活动策划执行:承接线上线下路演、沙龙、论坛等活动的策划与执行。

其他定制需求:包括报告定制、市场调研、人才招聘支持等个性化服务。


合作洽谈,请联系微信:ZuoLeiLeiya

(备注:姓名-单位-合作)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中考分流之下:考不上高中的孩子,将要面对怎样的人生

中考分流之下:考不上高中的孩子,将要面对怎样的人生

青苹果sht
2026-09-07 05:47:54
南宁站台纵身一跃:成年人最大的残忍,是抛下所有责任离场

南宁站台纵身一跃:成年人最大的残忍,是抛下所有责任离场

生活魔术专家
2026-09-08 18:30:31
9月好运翻盘!家有这3生肖家中坐镇,小人退散,横财主动找上门

9月好运翻盘!家有这3生肖家中坐镇,小人退散,横财主动找上门

毅谈生肖
2026-09-09 12:03:54
属相兔大喜临门!9月10日后,两大顶级喜事扎堆到来,富贵无忧!

属相兔大喜临门!9月10日后,两大顶级喜事扎堆到来,富贵无忧!

爱下厨的阿酾
2026-09-09 05:47:55
特朗普和普京通话,“双普合流”施压乌克兰结束战争

特朗普和普京通话,“双普合流”施压乌克兰结束战争

山河路口
2026-09-09 11:55:28
国米主帅齐沃向恩师皇马主帅穆里尼奥表达敬意:遇到穆里尼奥是我的幸运!

国米主帅齐沃向恩师皇马主帅穆里尼奥表达敬意:遇到穆里尼奥是我的幸运!

福酱的小时光
2026-09-08 15:18:09
谢贤前女友Coco直播被说丑,本人回应:“姐都40岁了,把头发往下一放还是迷倒一大片的”

谢贤前女友Coco直播被说丑,本人回应:“姐都40岁了,把头发往下一放还是迷倒一大片的”

韩小娱
2026-09-04 05:54:22
应急管理部原党委书记、部长王祥喜被“双开”

应急管理部原党委书记、部长王祥喜被“双开”

新京报
2026-09-08 17:08:09
我的第一个情人是邻家嫂子,她比我大7岁,那时我23岁,她30岁

我的第一个情人是邻家嫂子,她比我大7岁,那时我23岁,她30岁

千秋文化
2026-08-24 20:32:17
iPhone 18 Pro Max开始预热,但价格和配色却对不上

iPhone 18 Pro Max开始预热,但价格和配色却对不上

搞机小帝
2026-09-08 23:58:03
WTT冠军赛!女单爆大冷,国乒遇首败,王艺迪出局,张本美和笑了

WTT冠军赛!女单爆大冷,国乒遇首败,王艺迪出局,张本美和笑了

南海浪花
2026-09-09 12:20:59
马克·古尔曼:苹果首款折叠屏手机被命名为“iPhone Duo”,起售价2000美元

马克·古尔曼:苹果首款折叠屏手机被命名为“iPhone Duo”,起售价2000美元

界面新闻
2026-09-09 12:10:42
蔡国庆每月给弟弟蔡军发2万工资,发了20年,一共480万,条件就一个:在家全职照顾得阿尔茨海默症的母亲

蔡国庆每月给弟弟蔡军发2万工资,发了20年,一共480万,条件就一个:在家全职照顾得阿尔茨海默症的母亲

背包旅行
2026-08-29 15:43:56
韩信临死方才幡然醒悟:真正害死自己的根本不是吕后,而是那个整日对他点头哈腰的人

韩信临死方才幡然醒悟:真正害死自己的根本不是吕后,而是那个整日对他点头哈腰的人

磊子讲史
2026-08-21 18:05:20
大降价果然立竿见影!8月奔驰E级又交付9200台!市场成绩确实优秀

大降价果然立竿见影!8月奔驰E级又交付9200台!市场成绩确实优秀

沙雕小琳琳
2026-09-09 08:19:51
中美谈判结束,中方上将登机回国,台海结局已经写好,美战机改道

中美谈判结束,中方上将登机回国,台海结局已经写好,美战机改道

铁锤侃侃而谈
2026-09-09 09:32:52
TA:维尔茨喝的樱桃汁,成英超新补剂

TA:维尔茨喝的樱桃汁,成英超新补剂

懂球帝
2026-09-08 18:05:11
2026年中秋节放假通知:3个好消息、2个坏消息、3个要注意,早知道

2026年中秋节放假通知:3个好消息、2个坏消息、3个要注意,早知道

小谈食刻美食
2026-09-09 08:39:17
与辛柏青再婚真相大白后,吴越传来好消息,连陈建斌也难以反驳

与辛柏青再婚真相大白后,吴越传来好消息,连陈建斌也难以反驳

阿讯说天下
2026-09-09 11:43:20
警方抓获卖淫女后不追查嫖客,不是懒政,而是法律不允许?

警方抓获卖淫女后不追查嫖客,不是懒政,而是法律不允许?

网络易不易
2026-09-09 12:40:11
2026-09-09 13:31:00
脑机接口社区 incentive-icons
脑机接口社区
关注脑机前沿,分享脑机技术
384文章数 32关注度
往期回顾 全部

科技要闻

AI重大突破!OpenAI称解开近百年数学难题

头条要闻

4岁男童被指摸臀 父亲发声:无法接受出具书面道歉要求

头条要闻

4岁男童被指摸臀 父亲发声:无法接受出具书面道歉要求

体育要闻

16年后再破门,被皇马放弃的少年没认输

娱乐要闻

郭麒麟最便宜贵公子争议,本人未回应

财经要闻

8月CPI同比涨0.8% PPI环比由降转涨

汽车要闻

坦克700申报信息曝光 长轴距版轴距增150mm/首搭6座

态度原创

健康
旅游
家居
手机
亲子

中风康复为何像“抽丝剥茧”?

旅游要闻

上海旅游节大巡游花车阵容抢先看 外滩交通有变

家居要闻

2026建博会(广州) 公装联探展交流活动

手机要闻

小米18 Fold中折叠手机相机玩法公开:两种形态,多种视角

亲子要闻

我们ee也有了属于自己的天籁之音

无障碍浏览 进入关怀版