网易首页 > 网易号 > 正文 申请入驻

ICLR 2026 | NeuroAdapter:直接从大脑信号“画”出你所见

0
分享至



如果人类的大脑能直接连接打印机,将我们脑海中闪过的画面实时还原出来,这个世界会变成什么样?

这听起来像是在致敬《盗梦空间》,一项名为 NeuroAdapter 的视觉解码框架正让这一幕变得触手可及。

来自哥伦比亚大学研究团队的最新成果表明,我们不仅能从 fMRI(功能磁共振成像)信号中高保真地重建视觉图像,还能第一次看清:到底是哪块脑区在“指挥”这场艺术创作。



01 告别“中间商”:脑信号直接转化

传统的脑电图像重建就像玩“传声筒”游戏:先要把大脑信号翻译成一段文字或中间特征,再交给 AI 去画图。 痛点很明显:信息在层层转手间失真了,而且你根本分不清哪些细节来自大脑,哪些又是 AI 自己的瞎编。



左图:典型的两阶段解码流程首先将大脑活动映射至中间特征空间(例如 CLIP/DINO),随后利用这些嵌入向量来引导生成模型。右图:我们的端到端方法直接以大脑活动为条件来驱动潜在扩散模型,从而实现了对图像空间与大脑空间中生成动态的解读。

NeuroAdapter 选择了最硬核的路线:端到端直连。它舍弃了冗余的中间特征空间,直接让大脑表征去“约束”潜在扩散模型(LDM)的生成过程。下图为NeuroAdapter 训练流程。皮层分区 + 线性映射 + 扩散控制。通过将脑皮层顶点数据直接映射为“大脑标记(tokens)”,AI 就像直接读取了大脑的底层逻辑,重构质量直接比肩目前最前沿的复杂算法。



(a) fMRI 数据采集范式;(b) 皮层分区;(c) 基于分区的线性映射,将顶点数据映射为大脑表征标记(tokens);以及 (d) 利用这些标记对潜在扩散模型(Latent Diffusion Model)进行条件控制,以实现图像重构。

该框架的另一个重要组件是大脑编码器。受 Kneeland 等人的启发,研究人员使用了一个基于相同 fMRI 图像训练数据集训练的全脑编码器,以在评估过程中识别最佳解码刺激。



(a) 基于大脑编码器的图像选择示例:针对一个 NSD 测试样本,利用预测的 fMRI 响应与实测的 fMRI 响应之间的皮尔逊相关系数进行图像筛选。(b) 红色曲线:由解码图像预测出的大脑活动与实测大脑活动之间的相关性。蓝色曲线:针对测试集中的刺激图像所预测的大脑活动与对应的 fMRI 响应之间的相关性。

02 IBBI 框架:给大脑解码装上监测器

光能画出来还不够,科学家更想知道“为什么”。 研究团队引入了一种“图像—大脑双向可解释性框架”(IBBI),通过分析扩散去噪过程各阶段的交叉注意力模式,来揭示不同皮层脑区如何影响生成过程的演进轨迹。本研究不仅突显了端到端“大脑—图像”重建技术的巨大潜力,更为实现可解释的神经解码确立了一条可行路径。

通过监控扩散去噪过程中的“交叉注意力模式”,IBBI 就像一台高速摄影机,捕捉到了惊人的动态:

早期阶段:图像还是一团混沌时,大脑的注意力是“漫射”的,在广泛搜寻结构。

中后期阶段:随着轮廓显现,注意力迅速“收敛”,精准锁定在图像的核心内容上。

团队甚至给脑区排了序,划分出五个层级。 这种可视化方案让我们一眼就能识别出谁是主导生成的“高影响力脑区”,谁又是打酱油的“次要脑区”。



03 因果扰动实验:遮住“高级语义区”会怎样?

为了验证这套逻辑的可靠性,研究者探索了其“因果扰动”。 他们尝试对特定的感兴趣区域(ROI)进行遮蔽:

遮掉低层级脑区:生成的图像语义基本没变,就像少了点无关紧要的噪点。

遮掉高层级脑区:图像瞬间崩塌,内容发生彻底改变!



模型对比。在八项图像质量指标上,对现有方法与本方法(NeuroAdapter)的解码性能进行了对比。为确保对比的公平性,图中结果均以相对于“特定受试者的 ImageNet 检索基线”的相对提升幅度形式呈现。



图示为去噪过程中平均脑区贡献向量在皮层表面的投影示例。黄色区域表示在去噪过程中影响较大的脑区,蓝色区域则表示影响较小的脑区。

实验数据证明,NeuroAdapter 在高级语义指标上表现尤为强悍,甚至在没有独立低级通路的情况下,依然跑出了极其扎实的性能指标。

04 未来:如何从形似走向神似

论文团队在讨论中提到一个深刻的观点:目前的脑解码基准测试已经快“饱和”了。 很多时候得分高只是因为 AI 模型更强,而不是我们更懂大脑。

NeuroAdapter 的意义在于,它提供了一个“神经活动—生成过程”的交互界面。当我们能以双向互联的方式将脑活动与图像特征紧密耦合,脑机接口将不再是一个黑盒,而是一条通往理解人类意识的透明路径。

下一步,团队将致力于解决扩散模型自带的随机性波动,让“大脑画笔”更加稳定、一致。

也许不久后的未来,我们分享梦境的方式,将不再是苍白的文字,而是一张精准重构的快照。



脑机接口社区是国内首家脑机接口(BCI)产业服务平台、国内脑机接口新媒体开创者与引领者。主要为企业、科研团队、投资机构和从业者提供以下服务:

宣传报道:图文、短视频、直播形式报道企业动态、技术解读、产品介绍等内容,提升曝光和行业影响力。

资源对接:根据需求匹配资本、供应链、临床机构、渠道方等资源,完成真实对接,促进合作。

成果转化:协助技术团队寻找产业方、投资人及落地场景,推动技术到产品的转化。

活动策划执行:承接线上线下路演、沙龙、论坛等活动的策划与执行。

其他定制需求:包括报告定制、市场调研、人才招聘支持等个性化服务。


合作洽谈,请联系微信:ZuoLeiLeiya

(备注:姓名-单位-合作)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
伊朗博主当场开怼全网:中国人根本没意识到自己的体量有多吓人!一个省就顶得上一个国家,14亿人口的规模让全世界都看呆了

伊朗博主当场开怼全网:中国人根本没意识到自己的体量有多吓人!一个省就顶得上一个国家,14亿人口的规模让全世界都看呆了

z千年历史老号
2026-09-07 18:16:52
马斯克重大决定,战场风云突变,乌克兰无人机要开炸了?

马斯克重大决定,战场风云突变,乌克兰无人机要开炸了?

不甜的李子
2026-09-08 07:23:59
2026年“进口轿车”第一名:在逆风之下,今年仍销售出5万多台

2026年“进口轿车”第一名:在逆风之下,今年仍销售出5万多台

柳先说
2026-09-07 18:41:40
匿名区自曝惊天秘密,网友狂呼:不花钱看值了!

匿名区自曝惊天秘密,网友狂呼:不花钱看值了!

特约前排观众
2026-09-07 16:11:53
45岁母亲雾天开车买菜失踪,10年后女儿打车上班,发现是妈妈的爱车

45岁母亲雾天开车买菜失踪,10年后女儿打车上班,发现是妈妈的爱车

今天说故事
2025-07-02 17:31:55
46岁熊黛林太风骚!秀美腿性感撩人,浴袍开叉到大腿根侧躺床上

46岁熊黛林太风骚!秀美腿性感撩人,浴袍开叉到大腿根侧躺床上

八星人
2026-09-07 11:42:30
何超琼说这句话,是在打脸章泽天吗?

何超琼说这句话,是在打脸章泽天吗?

皮蛋儿电影
2026-09-07 20:07:56
9月10日苹果发布会全系列汇总:4款iPhone加3款手表加AirPods5售价和亮点一文说透

9月10日苹果发布会全系列汇总:4款iPhone加3款手表加AirPods5售价和亮点一文说透

叮当当科技
2026-09-07 09:12:17
新政后,开发商强势涨价了

新政后,开发商强势涨价了

大嘴説
2026-09-08 15:55:51
iPhone 18 Pro Max开始预热,但价格和配色却对不上

iPhone 18 Pro Max开始预热,但价格和配色却对不上

搞机小帝
2026-09-08 23:58:03
随着兹维列夫3-0,美网男单八强全部诞生:仅3大世界前十悍将在列

随着兹维列夫3-0,美网男单八强全部诞生:仅3大世界前十悍将在列

侧身凌空斩
2026-09-08 11:47:57
上海一商场顾客打翻多层货架保温杯 商场:已报警,警方介入调查

上海一商场顾客打翻多层货架保温杯 商场:已报警,警方介入调查

封面新闻
2026-09-08 17:17:02
原来他俩早就离了,如今一个在云南当院长,一个潇洒分走2500万

原来他俩早就离了,如今一个在云南当院长,一个潇洒分走2500万

离离言几许
2026-09-02 01:50:44
关于延迟退休,最新发布!

关于延迟退休,最新发布!

新浪财经
2026-09-08 10:38:12
蒙古国政府再次公开拒绝了中方提出的跨境铁路运力扩容方案

蒙古国政府再次公开拒绝了中方提出的跨境铁路运力扩容方案

果妈聊娱乐
2026-08-23 08:38:03
女队颜值爆表!葛曼棋腹部小鹿纹身清晰可见 国家短跑队发布定妆照

女队颜值爆表!葛曼棋腹部小鹿纹身清晰可见 国家短跑队发布定妆照

劲爆体坛
2026-09-08 09:27:03
仔细一查才发现!前女友Coco在杭州的千万级豪宅被公开,其实这套房产从头到尾根本就不是谢贤送的

仔细一查才发现!前女友Coco在杭州的千万级豪宅被公开,其实这套房产从头到尾根本就不是谢贤送的

动物奇奇怪怪
2026-09-08 08:38:39
太憋屈!泰王给新宠高调庆生,苏提达眼睁睁看着“前侍女”爬到自己头上

太憋屈!泰王给新宠高调庆生,苏提达眼睁睁看着“前侍女”爬到自己头上

白露文娱志
2026-09-08 15:50:13
这很科学:89%的人幻想过同时和多人发生性行为,算精神出轨吗?

这很科学:89%的人幻想过同时和多人发生性行为,算精神出轨吗?

宇宙时空
2026-05-26 18:20:10
万亿资产归零,全国第四大保险集团破产,1.5万亿保单怎么样了?

万亿资产归零,全国第四大保险集团破产,1.5万亿保单怎么样了?

米果说识
2026-08-17 19:17:49
2026-09-09 06:31:00
脑机接口社区 incentive-icons
脑机接口社区
关注脑机前沿,分享脑机技术
381文章数 32关注度
往期回顾 全部

科技要闻

小米再次背水一战

头条要闻

律师:摸臀事件女子拉伤男童系人身伤害 男童父母可索赔

头条要闻

律师:摸臀事件女子拉伤男童系人身伤害 男童父母可索赔

体育要闻

韩旭:我一定会再次走出去

娱乐要闻

郭德纲被处罚,郭麒麟被曝恋情瓜

财经要闻

智谱六连跌失守1000大关,发生了什么?

汽车要闻

领克20 领克的纯电小钢炮这次更运动了

态度原创

手机
旅游
家居
时尚
游戏

手机要闻

华为Mate XT 2被拆:麒麟9050 Pro的丝印和架构细节,被逐一确认!

旅游要闻

探访金刚碑温泉老村 名人故居有了不同的打开方式

家居要闻

2026建博会(广州) 公装联探展交流活动

会穿衣的女性,能够借助最合适的单品,"修身上衣"显瘦又大方

《高达 异轨征途》制作人采访:不同以往的高达体验

无障碍浏览 进入关怀版