网易首页 > 网易号 > 正文 申请入驻

Nat Human Behav|觉得“做得好”也是一种奖励:内在奖赏如何改变视觉资源分配

0
分享至


● 认知神经科学前沿文献分享

论文信息:Intrinsic rewards guide visual resource allocation via reinforcement learning

发表时间:2026-10-01

发表期刊:Nature Human Behaviour




奖赏和视觉资源分配

外部奖赏与视觉资源分配:先前的研究已知,与金钱或食物等外部奖赏(external rewards)挂钩的视觉刺激会获得优先的注意力和视觉工作记忆资源分配。

研究空白——内在奖赏的作用:人类在日常生活中很多行为缺乏直接的外部奖赏。大脑内部产生的“胜任感”或对准确性的主观自信(subjective confidence / perceived competence)是否可以作为一种内在奖赏(intrinsic reward),并像外部奖赏一样影响强化学习(reinforcement learning, RL),进而偏置视觉资源的分配呢?

基于此,来自剑桥大学(University of Cambridge)的研究团队,设计了一系列的视觉实验,并结合计算模型,对如下两个具体问题进行了研究:

第一,内在奖赏是否会改变视觉资源的分配?

第二,这种基于奖赏的资源分配策略,是否符合总体误差最小化/收益最大化的“最优策略”(optimal allocation strategy)?



实验设计与结果

研究团队设计了一系列运动方向再现任务(analogue report motion reproduction task),通过操控不同条件来探索外部与内在奖赏对视觉资源分配的影响。

● 实验 1:外部奖赏操控(验证基线效应)

方法:呈现两种颜色的运动刺激(random dot kinematograms, RDK),若被试的再现误差 $< 50^\circ$,某种颜色可获得高分奖赏(15分),另一种颜色获得低分奖赏(5分)。

结果:被试对高奖赏颜色的再现误差(mean absolute deviation, MAD)显著更小,说明高奖赏颜色获得了更多视觉编码资源。

最优策略对比:被试对高/低奖赏刺激的资源分配比(高奖赏∶低奖赏)为 1∶0.695(倾向高奖赏)。但这比达到得分最大化的“最优分配”(1∶0.34)更为平均。


Fig. 1 中,作者展示了实验1对外部奖赏的操控;结果显示,被试对高奖赏颜色的再现误差更小,资源分配比(高奖赏∶低奖赏)为 1∶0.695,比最优分配(1∶0.34)更为平均。

● 实验 2:感知准确度操控(通过欺骗性反馈操控内在奖赏)

方法:不给予积分/金钱等外部奖赏,但对两种颜色刺激的试次反馈进行系统性操控——对一种颜色故意缩小显示误差(minified error,使被试感觉更简单),对另一种颜色放大显示误差(magnified error,使被试感觉更难)。

结果:

实验 2a(双刺激同时呈现):被试对“缩小反馈误差(感觉更易)”的真实目标方向再现更精确(MAD 显著更低)。

实验 2b(双刺激顺序呈现):当消除了编码阶段的注意竞争后,两者的再现精度差异消失,提示这一偏置主要来自编码阶段的注意竞争;竞争减弱后,不再按感知难度偏好编码。

实验 2c(与真实反馈对比):结果支持:只缩小误差就足以使资源向该刺激倾斜;而放大误差的刺激并不比真实反馈的刺激更差。

反常的非最优现象:若要最小化整体反馈误差,最优策略应当把资源多给“感觉更难(误差被放大)”的一方。按 minified(更易)∶magnified(更难)计,最优分配为 0.52∶1。然而被试的分配方向与最优策略相反,将更多资源(1.18∶1)投向了本就“表现更好”的刺激,总体误差高于最优策略的预测。


Fig. 2 中,作者展示了实验2a对感知准确度的操控;结果显示,被试对缩小反馈误差的刺激再现更精确,并将更多资源(minified∶magnified = 1.18∶1)投向该刺激,与最优策略的方向相反。

● 实验 3:客观估计难度操控(无反馈,纯粹基于内在自信)

方法:不提供任何反馈。在大部分试次中,两种颜色的刺激分别对应高相干度(85%,简单)和低相干度(45%,困难);在少量试次中,两种颜色的刺激相干度相同(65%,难度一致)。

结果:

在难度一致的测试试次中,被试对历史上总是较简单(高相干度)的那种颜色表现出更高的再现精度。

神经群体编码(归一化)模型估计显示,被试的资源分配比(简单∶困难)约为 1.76∶1。

再次偏离最优:为了最小化总体估计误差,最优策略应当是平均分配资源(1∶1),而被试对“简单”刺激的过分倾斜再次使总体误差高于最优策略的预测。


Fig. 4 中(对应实验3),作者展示了对客观估计难度的操控;结果显示,在难度一致的测试试次中,被试对历史上较简单的颜色再现精度更高,资源分配比(简单∶困难)约为 1.76∶1,而最优分配为 1∶1。



群体编码-强化学习计算模型

为阐明上述行为现象的计算机制,研究者将神经群体编码(归一化)模型(Normalization model)与强化学习规则结合:

第一,群体归一化编码:刺激由具有 von Mises 调谐曲线的神经元群体编码,总神经发放率(总增益)保持恒定,增益因子 $\alpha$ 控制两个刺激间分配的比例。

第二,复合奖赏价值更新(relative value updating)机制:定义逐个试次的相对价值 $v_t = (1-\gamma) v_{t-1} + \Delta_t$,其中 $\gamma$ 是泄漏系数,决定过去奖赏保留多少。复合奖赏 $\Delta_t$ 整合了外部奖赏($r_{\text{ext}}$)、反馈误差($\epsilon_{\text{fb}}$)以及内部信心估计所对应的内在奖赏($\hat{\kappa}_r$)。

第三,从相对价值到神经资源的映射:相对价值通过指数变换转化为下一试次的增益因子 $\alpha_{t+1} = e^{2v_t}$。

第四,拟合表现:完全不基于奖赏、仅凭行为误差自由拟合得到的分配参数 $\alpha_{\text{observed}}$,与纯粹基于奖赏积累历史推算出的 $\alpha_{\text{predicted}}$ 高度相关($r = 0.833 \sim 0.976$),且能够成功预测试次间行为误差的起伏。


Fig. 5 中,作者展示了强化学习模型示意:神经资源分配、相对价值更新、泄漏与奖赏权重对资源分配轨迹的影响;结果显示,模型把外部奖赏、反馈误差和内部信心估计所对应的内在奖赏整合为相对价值,再映射为下一试次的增益因子。



核心结论

第一,内在奖赏与视觉资源分配:作者提出,主观自信与感知到的准确性可作为内在奖赏信号,经强化学习规则塑造刺激特征的价值,进而调节编码阶段的资源分配;该结论依赖实验操纵与模型拟合。

第二,资源分配偏离了误差最小化策略:在这些任务中,基于奖赏的倾斜没有使总体误差最小,反而使本来更准的刺激更准、更差的更差;作者指出这类偏置可能具有适应意义,但在这里使总体准确率下降。结果支持资源分配随累积奖赏历史变化,不支持“按全局误差最小化来规划”。

原文信息
Tomić, I., Raimundo, R. & Bays, P.M. Intrinsic rewards guide visual resource allocation via reinforcement learning. Nat Hum Behav (2026).
DOI: https://doi.org/10.1038/s41562-026-02573-7

分享人:tianyu
审核:PsyBrain 脑心前沿编辑部

● 原文信息与获取方式

DOI:10.1038/s41562-026-02573-7

获取原文:

1. 三连后添加小助手:PSY-Brain-Frontier 获取

版权归属作者团队和出版社,本文仅做分享






特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
将对阵樊振东!方博官宣加盟德甲:人家给我钱,但去的目的不是赚钱

将对阵樊振东!方博官宣加盟德甲:人家给我钱,但去的目的不是赚钱

念洲
2026-11-20 06:54:50
灰熊5连胜双杀送勇士5连败:探花16+6+5 伦德博格11+8+7

灰熊5连胜双杀送勇士5连败:探花16+6+5 伦德博格11+8+7

醉卧浮生
2026-11-20 11:28:19
国内金价跌至“7字头”,杭州黄金投资者坦言心态变了

国内金价跌至“7字头”,杭州黄金投资者坦言心态变了

极目新闻
2026-11-19 16:20:18
游客在三亚海边捡到百斤重金枪鱼,体长近一米九,价值超3000元,当地:不常见,只要不是保护动物,可自行处理

游客在三亚海边捡到百斤重金枪鱼,体长近一米九,价值超3000元,当地:不常见,只要不是保护动物,可自行处理

上观新闻
2026-11-20 06:58:22
亮相APEC晚宴的广东荔枝冰酒被买断货,厂家:已启动紧急补货机制

亮相APEC晚宴的广东荔枝冰酒被买断货,厂家:已启动紧急补货机制

极目新闻
2026-11-19 22:03:12
还在跌,黄金大跳水!女子2个月前买了吊坠,今天一看直呼“亏麻了”....

还在跌,黄金大跳水!女子2个月前买了吊坠,今天一看直呼“亏麻了”....

上观新闻
2026-11-20 11:58:27
刚刚,史上最大IPO来了, 约600名员工身价或达上亿美元

刚刚,史上最大IPO来了, 约600名员工身价或达上亿美元

凤凰网财经
2026-11-20 01:37:55
中国股市失控信号亮起:这次可能真的不是玩笑

中国股市失控信号亮起:这次可能真的不是玩笑

星语者056
2026-11-20 08:56:23
刘德华被问到多个流传多年的传闻,他亲口证实“都是真的”

刘德华被问到多个流传多年的传闻,他亲口证实“都是真的”

韩小娱
2026-11-19 08:49:36
湖北95后小伙开饭店优先招35岁以上员工,缴五险一金,周休2天,一年亏了100多万

湖北95后小伙开饭店优先招35岁以上员工,缴五险一金,周休2天,一年亏了100多万

黄河新闻网吕梁
2026-11-19 17:55:11
从全网泪目到全网群嘲,赵本山只用了三天

从全网泪目到全网群嘲,赵本山只用了三天

梳子姐
2026-11-19 12:05:24
不准中国接俄,也不准中国收台,更不准管制稀土。七国集团曾明确指出,中国不能援助俄罗斯,不能以武力改变台海现状,也不能限制稀土出口

不准中国接俄,也不准中国收台,更不准管制稀土。七国集团曾明确指出,中国不能援助俄罗斯,不能以武力改变台海现状,也不能限制稀土出口

扶苏聊历史
2026-11-18 15:55:59
突发!台积电收紧对华AI芯片代工

突发!台积电收紧对华AI芯片代工

EETOP半导体社区
2026-11-20 08:17:23
马斯克到底多喜欢小儿子!又又又带他来中国玩了

马斯克到底多喜欢小儿子!又又又带他来中国玩了

可达鸭面面观
2026-11-19 18:04:43
李在明乘机返回韩国 发文:感谢中国热情接待!

李在明乘机返回韩国 发文:感谢中国热情接待!

看看新闻Knews
2026-11-20 00:36:59
全完了!黄仁勋多项“恶行”被美国媒体曝光,多名英伟达高管大爆黑料

全完了!黄仁勋多项“恶行”被美国媒体曝光,多名英伟达高管大爆黑料

可达鸭面面观
2026-11-19 21:51:59
高考再次证实张桂梅:教育最大的骗局,就是盲目推崇“释放天性”

高考再次证实张桂梅:教育最大的骗局,就是盲目推崇“释放天性”

云舟史策
2026-11-19 07:16:32
沙特首都第一高楼遭袭:炮弹从天而降,金融区上空亮起火光,多个楼层和周边建筑受损,所有入口封闭、人员疏散

沙特首都第一高楼遭袭:炮弹从天而降,金融区上空亮起火光,多个楼层和周边建筑受损,所有入口封闭、人员疏散

极目新闻
2026-11-20 10:43:41
大外交|中俄美元首会晤“载入史册”,专家:为新型大国关系提供明确路径

大外交|中俄美元首会晤“载入史册”,专家:为新型大国关系提供明确路径

澎湃新闻
2026-11-20 08:59:42
东亚正在无声崩塌,想翻盘极其困难

东亚正在无声崩塌,想翻盘极其困难

起点人文
2026-11-19 13:12:30
2026-11-20 13:00:49
PsyBrain脑心前沿
PsyBrain脑心前沿
追踪脑科学新动态,聚焦认知与神经新研究
806文章数 24关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

普京:正式声明后三国首脑展开自由讨论 恐怕没人料到

头条要闻

普京:正式声明后三国首脑展开自由讨论 恐怕没人料到

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

袁茵却用事实证明 活得并不差!

财经要闻

Anthropic敲钟 美股跳水:AI狂欢结束?

汽车要闻

方程豹钛9实测 堪称比亚迪最强混动的DMS到底怎么样?

态度原创

时尚
教育
健康
艺术
军事航空

今年冬天不穿大衣了?这件“非凡外套”才是真顶流!

教育要闻

小学生说了真话却被扣4分,标准答案容不下“大实话”吗?

医生眼里"很伤腰"的椅子,很多人天天坐

艺术要闻

2026第七届民族美术作品展 油画选一

军事要闻

“华盛顿”号航空母舰离开中东地区

无障碍浏览 进入关怀版