贝叶斯惊奇吸引人类注意力

Bayesian Surprise Attracts Human Attention

贝叶斯惊奇吸引人类注意力

https://proceedings.neurips.cc/paper_files/paper/2005/file/0172d289da48c48de8c5ebf3de9f7ee1-Paper.pdf

摘要

惊奇这一概念在感觉处理、适应、学习和注意力中居于核心地位。然而，目前尚无被广泛接受的数学理论能够定量刻画由某种刺激或事件所引发的惊奇——其适用对象涵盖从单个神经元到复杂的自然或工程系统。我们在极少的公理化假设下，描述了一种形式上贝叶斯化的惊奇定义，并且证明它是唯一自洽的表述方式。该定义通过度量观察者后验信念与先验信念之间的差异，来量化数据如何影响自然或人工观察者。借助这一框架，我们测量了人类在观看电视和电子游戏时将目光投向惊奇物品的程度。我们发现，受试者被强烈吸引到令人惊奇的位置：在所有人类注视转移中，有72%指向惊奇程度高于平均水平的位置；而若仅考虑所有受试者同时选中的注视目标，这一比例则升至84%。由此产生的惊奇理论可适用于不同的时空尺度、模态和抽象层次。

生活中充满惊奇，从一份很棒的圣诞礼物或一个新的魔术戏法，到走光事故、鲁莽驾驶者、恐怖袭击和海啸巨浪。生存的关键在于我们能否快速关注、识别并从突发事件中学习，以便决定当前和未来的行动方案[1]。然而，对于惊奇的本质，目前的理论和计算理解仍相当匮乏，这从我们日常词汇中缺少惊奇的定量单位便可见一斑：“惊叹因素”之类的品质始终模糊不清，难以进行数学分析。

在神经处理的几乎各个阶段，都存在着非正式的惊奇相关物。在感觉神经科学中，有观点认为，某一阶段只有出乎意料的内容才会被传递到下一阶段[2]。因此，感觉皮层可能已经演化为适应、预测并平息世界中预期的统计规律[3, 4, 5, 6]，而将精力集中到那些不可预测或令人惊奇的事件上。关于感觉早期对惊奇的刺激给予这种重视，电生理学证据来自视觉[7, 8, 4, 9]、嗅觉[10, 11]和听觉皮层[12]的适应研究，以及LGN等皮层下结构[13]，甚至视网膜神经节细胞[14, 15]和耳蜗毛细胞[16]的研究：神经反应在对最初新奇刺激的重复或长时间暴露下会大幅减弱。惊奇和新奇对于学习和记忆形成也至关重要[1]，以至于惊奇被认为是联想学习的必要触发因素[17, 18]，这一点也得到了海马体作为新奇检测器日益增多的证据支持[19, 20, 21]。最后，寻求新奇是人类一种已被明确识别的性格特征，可能与多巴胺D4受体基因有关[22, 23, 24]。

1. 理论

惊奇的贝叶斯定义。我们提出，惊奇是一个通用概念，可以从第一原理推导出来，并可在时空尺度、感觉模态，以及更一般地，数据类型和数据来源上进行形式化。一个原则性的惊奇定义需要两个要素。第一，惊奇只有在存在不确定性的情况下才可能出现，而不确定性可能源于内在随机性、信息缺失或有限的计算资源。对于给定观察者而言，一个纯粹确定性且可实时预测的世界不包含任何惊奇。第二，惊奇只能以相对的、主观的方式定义，并且与观察者（无论是单个突触、神经元回路、生物体还是计算机设备）的预期相关。相同的数据对于不同观察者，甚至对于同一观察者在不同时刻，可能带有不同程度的惊奇。

在概率论和决策论中，可以证明，对不确定性进行建模和推理的唯一一致且最优的方式由贝叶斯概率论提供 [26, 27, 28]。此外，在贝叶斯框架中，概率对应于假设或模型上的主观信念程度，这些信念在获取数据时通过贝叶斯定理进行更新，该定理是将先验信念分布转化为后验信念分布的基本工具。因此，在同一最优框架内，唯一一致的惊奇定义必须涉及：（1）处理不确定性的概率概念；以及（2）捕捉主观预期的先验和后验分布。

2. 人类实验

为了刻画被试所选择的图像区域，我们通过计算指标处理视频片段，输出一个地形动态主响应图，实时地为每个输入位置赋予一个响应值。一个好的主响应图应当能突出显示观察者注视的位置，其程度高于随机水平。因此，为了对每个指标进行评分，我们在每次人类扫视开始时，采样主响应图在扫视即将到达的终点附近以及均匀随机终点附近的活动值（随机采样重复 100 次以评估变异性）。我们再次使用 Kullback-Leibler (KL) 距离来量化从人类扫视和随机扫视中收集的主响应图样本之间的直方图差异：那些能更好预测人类扫描路径的指标，其与随机之间的差异更大，因为通常情况下，观察者会不均匀地注视响应值最高的少数区域，同时避开响应值低的大部分区域。与更简单的评分方案 [31, 32] 相比，这种方法有几个优点，包括对生成扫视的假定机制不敏感，以及对主响应图值施加任何连续非线性变换都不会影响评分。

对于所有指标，我们都发现人类显著地被具有更高指标响应值的图像区域所吸引。然而，静态指标通常会在大量视觉位置产生强烈响应（图 3），因此其特异性较差，且人类与随机之间的 KL 得分相对较低。相比之下，对运动、离群值和惊奇事件敏感的指标生成的响应图更为稀疏，KL 得分也更高。

3. 讨论

虽然先前的研究已经表明，无论是使用静态场景还是动态合成刺激，人类都会优先注视高熵 [34]、高对比度 [31]、高显著性 [32]、高闪烁 [36] 或高运动 [37] 的区域，但我们的数据提供了直接实验证据，表明人类注视令人惊奇的位置时具有更高的可靠性。这些结论之所以成为可能，是因为我们开发了新工具来量化在动态自然场景中，是什么在空间和时间上吸引了人类注视。在考虑所有扫视时，惊奇能最好地解释人类的注视位置；而当分析仅限于人类观察者倾向于达成一致的那些扫视时，这一效果更为显著。因此，惊奇代表了一种廉价的、易于计算的人类注意力分配近似方法。

在缺乏定量工具来测量惊奇的情况下，迄今为止大多数实验和建模工作都采用了一种近似，即认为新奇事件就是令人惊奇的，并且聚焦于那些简单到足以确保新奇和惊奇的非正式概念之间存在重叠的实验场景：例如，在测试阶段，若某刺激在训练阶段未曾出现，则将其视为新奇的 [9]。我们的定义为开展更精细的实验开辟了新途径，在这些实验中，不同刺激所引发的惊奇可以精确比较和校准，从而在单神经元水平和行为水平上产生预测。

惊奇的定义——即模型信念的后验分布与先验分布之间的距离——是完全通用的，并且可以轻松应用于听觉、嗅觉、味觉或躯体感觉数据的分析。虽然本文聚焦于行为而非详细的生物物理实现，但值得指出的是，在神经脉冲序列中检测惊奇并不需要对脉冲序列所携带的数据进行语义理解，因此在感觉区的自组织和发育过程中，它可能提供引导信号。在更高的处理层级，已知自上而下的线索和任务需求会与刺激新奇性结合以捕获注意并触发学习 [1, 38]，这些思想现在可以通过先验、后验和惊奇进行形式化和量化。事实上，惊奇本质上依赖于不确定性和先验信念。因此，惊奇理论可以在那些先验被偏向的实验中得到进一步检验和应用，例如通过自上而下的指令或预先暴露于刺激来对先验进行偏向 [38]。此外，基于惊奇的简单行为测量方法（如本文使用的眼动追踪方法）可能对包括自闭症和注意缺陷多动障碍在内的人类状况的早期诊断，以及对于人类与可能具有较低或不同先验的动物（包括猴子、青蛙和果蝇）之间的定量比较，具有实用价值。在感觉生物学之外，可计算的惊奇可以指导数据挖掘和压缩系统的发展（为令人惊奇的感兴趣区域分配更多比特），用于在人群中发现令人惊奇的个体，在书籍或演讲中发现令人惊奇的句子，在基因组中发现令人惊奇的序列，发现令人惊奇的医学症状，在机场行李架中发现令人惊奇的气味，在万维网上发现令人惊奇的文档，或者设计令人惊奇的广告。

原文链接：https://proceedings.neurips.cc/paper_files/paper/2005/file/0172d289da48c48de8c5ebf3de9f7ee1-Paper.pdf