主动推理中的神经表征：用生成模型交互并理解真实世界

主动推理中的神经表征：用生成模型交互并理解真实世界

Neural representation in active inference: using generative models to interact with—andunderstand—the lived world

https://discovery.ucl.ac.uk/id/eprint/10191719/3/Friston_Neural%20representation%20in%20active%20inference.pdf

摘要

本文从主动推理的视角探讨神经表征，主动推理是一个用于理解大脑功能的规范性框架。文章深入研究了生物体如何利用生成模型来最小化预测与观察之间的差异（以变分自由能作为评分标准）。随后的分析表明，大脑学习生成模型是为了适应性地在世界中导航，而不是（或不单纯是）为了理解世界。不同的生物体可能拥有多种生成模型，范围从支持行动-感知循环的模型，到支持规划和想象的模型；即，从包含用于预测同时发生的感觉（如物体、面孔或人）的变量的“显式”模型，到预测行动结果的“行动导向模型”。文章随后阐明了生成模型和信念动态可能如何与神经表征联系起来，以及不同类型的生成模型对于理解智能体在其生态位中的认知能力有何影响。论文最后提出了一些开放性问题，涉及生成模型的演化以及高级认知能力的发展——以及从“实用”神经表征到“超脱”神经表征的逐步转变。所提供的分析凸显了生成模型在认知过程和神经表征演化中所扮演的多样化角色。

引言

“我的思考，自始至终，都是为了我的行动。”——威廉·詹姆斯

“神经表征”这一概念，涉及大脑表征外部世界元素的观点，在神经科学、心理学和哲学中扮演着重要角色。然而，对其解释仍是一个讨论中的议题1–9。表征的概念颇为复杂，尤其在应用于脑科学时，它需要与特定的脑活动或状态建立联系。这就引发了诸如以下问题：什么样的神经状态或活动才算作“表征”，又是如何成为表征的？外部被“表征”的实体是什么？大脑真的表征了某些东西，还是说神经表征这一概念本身就被误解了？

在本文中，我们通过主动推理的视角来探讨神经表征这一概念——主动推理是一个用于描述大脑功能和认知过程的规范性框架。主动推理提出，大脑构建了一个生成模型，该模型涵盖外部世界、身体以及行动的可能性。这一模型支撑着意义建构以及与环境的 purposeful 互动。例如，它使我们能够统觉图1中的视觉图像，同时还能提供各种可供性（例如，抓住那些鱼——或者在这个例子中，不去抓它们）。

主动推理与各种哲学表征概念之间的联系引发了大量讨论。例如，它与内在主义视角11和以行动为中心的观点12，以及否定表征概念的生成理论13都有交集。使这一争论更加复杂的是，研究人员对表征的内隐理解各不相同，各自强调不同的标准14。

在此，我们避开这一争论，转而关注神经表征如何可能从生物体与其所栖居生态位之间的相互交换中涌现出来——尤其是当我们通过主动推理的视角来审视时。我们的重点是阐明主动推理用于解释生物体如何解决认知问题时所采用的形式化构造。这些构造包括生成模型、概率信念以及变分自由能的概念。通过深入探讨这些构造，我们希望在有感知行为的首要原则框架下，将神经表征概念自然化。

惊奇最小化、主动推理与行动-感知循环

每个生命实体都面临着适应性调控和管理对其生存至关重要的关键参数（如体温或血糖水平）的内在挑战。从形式化的角度来看，适应性控制的必要性可以理解为保持在有限潜在状态范围内，或栖居于满足基本需求的生物特异性生态位中。这一必要性的一个例子是维持体温在约37°C的要求。在信息论术语中，偏离这些可接受范围的状态被称为“令人惊奇的”。例如，感知到的体温显著高于或低于37°C就属于这种技术意义上的惊奇（即惊奇度或自信息）。这凸显了生物体最小化其与环境感官互动中固有惊奇的重要性。

惊奇的概念反过来取决于两个关键因素：从外部世界主动采样的感官观察，以及内部生成的关于这些观察的预测。更精确地说，惊奇随着预测与观察之间的差异增大而增加，见图2A。生物体可以通过两种互补的方式来减少这种差异：通过调整其预测以更准确地预期即将到来的观察（感知），或者通过影响其周围环境以确保即将到来的观察与预测一致（行动）。

主动推理将惊奇的减少形式化为变分自由能的最小化——变分自由能是惊奇的一个上界量。该测度的两个组成部分——散度和证据——分别对应于感知和行动，见图2B。在某些简化条件下，变分自由能简化为（精度加权的）预测误差。这在我们后续关于预测编码的讨论中将具有重要意义。

行动与感知之间的相互作用对于缩小动物预测与其实际体验之间的差距至关重要。这种差异以变分自由能来衡量。拥有准确的感知很重要，因为如果动物不能正确感知其周围环境，它可能难以选择正确的行动。同样地，如果它不采取行动来满足其基本需求（如口渴），它可能无法存活太久。

重要的是，行动受一种内在乐观主义引导，这种乐观主义被描述为对确保生存的结果的预先存在的偏好（或“先验”）；即，该主体所特有的结果或存在状态。设想一个正午烈日下的生物。在这种情况下，如果其预测包含了晒伤和脱水之类的结果，它将难以生存。相反，一个更成功的动物可能会预测恒定的37°C体温，促使它寻找阴凉处。这一例证表明，在主动推理中，某些先验，如“我的体温约为37°C”，超出了贝叶斯统计中的常规范围——通常表示关于外部环境的先验知识——而是扮演了类似于控制论中“设定点”的角色。这些先验将任务目标编码为生物体状态空间中的吸引子，从而实现误差校正和负反馈控制
。这是因为预期体温与当前感知体温之间的任何差异都会触发适应性调整（如血管舒张或寻找遮蔽处）以解决这种差异。

同样的反馈回路也适用于运动控制。图3给出了主动推理在“手指”姿势控制中的一个简单实例。手指的姿势由一个单一因素决定：其角度。图3A展示了感知推理——根据感知到的信息推断手指的角度。在这个基本设置中，先验（偏好角度）和行动的影响都不存在，因此手指保持静止。最初，手指的实际角度（深蓝色）是垂直的，而推断出的角度，即主体信念中的平均角度（浅蓝色），被错误地设置为水平。系统的内部反馈与推断出的角度不匹配，导致实际角度与推断角度之间存在差异（本体感觉预测误差：propr pred err，以绿色显示）。系统通过“改变主意”来最小化变分自由能（在此情况下即最小化预测误差），大约经过100步后，推断角度与实际角度趋于一致。

图3B是图3A的延续，引入了先验和行动两者的影响。在此，该图例展示了行动与感知之间的协同动态，引导运动朝向偏好的（水平）角度。最初，手指的实际角度和推断角度都与垂直位置一致。然而，系统倾向于对水平手指角度的先验偏好，并持续对其进行预测。结果，先验角度与推断角度之间出现了不匹配（先验预测误差，以紫色显示）。这促使推断角度（浅蓝色）向偏好的（先验）角度移动，从而在实际角度与推断角度之间产生了第二种差异（本体感觉预测误差，以绿色描绘）。这一次，这种差异可以通过行动（红色线）——即通过物理移动实际手指（深蓝色）——来弥合。系统通过融合行动与感知来减少变分自由能，使实际角度和推断角度在大约100步后都与偏好的（先验）角度收敛。值得注意的是，主动推理与预测编码的区别在于，它允许通过对世界采取行动来满足预测，例如移动到偏好状态。值得指出的是，本例中“先验”一词的用法与贝叶斯统计中最典型的用法不同；这可能会造成一些混淆。在本例中，先验并非对所有“典型”手指角度的分布（事实上，水平角度在先验上可能不太可能出现），而是代表一种先验偏好。如果先验的作用仅仅是推断手指的真实位置，那么这种（不正确的）先验将导致糟糕的推断：即推断——或者可能是“错觉”——认为手指比实际更水平。然而，在主动推理中，先验（或至少其中一部分）的作用是计算一个好的行动过程，为此主体需要确定一个“好的下一个角度”或设定点，作为朝向偏好（水平）角度的中间步骤。因此，“手指比实际更水平”的“错觉”有助于将手指移向先验所指定的期望（水平）位置。从这个角度来看，推断出的角度位置可被视为运动的“处方”，而非主体对世界真实状态的最佳假设——后者在贝叶斯统计中更为常见。还值得一提的是，这是一个简单示例。稍后我们将看到这个框架如何扩展以涵盖更复杂的有目的行动概念——即生物体可以设想未来的运动目标，将其设定为先验，最终通过计划行动来实现这些目标。

最后，图3C提供了图3A的另一种扩展，在排除行动的同时纳入了先验的影响。在此，遵循贝叶斯规则，观察与先验被合并，导致角度位置的推断向实际位置与先验信念之间的中点靠拢。（注意，在此模拟中，先验和观察具有相同的权重。在主动推理中，该权重取决于比较信息流的精度或互反方差——我们将在后文更深入地讨论这一主题。）

回顾一下，我们已介绍了生物体的基本必要性——最小化预测与观察之间的差异（技术上即变分自由能）。此外，我们阐明了感知和行动在实现这一最小化过程中发挥着协同作用。这一观点强调大脑作为预测装置的本质，不断生成关于外部世界的预测，以引导感知理解和行动调节。这与将大脑视为主要专注于将外部刺激转化为内部表征及随后的运动反应的机制的观点形成对比。然而，我们尚未详细阐述生物体用于制定预测和进行推理的神经机制。这引出了我们的下一部分。

生成模型

需要指出的一个要点是，生成模型可以沿两个不同方向使用：从 x x到 y y，反之亦然。在第一个方向，即生成方向，这些模型有助于从推断出的隐藏状态生成可能的观察。本质上，这意味着模型可用于创建预测和想象内容，因此被称为“生成”模型。这一能力在当代生成式AI模型中尤为显著，它们从大规模精选数据集中捕获统计模式，随后生成合成文本（例如BERT、GPT）或图像（例如Midjourney、DALL-E）30–32。当沿第二个方向，即推理方向（从 y 到 x ）使用时，生成模型能够基于观察来推断和优化关于世界隐藏状态的概率信念。这一过程发生在例如感知推理中，此时模型从观察数据推断隐藏状态。推理或贝叶斯信念更新对应于沿推理方向对生成模型求逆。

生成模型的双重推理与生成作用为理解大脑的基本认知功能提供了机制性洞见。感知（通过预测编码）和行动（通过主动推理）过程都可以有效地用推理来描述。另一方面，规划和想象等任务则需要生成预期性的（假设性或反事实的）观察。在下一部分中，我们将深入探讨支撑这些认知能力的生成模型的示例，并探索它们对神经表征概念的影响。

用于行动-感知循环的生成模型

感知和行动都可以有效地概念化为推理过程。感知作为无意识推理的概念可追溯到文献。图5展示了一个受生物学启发的生成模型，该模型支持感知学习和推理：一个分层预测编码网络。分层结构在图的布局中清晰可辨，其中神经群体从底部（较低层级）到顶部（较高层级）进行分组。值得注意的是，每个层级都包含不同的神经群体，这些群体编码期望（在皮层深层）和预测误差（在皮层浅层）。“期望”节点编码概率信念或其充分统计量（如高斯分布的均值和方差），这些统计量生成关于观察内容的预测。相反，“预测误差”节点捕捉预测与观察之间的差异。推断观察的最合理解释的过程通过最小化预测误差来实现，这依赖于单元之间的双向信息交换：自上而下的信息传递预测，而自下而上的信息传递预测误差。学习也以类似的方式运作，由预测误差最小化驱动：详情请参见文献。

图5A中的示例通过预测编码模型的视角，重新审视了先前在图3中解释的推断“手指角度”的过程。在此情况下，关于手指角度的（后验）信念编码在较低层级的期望节点中，而其对应的先验信念则位于上一层的期望节点中。这两个节点通过预测误差节点相连，这些节点传递与本体感觉和先验预测之间的差异。图5A的下半部分展示了主动推理的最简单表现形式，它表明只需为预测编码网络配备一个外周运动反射弧36,37，即可展现参与行动（以抵消本体感觉预测误差）的潜力。这种预测编码架构可以通过增加额外的层级来轻松扩展。例如，用于视觉处理的预测编码模型，如涉及自然图像或MNIST字母的模型，就包含多个层级，其中每个层级的期望编码刺激日益抽象的特征34,35,38。

图5B展示了一个更复杂的生成模型示例，该模型具有一个多模态概念——一只跳跃的青蛙。该图展示了一个分层生成模型，其中沿虚线圆分布的外周节点表示跨多种模态（如视觉、听觉和内感受）的感觉。圆内的节点是单模态隐藏状态，而中心节点是多模态隐藏状态，它同时生成多种模态的结果。跳跃青蛙的概念包含一组多模态预测：关于青蛙外观的预测、它发出的声音的预测，以及涉及青蛙的典型叙述的预测等。行动是该概念的重要组成部分，能够预测与青蛙的互动（例如，触摸青蛙所诱发的感受；无论是通过触摸还是通过注视进行视觉探查）：简言之，青蛙所提供的所有可供性。这些预测基于与青蛙互动的多层面经验，涉及各种模态。跳跃青蛙的概念包含感知推理——识别青蛙或理解关于青蛙的对话——主动推理——规划如何触摸青蛙——以及“在心理上导航”通过跳跃青蛙概念的能力，生成关于青蛙的假设性、“仿佛”预测等。图5B所示的多模态生成模型仅用于说明目的。它包含若干简化，例如为（与青蛙互动的）每个特定方面配备了专门的神经元群体，以及为不同模态设置了独立的通路，这些在解剖学上并不精确——因此不应被视为大脑中青蛙概念的严肃假设。尽管如此，它展示了一个复杂（多模态且以行动为中心）生成模型的推定结构，这种模型可能通过生物体与外部实体（包括青蛙）的情境化互动，以及通过与其他类似实体的互动和讨论进行泛化而获得。

生成模型、信念动态与神经表征

在前文介绍了主动推理的基本生成模型及其推理动态（基于预测误差最小化）之后，我们现在探讨其与神经表征的联系。在这方面，有四个关键点值得关注。首先，分层生成模型中的（内部）隐藏状态与世界中的（外部）隐藏状态（如“手指”角度或MNIST字母）之间存在一致的功能性关系。这种联系通常（尽管并非普遍）被认为反映了认知心理学和神经科学中最常接受的神经表征概念。这一概念的关键方面围绕着联系的结构化性质，表明内部与外部隐藏状态之间存在因果联系，而非简单的相关性。这强调了内部隐藏状态编码了关于外部隐藏状态的信念，尽管可能缺乏直接的一一对应关系。此外，这些隐藏状态作为生物体引导适应性预测和控制的工具，在此过程中对生物体具有意义、重要性和适应性价值。

其次，必须区分两个常与神经表征概念相关联的概念——生成模型与概率信念——尽管它们通过不同的神经机制来体现。生成模型的结构和参数，或其分层组件，可以编码在突触连接中。这是统计规律性（如先验和似然函数）等元素被编码的地方。另一方面，概率信念（或其统计量，如高斯分布的均值和方差）可能编码在神经元活动和神经群体的集体动态中。随着时间的推移，神经活动反映了生成模型下的贝叶斯信念更新。重要的是，生物体的（后验）信念不仅源于即时感觉，而是源于在生成模型下运作的推理过程。这些信念——可以与神经表征相关联——本质上是感觉输入、记忆和预测的融合，而不仅仅是表征感觉输入。正如青蛙示例中所强调的，生成模型还能够对行动的假设性结果进行“如果……会怎样”的预测。我们将在后文讨论规划（作为推理）和想象时重新提及这一点。

第三，大脑可能有多种方式编码概率量并对其进行概率计算——例如，以近似通常难以处理的后验概率推断问题。在此，我们强调了一种特定的（变分）近似推理形式，与参数化神经编码相关，其中神经群体被认为编码概率分布的充分统计量，例如高斯分布的均值和方差
。已有研究提出了使用参数化编码（例如概率群体编码
）或基于采样的方法
的其他神经编码和推理方案；关于这些方法的详细比较见文献。

最后，需要认识到（预测）编码的发生方式以及信念更新的动态受到所涉及的特定生成模型的深刻影响。在此，我们专注于预测编码背景下的简单生成模型，这些模型在连续时间中展开，并将变量（如图4中的手指角度）编码为高斯分布或其充分统计量（均值和方差）。然而，在基础的和更高级的生物体的大脑中可能发现更广泛的生成模型。这些生成模型可能在连续时间或离散时间中运作，或两者兼有。它们可以构建为独立影响观察的不同因子（想想视觉通路中的“在哪里”和“是什么”）。这些模型还可能具有包含时间深度的分层组织，涉及关于过去和未来的隐藏状态。尽管存在这些差异，总体信念动态遵循一个共同原则：自由能或（精度加权的）预测误差的最小化。不同的生成模型需要以不同方式在节点之间传输“神经信息”（如预测和预测误差）。因此，它们导致不同的连接模式和信念动态
。例如，明确包含过去和未来隐藏状态的生成模型允许交换“来自过去”和“来自未来”的信息，以更新关于“当前”的信念。在接下来的部分中，我们将简要概述一些示例性实例，并考虑它们与神经表征的关系。

生成模型在涉及规划和想象认知任务中的应用

迄今为止，我们的讨论围绕通过最小化变分自由能来支持感知和主动推理的生成模型展开。在本节中，我们将考虑更具表达力的生成模型，这些模型已被用于描述涉及规划和想象的认知任务。这些任务要求生成能力以及预想未来场景和未来观察的能力。

用于记忆引导空间交替任务的分层生成模型

考虑一个旨在解决记忆引导空间交替任务的两层分层生成模型。这些任务需要海马（HC）和前额叶回路（mPFC）内的协调互动。图6A展示了一个记忆引导空间交替任务的示意图。在该情景中，在W形迷宫布局内，一个有机体（此处为模拟啮齿动物）必须按照习得规则（如中心、左、中心、右、中心）导航交替通道以获得奖励。

生成模型在涉及规划和想象认知任务中的应用

迄今为止，我们的讨论围绕通过最小化变分自由能来支持感知和主动推理的生成模型展开。在本节中，我们将考虑更具表达力的生成模型，这些模型已被用于描述涉及规划和想象的认知任务。这些任务要求生成能力以及预想未来场景和未来观察的能力。

用于记忆引导空间交替任务的分层生成模型

考虑一个旨在解决记忆引导空间交替任务的两层分层生成模型 43
。这些任务需要海马（HC）和前额叶回路（mPFC）内的协调互动。图6A展示了一个记忆引导空间交替任务的示意图。在该情景中，在W形迷宫布局内，一个有机体（此处为模拟啮齿动物）必须按照习得规则（如中心、左、中心、右、中心）导航交替通道以获得奖励。

图6B所示的分层生成模型有效地解决了该空间交替任务。在探索迷宫的过程中，该模型的两个级学习了"认知地图"，以处理物理空间（HC地图 19
）和任务空间（mPFC地图 46
）。此处，"认知地图"一词指的是一组被统一为连贯结构的隐变量，通常类似于一个图。该结构编码了迷宫内空间位置（或任务阶段）之间的关系，并促进了一种"心理导航"形式。例如，它允许预测穿越迷宫（或推进到下一任务阶段）的可能结果。

物理空间的认知地图包含了迷宫的布局及其内可行的动作。该地图通过学习导航过程中遇到的感觉观察序列之间的统计关系来构建（如图6C所示）。值得注意的是，某些观察是"混叠的"，意味着它们在多个迷宫段中看起来相同，造成了自身定位模糊性。为解决此问题，采用了一种称为克隆结构化认知图（CSCG） 47
的统计序列学习算法。该算法解决了模糊性，并将轨迹编码为反映动物位置的隐状态序列。其结果是一个与物理空间高度相似的认知地图（如图6B的层级1方框所示）。

任务空间的认知地图捕捉了空间交替规则（例如，中心、左、中心、右、中心）。该地图是在物理空间认知地图之上学习的。为了创建它，使用单独的CSCG学习导航过程中遇到奖励的状态（走廊端点）之间的统计依赖性。由此过程得出的认知地图编码了模拟生物为获得奖励必须达到的目标序列（如图6B的层级2方框所示）。需要注意的是，该地图对应于任务空间而非物理空间。例如，两个标有"C"的节点对应同一物理位置（中心走廊），但表示不同的任务阶段：具体而言，是在访问左或右走廊之后到达中心。

学习阶段之后，由此产生的生成模型使得图6A所示的空间交替任务得以解决。这是通过用于自身定位的分层感知推理和用于确定后续行动方案的分层规划的结合来实现的。在感知推理期间，模型将其现有信念（"来自过去"）与其当前观察（"来自现在"）相结合，以在认知地图和任务空间地图中推断其位置。纳入"来自过去"的消息传递为系统提供了先前情境的工作记忆——这是成功应对空间交替任务所必需的关键属性。

在分层规划阶段，模型在任务空间和物理空间中就即将访问的状态做出选择，以获得奖励。该过程从较高层级开始，模型在任务空间地图中考虑下一状态的计划（本质上，确定按照规则接近哪个走廊）。随后，该目标被设定为较低层级模型中的先验。然后，较低层级模型进行空间规划，在物理空间地图中选择一系列动作。尽管在两个层级使用不同的地图，规划过程保持内部一致。它涉及选择预期能最小化期望自由能（G(π)）的一系列动作（更正式地称为控制状态），如图6D所示。

期望自由能——对规划过程至关重要——不同于图2中引入的变分自由能。变分自由能仅考虑过去和现在的观察，而期望自由能则考虑了在每个策略（π）下预期的未来观察。预测未来、依赖于策略（及反事实）观察的能力，使得能够基于图6D中概述的两个项来评估策略："认知价值"（或预期"信息增益"）和"实用价值"（或"预期价值"）。第一个"认知价值"项考虑，如果收集了新的依赖于策略的观察（y），隐状态上的近似后验（Q(x)）会变化多少。这对应于（对）遵循策略π预期收集的新观察y出现前后近似后验之间的Kullback-Leibler（KL）散度的（期望E）。波浪号（~）符号表示该方程考虑隐状态（x）或观察（y）的序列。该标准衡量依赖于策略的观察可能改变生物体后验信念的程度，偏好提供信息性观察的策略。在导航图6A所示的W形迷宫时，这强调导致明确状态的策略，例如可获得观察16的迷宫底部中心。

第二个"实用价值"（或"预期价值"）项评估（在期望E中）依赖于策略的观察（y）与生物体的偏好观察（表示为观察上的先验C）的一致性程度，优先考虑实现先验偏好的策略。在我们的空间导航例子的上下文中，这意味着偏好导致奖励状态的策略；即实现"获得奖励是该主体的特征"这一先验信念的计划。注意，期望自由能的两个项（认知价值和实用价值）与上述变分自由能的两个项（散度和证据）有一定的对应关系。认知价值项可被视为给定未来观察下的期望散度。然而，这里我们不是最小化散度，而是要选择最大化期望散度的策略——换句话说，是保持选项开放的策略。实用价值项与证据项密切相关，当人们将那些与主体先验偏好的观察（记为C）不同的观察视为"令人惊讶"时（例如，在此示例中，处于有奖励的走廊端点）。

中呈现的模拟令人信服地展示了分层规划在解决空间交替任务中的有效性，如图6E所示。此外，来自破坏海马活动的研究
的实验证据与这些模拟一致，表明当模型两个层级之间的通信被中断时，在困难决策点（具体在中心走廊内）的表现会下降。这种中断之所以发生，是因为通信中断阻止了区分图6B中两个标有"C"的节点。同一模型也能够掌握更复杂的任务，需要间歇性地切换规则。值得注意的是，该模型准确复现了实证发现，即中断两个层级之间的通信会阻碍规则切换并促进坚持行为，这与
进行的研究一致。

除了规划之外，生成动力学还可以支持其他功能。大量证据表明，在不活动期间，不同的脑区——包括海马体、前额叶皮层、腹侧纹状体和视觉皮层——会参与“回放”，重新访问所经历内容的序列，如过去的导航轨迹。重要的是，这种回放过程还涉及对所遇到内容的泛化和新颖重组。回放活动现象，连同神经元集群的内在激活，可以被解释为生成模型的内在动力学。这种动态活动用于在休息期间优化模型，例如当没有新的观察时。这种机制使得大脑即使在没有外部输入的情况下，也能优化其生成模型以供未来使用
。

分层生成建模的另一个说明性实例来自一项研究，该研究使用概率混合模型解决了空间地图的形成问题，如图7A所示1。虽然该模型与图6中展示的模型相似，但它显式地编码了地图和序列。在最高层级，模型获取对应于不同迷宫或单个迷宫内片段的各种空间地图，以及一个关联的概率分布，用于识别当前最可能的地图。较低层级捕获空间位置的序列和单个空间位置。在此框架中，自身定位涉及推断当前地图、地图内的序列以及序列中的位置。该推断任务需要自上而下和自下而上信息的融合。例如，确定当前位置依赖于整合来自下方的感觉观察和来自推断序列及地图的自上而下信息。该过程利用了类似于分层预测编码网络中的消息传递结构。

当应用于涉及获取多个空间地图的持续学习任务时（如图7B所示），该模型为各个迷宫开发了不同的地图，如图7C所示。值得注意的是，在使用称为“生成性回放”的技术时，模型在持续学习中的表现有所提升。这涉及通过从最高层级学习到的地图中采样生成虚构的观察序列，并将此信息向下传播到较低层。然后利用这些回放的序列来促进模型的自我训练。鉴于地图编码了位置上的概率分布，并且诸如目标位置和瓶颈等显著位置被赋予更高的概率，生成性回放自然倾向于这些显著位置：这一倾向已通过经验观察得到证实。此外，需要注意的是，回放的序列不仅仅是所经历序列的复制品，而是可以以新颖的方式重组它们，如先前研究1所证明的。图7D中呈现的结果表明，生成性回放的应用不仅增强了地图学习，还使模型能够优于不使用回放的基线模型，以及通过存储在外部“逐字”记忆源（称为经验回放）中的经历进行自我训练的模型。这些发现突显了生成性回放——以及来自生成模型的内容的离线再激活——在即使没有新观察可用时优化模型方面的效力。值得注意的是，这种生成性回放的相同技术可能在其他模型的训练中找到应用，例如语义记忆
或动作控制器
。

生成模型、信念动态与神经表征

本节中介绍的生成模型为神经表征的概念提供了有价值的见解。这些示例有助于区分神经表征的两种潜在解释。首先，生成模型可能编码与物理空间或任务空间相关的“认知地图”。这些地图的参数可能编码在突触权重中，随着时间推移通过学习而逐渐变化。其次，（近似）后验信念——其参数可能由神经元集群内变化的神经活动编码——可以代表有机体对其在这些认知地图内当前位置的最佳当前评估。

至关重要的是，这些信念的“表征内容”取决于生成模型固有的变量。例如，在图6的分层生成模型中，系统在物理空间和任务空间中均实现了自身定位。这意味着它在较低层级维持关于其在迷宫内当前位置的概率性信念，同时在较高层级追踪空间交替任务中的当前阶段。另一方面，图7所描绘的模型提供了一个略有不同的视角：它暗示了更广泛时空背景的表征，涵盖正在进行的序列和地图。这有效地将感觉、预测和记忆结合了起来。当然，需要注意的是，与海马体、前额叶皮层及其他脑回路的复杂运作相比，这两个模型都相当简化。关于海马体动态的相关见解，包括“什么”和“何时”的因子化表征，感兴趣的读者可参考文献64。

重要的是，规划和生成性回放都超越了单纯的自身定位，产生了可能涵盖现在、过去和未来的信念和观察。关于未来的信念不能直接从当前观察中推断出来；相反，它们需要调用生成模型来内部生成（或想象）未来的观察。这些内部生成的动态展示了与即时情境“脱离”的认知形式，超越了当下的限制（参见詹姆斯和胡塞尔所说的“貌似现在”）。这些类型的认知过程与认知科学中表征的传统含义一致：即使在对象或事件缺失时也能表征它们的能力65。在事物缺失时表征它们的能力，对于涉及远见和未来规划的高级认知功能尤其有价值。这一概念可能有助于理解大脑的再激活和回放现象。例如，可以推测，导航前发生的生成动态类似于一种“局部回放”，用于优化下一步计划，而休息期间的生成动态则可类比为“远程回放”，用于优化模型以适应未来交互66–68。

就进化优势而言，生成模型“脱离”即时环境的能力可能带来了显著的好处69。这种参与内部生成模拟和预测，从而设想超越即时情境场景的能力，可能在生物体整个进化过程中的适应性成功方面发挥了重要作用。主动推理——自由能原理的一种应用——允许这种目的论（或可能说是目的性）的解释；其意义在于，最小化变分自由能就是最大化与生态位感官交换的边际似然，这衡量了表型的适应性成功。

最后，简要探讨一下生成模型如何获得“意义”以及表征事物的能力，是有益的。前述两项关于认知地图形成的研究，将生成模型描绘为地图或图式（schemas）的模板或预定义框架 [61,70]。最初，这些模板缺乏内在的意义，仅作为编码经验和生成预测的载体。当这些模板积累了感觉运动（sensorimotor）经验时，意义便由此获得。本质上，这些生成模型经历了从无意义到获得意义的转变，例如开始指代任务空间中的特定空间位置或方位。这种转变发生于它们通过行动与外部世界建立联系之时：文献 [71] 恰当地将这一过程描述为，通过与环境互动，从而踏上从无意义之境迈向意义之境的旅程。

生成模型与信念中的抽象与扭曲

到目前为止，我们的关注点一直集中在外在世界的生成模型上，特别是被解读为认知地图的模型。然而，重要的是要认识到，模型从来都不是现实的“完美复制品”。这种差异的一个原则性原因在于主动推理（有时称为自我证成 72 72）的原理：最小化自由能就是最大化边际似然或模型证据。关键在于，对数证据总是可以分解为准确性和复杂度。这意味着生成模型学习在准确性——涵盖数据重建和预测——与复杂度（考虑模型参数数量或自由度等因素）之间实现平衡。惩罚复杂度的过程导致生成模型的隐状态仅包含那些能提高准确性的相关细节。

本质上，最有效的生成模型倾向于保留足够的细节以准确表征观察并实现任务成功（在行动引导模型的情况下），同时丢弃那些不能带来准确性提升的冗余信息。因此，学习导致发展出简约的模型，这些模型抽象掉不相关的细节，形成压缩的潜空间或流形,73−75。这在前面讨论的认知地图中很明显。然而，值得注意的是，隐含的几何结构可能与外部世界的真实几何结构有所差异。这种扭曲也存在于大脑的生成模型中。例如，研究表明海马认知地图在环境中并非均匀分布。相反，更多的位置细胞通常出现在与目标及其他显著特征相关的位置
。此外，具有相等价值的空间位置在潜空间或隐状态空间中倾向于聚集得更紧密，进一步体现了这些扭曲。

对这些扭曲的一个合理解释可以在模型缩减的领域中找到：这是一个在模型学习之后应用的过程，用于微调准确性与复杂度之间的权衡。在模型学习之后，模型缩减评估每个模型参数（参见突触连接）是否贡献了相称的准确性以抵消其复杂度成本。不符合此标准的参数被修剪，有效地将它们从模型架构中移除（并通过修剪突触来实现）。这种做法不可避免地潜在地导致某些信息的丢失，尤其是关于不频繁观察的信息。但同时，它产生了更高效的模型，通过避免过拟合而提供更好的泛化能力。

为了说明这一概念，让我们考虑一个在机器学习中常用于降维的生成模型；即β-变分自编码器
。我们将使用该模型学习一组50万个“空间地图”，它们是13x13的黑白图像，包含两条垂直的、有噪声的“走廊”。这些走廊位于图像的上部或下部。在图8A中，我们展示了21个示例地图，每个都根据两条走廊中心的像素位置进行标记。例如，标签（0,12）表示上部走廊的中心对应像素0，而下部走廊的中心与像素12对齐。我们的分析涉及比较四个不同版本的β-变分自编码器，每个都具有不同的特征。前两个模型（模型1和模型2）是具有标准无监督学习目标的β-变分自编码器。这些目标具有变分自由能的函数形式，但包含一个超先验β，称为容量，它相对于准确性（即失真）来缩放复杂度（即速率）。这些模型之间的区别在于它们的容量：模型1具有高容量，而模型2具有低容量（如图8B所示）。其余模型（模型3和模型4）也是β-变分自编码器，但它们结合了监督学习。具体来说，第二个目标涉及二元分类的准确性。任务是识别输入图像特征是具有对齐的走廊（分类为类别0）还是非对齐的走廊（分类为类别1）。尽管模型3和模型4的学习目标一致，但由于它们的容量不同而有所区别：模型3具有高容量，而模型4具有低容量。

图8C的四个面板展示了由四个不同的β-变分自编码器学得的潜在编码的二维投影可视化。每个点对应生成模型低维潜在空间内某个特定示例图像的位置。为清晰起见，某些图像标有位置标签，例如中心的“6,6”。此外，点的颜色表示该图像在分类任务中所属的类别：绿色表示类别1，橙色表示类别0。在模型1的情况下（图8B左上方面板），潜在编码以正交方式跨变化的因子（即上走廊和下走廊的位置）展开。模型2（图8B左下方面板）展示了相似的潜在编码，但某些区域聚集得更密集，导致分辨率损失。模型3和模型4展示的潜在编码中，属于类别0的输入被推向边缘，从而实现了更好的区分。这一现象在模型4中尤为显著，其潜在编码被二值化，导致它们不均匀地跨越变化的因子。这些例子强调了平衡准确性（即失真）与复杂度（即速率）的影响。在主动推理中，容量本身是根据以通常方式推断的精度来优化的（见下文）。

总而言之，上述数值研究表明，生成模型学习倾向于低维潜在空间或流形
。这些潜在状态空间或流形受观察的统计特征以及（在任务驱动模型的情况下）任务本身性质的塑造。然而，准确性与复杂度之间的权衡意味着这些潜在空间以最优方式被扭曲。例如，潜在空间可能强调最频繁出现的输入。此外，这意味着在生物有机体中——其中观察取决于行动，而非像典型机器学习场景中那样是预设的——学习历史在塑造潜在空间的几何结构中发挥作用。

信念中的扭曲与精度控制

不仅生成模型的结构，贝叶斯信念也可能表现出扭曲。有趣的是，即使生成模型的内部隐状态与外部世界的隐状态之间存在直接的一一对应关系，这种情况也可能发生。例如，考虑图3中讨论的“手指角度”情况，其中角度是定义性特征。即使在这种情景下，有机体关于手指角度的后验信念也可能偏离真实角度。这种偏差可能源于多种因素。例如，推理过程可能由于噪声或误导性观察而收敛到错误值。这种情况类似于知觉错觉或“错误表征”的实例。

对这种最优“错误表征”的一个原则性解释是，在主动推理——以及更广泛的贝叶斯推理——的背景下，推理结果由两个重要因素的相互作用决定：观察和先验。在主动推理中，这些先验代表有机体的偏好状态，导致主体的后验信念可能无法准确表征外部现实。相反，这些信念可能由于纳入了偏好而产生偏差，形成一种“乐观偏差”。关于这一概念在表征方面的更深入讨论，读者可参考文献[^13]。这一概念在图3C中得到演示，该图突显了当行动被排除时，关于角度位置的推理过程倾向于收敛到真实手指位置与先验之间的中点。这个例子强调了主动推理与其他框架之间的一个基本区别，即其他框架不考虑感知推理与行动之间的关系。

图3C中呈现的模拟假设先验和观察具有同等权重，但在现实中，这并不是普遍规则。在预测编码和主动推理框架中，信息源的权重是根据其精度（或在高斯分布情况下的逆方差）来确定的。这意味着具有更高精度（表明更低不确定性）的信息被赋予更大权重，因此对推理过程具有更强的影响。这种精度加权机制在感知推理和运动控制中都起着关键作用。精度值的不当分配可能导致这两个领域的紊乱。例如，与精神分裂症相关的一些紊乱，如幻觉和持续的知觉扭曲，可能源于过度精确的先验，导致推理过程忽视感觉观察而过度依赖内部模型。这种机制可以扩展到各种其他精神病理状况和运动障碍，其中先验精度设定与感觉输入之间的失配可能导致损害。总的来说，这些研究强调了精度加权在生成模型中的重要性，因为它在微调有机体的后验信念及其与（很大程度上自我生成的）现实的对齐方面起着关键作用。

最后，虽然在本节和上一节中我们从信息论角度考虑了生成模型和信念的扭曲，但另一个补充性视角是，在某些情况下，这些扭曲可能与动机和情感因素有关，并且可能对有机体具有适应价值，即它们可能是“有用的”错误表征。生成模型和信念可以包含认知性（保持准确性）和动机性（实现效用）成分的混合，因此推理的结果优先考虑准确性和效用的最佳混合，而不是（或不一定是最）对数据最准确的解释。这可能导致推理朝着偏好选项的方向产生扭曲，这在认知心理学中与动机性推理和一厢情愿的想法相关联。其中一个例子是，找到对自己偏好的餐厅的正面和负面评价，却只考虑正面评价。准确性与效用之间权衡变得明显的另一种情况是，偏好某一选项明显比偏好另一选项风险更大。例如，在感到胸痛时，将危险的心脏病发作误判为无害的胃灼热比相反的情况更安全。在这些情况下，考虑效用而不仅仅是选项的准确性可以促进行为适应。然而，在某些情况下，认知性成分和动机性成分的混合也可能导致精神病理状况，如妄想信念。

面向行动的生成模型：具有具身（enactive）色彩的神经表征

“在真正意义上，例如，青蛙检测的不是苍蝇——它检测的是大小合适、移动的小黑点。同样，家蝇并不真正表征它周围的视觉世界——它只是计算几个参数……然后将这些参数输入快速扭矩发生器，使其以足够频繁的成功率追逐配偶。” —— David Marr, 1982.

到目前为止，我们考虑了一种相当经典的表征概念，其中有机体的生成模型扮演着“小尺度”模型或某处某物（例如，一个迷宫）认知地图的角色，而神经活动表征地图中的某个实体（例如，一个人当前的位置或地图中预测的未来位置）。虽然认知地图不包含每个细节并且可能被扭曲，但它仍然具有大脑中隐变量（例如，认知地图中的位置）与外部世界中隐变量（例如，迷宫中的位置）之间的对应关系。这是“表征性”认知科学中的一个标准假设，该假设假定模型编码与外部世界中物体或位置等事物同构的隐变量，以便推断它们。

然而，主动推理引入了一个新颖的角度，表明大脑的生成模型主要是为了能够在世界中采取适应性行动而发展的，而不仅仅是理解世界。这与“良好调节器”定理一致，该定理断言，一个系统的有效调节器需要拥有该系统的模型。在这种背景下，行动控制模型中的隐变量不一定反映外部世界的隐变量。事实上，关键目的是指导适当的行动，精确的表征是次要的。这意味着，如果生成模型在引导适应性行动方面有效，那么它在多大程度上与外部现实对应（即细节水平或准确性）就变得不那么关键。只要模型支持成功的决策和对环境变化的响应，在主动推理框架内，它在多大程度上忠实表征外部世界就变得不那么重要。这种视角转变强调了表征的功能性和实用性方面，其中在镜像外部现实方面的准确性不是严格的要求，只要模型在促进适应性行为中服务于其目的。

承认生成模型在促进互动中的实用功能，为主动推理开辟了具身（enactive）解释，这些解释优先考虑适应性行动而非单纯的表征，有时甚至挑战内部表征的概念。一个有趣的方面是，与经典认知理论和具身理论之间的传统哲学二分法相比，主动推理并不强制要求排除其中之一。这是因为主动推理调和了与世界互动和表征世界的追求。因此，一个相关的问题出现了：有机体的生成模型应在多大程度上镜像外部世界以达到最佳效能？

在一系列任务中，一系列生成模型是有效的，范围从“显式”或“环境”模型——以图6-7中的认知地图模型为例——到“面向行动”或“感觉运动”模型，后者优先考虑互动，同时回避编码外部世界变量。重要的是要记住，生成模型编码观察的潜在原因。显式生成模型和面向行动生成模型之间的关键区别在于它们对可观察感觉的解释：前者将这些感觉归因于外部事态的结果（例如，视网膜上的图像源于外部物体），而后者将其归因于行动的结果（例如，触觉源于拂动运动）。

尽管存在差异，两种类型的生成模型都能有效支持相同的任务。例如，考虑一个场景，其中啮齿动物需要测量与物体的距离。它可以选择使用显式生成模型，该模型提供外部元素的详细描述；包括物体身份和空间距离。该模型通过推断其隐状态的最可能值来实现距离（和物体）估计，类似于手指控制模型推断手指角度或空间导航模型推断动物可能位置的方式。

另一方面，啮齿动物可以选择使用一种面向行动（action-oriented）的模型，该模型仅捕捉拂动（whisker）运动与触觉之间的关系，而不显式纳入表征物体等外部实体的变量。这一概念的一个主要例证是文献102提出的主动拂动（active whisking）模型，该模型复现了文献103中预期性拂动控制（anticipatory whisker control）的经验观察，如图9所示。在该生成模型中，拂动振荡的幅度取决于一个隐状态，该隐状态结合了来自固定中央模式发生器（central pattern generator）的贡献和关于期望幅度的先验。重要的是，该模型预测当拂动伸展（protracted）时会产生触觉，先验信念和拂动动力学都受预测误差最小化的支配，直到该预测实现。在伸展结束时预期的触觉未出现的情况下，先验被调整，导致后续周期中拂动幅度增加。相反，意外的触觉导致先验向相反方向更新，导致后续周期中拂动幅度减小。在收敛并随后最小化预测误差后，动物-物体距离可以从编码拂动幅度的隐状态中读出，尽管该模型本身并不内在地编码距离：参见知觉控制理论及相关表述104,105。

这个例子强调了利用面向行动的生成模型来调节行为的潜力，这些模型封装了感觉运动依变关系（sensorimotor contingencies），有时被表征为非表征性的。其他面向行动的生成模型也可用于实施多样的具身策略。例如，使啮齿动物能够在不构建迷宫表征的情况下进行导航的策略，即在遇到障碍物时改变路线；或者是支持选择适当的行动策略（可供性，affordances）以与不同物体类别互动的策略。同样，可以为棒球外野手设计一种接球策略，即通过选择一条能抵消球体光学加速度的跑动路径来接球，而无需预测其轨迹。

面向行动的生成模型的另一个实例可以在一种非常简单的生物体——秀丽隐杆线虫（*Caenorhabditis elegans*）的神经系统中观察到。多项研究表明，线虫的大部分脑活动包含了运动行为序列，包括向前和向后运动以及腹侧转向，这些构成了动物行为选择的基础。降维分析表明，这些行为序列被组织成稳定的循环。这些循环发生分叉的点可能对应于在不同备选行为序列之间做出的决策。例如，如图10所示（引自文献114），决策点可能涉及在执行腹侧转向后，选择向前运动还是向后运动。这些发现表明，线虫的大部分脑活动被构建为促进与外部环境的顺序互动，而无需明确编码外部世界的状态。值得注意的是，即使在线虫被固定不动时，也能观察到相同的稳定行为序列循环，这表明神经群体动力学主要是内部驱动的，并且可能代表了下行的运动指令序列。这一证据可以被解释为面向行动的生成模型的生物学实例，该模型证明足以让线虫在不构建内部表征的情况下导航其周围环境。同样，该模型 potentially 可以利用反馈感觉在分叉点做出适应性运动决策，例如，如果在前方检测到物体，则增加腹侧转向后向后运动的可能性；或者如果从后方感知到物体，则降低这种可能性。这种机制在概念上类似于文献102提出的主动触须模型中所观察到的现象：即在意外触觉之后调整胡须振幅（或者在缺乏预期触觉后的振幅增加）。

总之，外在模型（extrinsic models）和面向行动的模型（action-oriented models），甚至结合两者方面的混合模型，都有潜力支持认知任务。然而，只有外在模型会额外涉及外部环境的重建。如果重建外部环境与传统的表征概念相一致，那么确定哪些物种或任务涉及传统意义上的神经表征就变成了一个经验探究的问题。这引出了两个方法论上的考量。首先，如前所述，识别生物体中的神经表征意味着揭示其用于进行推理的生成模型。其次，仅仅能够从生物体的行为或神经变量中读出某些信息（例如距离细节），并不自动表明该生物体正在表征这一信息，至少在经典的表征理解中不是这样。这就产生了一个诊断性的问题：距离信息是否被相同的神经区域或下游回路（例如，用于做出决策）所利用。

在本文中，我们通过主动推理的视角探索了神经表征的概念，这是一个为大脑功能和认知提供见解的规范性框架。我们通过回顾关于主动推理机制的五个关键讨论点来结束本文。然后我们强调这些点对神经表征概念的影响。

首先，指导生物体的一个基本指令是最小化其预测与观察之间的差异。这一指令是通过行动和感知实现的，它们共同最小化*变分自由能*（或在特定条件下的预测误差）。其次，预测的生成和必要的推理取决于生成模型的获取和使用；即描述观察是如何从不可观察的（隐藏的或潜在的）原因生成的统计模型，例如，一个视觉物体（如苹果）如何在视网膜上生成图像。*生成模型*支持感知（预测编码）和行动（主动推理）中的预测和推理过程。第三，更高级的生成模型提供了规划、想象和前瞻性认知。规划需要利用生成模型来设想未来的观察，通过衡量其最小化*预期自由能*的能力来评估潜在的行动计划。因此，规划体现了一种*脱离*当下的认知形式。第四，生成模型的获取平衡了准确性和复杂性。最优生成模型体现了模型证据的这些组成部分之间的权衡，在促进抽象化的同时引入了相对于现实的明显“扭曲”。第五，在主动推理的框架内，生成模型服务于启用适应性行动的目的。虽然提供对外部世界的全面或甚至真实的描绘偶尔被证明是有益的，但这并非绝对必要。这意味着各种生物体可以有效地利用不同类型的生成模型。这些模型 ranging from 包含物体、面孔或个人等实体变量的“显式模型”，到仅通过预测行动后果而不编码像物体这样的外部实体来促进适应性行动的“面向行动模型”。值得注意的是，研究认知和行为的不同方法强调不同种类的模型：在认知神经科学中，更常见的是考虑显式模型（例如海马体中的异中心空间地图），而在生成论（enactive）解释中，更常见的是考虑面向行动的模型（例如棒球外野手使用的接球策略）。主动推理可以包含被赋予这两种模型（以及其他模型）的代理。它可能有助于找到这些通常被视为对立的方法之间的接触点，并通过比较认知现象的替代模型来帮助评估它们的经验预测。

上述列出的每一点都对神经表征的概念具有启示意义，正如我们在下面简要讨论的那样。

自由能最小化在多个时间尺度上运作

在强调自由能最小化的重要性时，必须承认这一过程在大脑机制内的多个时间尺度上运作（例如，快速的神经放电率与渐进的突触更新），并且与行动交织在一起，而行动又在不同的时间尺度上展开（例如，基本动作与旨在实现远期目标的复杂动作序列）。在行动-感知循环中，自由能的最小化改变有机体对世界的信念，并指导行动以塑造世界。这与神经放电率的时间尺度有关。另一方面，学习机制和模型参数的调整，相对于行动-感知循环，在较慢的时间尺度上运作，表现为突触更新。此外，学习过程也在休息期间显现，在此期间，大脑可能通过模型简化和突触修剪来优化生成模型以备将来使用。生成模型的优化也延伸到发育和进化这些更慢的时间尺度上。人们可以设想，将这些生成模型对其生态位的逐渐适应，解释为一种非常渐进的贝叶斯模型选择形式。

相反，计划和想象可能相对于行动-感知循环在更快的时间尺度上运作。在计划的背景下，有机体可以完善其关于未来行动和将遇到的潜在状态（并追溯性地修改关于过去的信念）的信念。该领域的特点是“回放”事件的时间尺度。最后，自由能最小化过程包含了超越大脑范围的修改，例如联合行动和文化动态。然而，这些方面不在当前的讨论范围之内。

认识到自由能最小化运作的不同时间尺度，对于在超越大脑即时运作的更广泛框架内将神经表征置于背景中至关重要。就神经表征与信念和生成模型（详见下文）相关联而言，值得注意的是，这些元素通过复杂的嵌套过程得到优化，这些过程在从神经活动到进化的不同时间尺度上展开。这种观点对于将神经表征概念自然化很重要：即认识到它可能是一种固有的适应，使有机体能够最小化其自由能——或最大化其存在的证据。

生成模型、信念动力学和神经表征

自认知科学诞生以来，生成模型和信念动力学的概念就与表征的概念有着内在的联系。然而，表征的概念至少可以通过两种不同的方式来理解。一方面，生成模型本身，其参数可以在突触权重中编码，可能与神经表征的概念一致。这种解释类似于提及“认知地图”的“表征”。另一方面，信念的动力学，可能对应于神经放电率，也可以被视为这些信念主题的“神经表征”——例如手指的位置或跳跃的青蛙的多模态概念。后一种观点更接近于（神经）表征的传统属性：它们关于某事物，并被有机体用来完成特定任务，例如预测行动的感觉结果或指导适应性行为。因此，它们对有机体本身具有意义和重要性 1,3,5-8。

计划、想象和脱离

构成行动和感知基础的变分自由能，与构成计划基础的预期自由能之间，存在一个根本区别。前者仅依赖于过去和现在的观察，而后者则需要利用生成模型来内源地生成（或想象）可能由特定行动序列产生的反事实观察。这种机制不仅对计划有影响，而且对各种形式的前瞻性认知也有影响，包括“仿佛”模拟、重演和想象等概念；以及过去情节的重演或反事实事件的构建。值得强调的是“内源性”一词，因为这种生成能力取决于暂时脱离即时的行动-感知循环，从而忽略感觉输入和预测误差。

从神经学的角度来看，脱离并回放编码在生成模型中的统计模式、重访过去经历或设想未来情景的能力，在神经元再激活和回放中找到了明确的相似之处 49,50。从理论上讲，这种现象与经典概念一致，即表征用于“在事物缺席时”表征某物 65。然而，并非所有参与主动推断的智能体都进行计划或预期自由能最小化。因此，如果脱离能力和表征“在缺席时”的某物的能力，区分了拥有或缺乏表征（或认知）的有机体，那么它可能潜在地突显了仅最小化变分自由能的主动推断智能体与额外最小化预期自由能的主动推断智能体之间的分类区分 128。因此，关于有机体表征能力、表征方式——以及是否从事此类活动——的问题，再次取决于对其基本生成模型的识别。

生成模型中的抽象和失真

即使坚持模型的传统定义，即作为外部世界的表征，也必须承认没有任何模型能完美地镜像现实，一定程度的信息损失是不可避免的。然而，诸如主动推断和率失真理论 79 等范式超越了这一显而易见的考量，强调了生成模型中最优信息压缩的重要性。在主动推断框架内，生成模型必须在准确性和复杂性之间取得平衡。这种平衡旨在促进从数据中进行最优学习，确保效率和泛化能力。如图 8 所示，对模型学习的不同约束——例如数据统计的变化和学习目标的差异——导致生成模型所获取的潜在状态呈现出不同的几何结构和变化。

最近，关于不同脑区神经元响应几何结构的研究势头日益增强。既然这些几何结构反映了我们感知世界的方式，那么显而易见的是，不仅是生成模型本身，其学习统计特性的具体细节，也在决定其表征内容及表征方式方面发挥着至关重要的作用。

显式生成模型和面向行动的生成模型

大脑学习生成模型是为了适应性地在世界中导航，而不是（或不 solely）为了理解它。不同的生物体可能拥有一系列生成模型，从涉及用于推断外部实体（如物体、面孔或人）的变量的“显式”模型，到优先预测行动结果、无需编码外部实体的“面向行动”模型。这些模型可以为共同的生物学挑战提供不同的解决方案，例如估计与物体的距离。因此，有机体为特定任务所采用的具体模型，仍是一个需要经验研究的问题。

这种观点许可了关于生成模型角色的“生成论的”或“实用主义的”视角，这些视角强调生成模型的主要作用是调节互动，而不是垂直地表征外部世界。从理论立场来看，这一概念可以有多种解释。一种解释可能表明，面向行动的生成模型仍然促进神经表征，尽管这些可能被理解为传达可供性和潜在行动的“实用主义表征”。另一种解释可能断言，感觉运动偶然性的模型不需要表征的概念。虽然解决这一争论超出了我们的范围，但可以注意到，多样化的生成模型（显式的或面向行动的，具有不同的隐藏变量）赋予了生物体不同的能力。例如，如前所述，主动推断中的生成模型能够实现适应性的行动-感知循环，但只有某些模型支持分离的认知操作，如计划或想象。

这一观察有一个重要的后果：假设“意义”和“理解”通过生成模型与能动的行动内在相连，那么上述一系列生成模型赋予了生物体对其生态位的不同形式的“理解”。这涵盖了从生成论理论强调的“互动中的意义”到认知理论强调的“所指物缺席时的表征”。同样地，缺乏与其环境进行能动互动的生成式AI模型，将缺乏促进真正理解所必需的基本现实根基（Pezzulo et al., 2023）。

符号脱离问题：从实用主义表征到描述性表征

前述讨论提出了一个关键但尚未解决的问题：在我们早期进化祖先中（如图10中的秀丽隐杆线虫所示）能够控制行动的相对简单的生成模型，是如何进化成那些也能促进分离认知的模型的？各种研究人员提出了一种从“实用主义”到更“分离”和“描述性”表征的合理过渡，这可以浓缩为两个关键步骤。

最初，有意义的活动模式可以在有机体预测和控制简单行为策略的能力背景下出现。如果这些模式是关于某事物的，那么它们可以被视为“实用主义的”神经表征：例如，它们提供关于物体互动所产生的感觉反馈的预测，尽管仅在有限的背景下。这些模式不仅仅是相关性——它们与外部元素（无论是否显式编码在模型的隐藏变量中）表现出一种“系统的”和“可利用的关系”。这使得它们能够指导适应性行动，赋予它们意义和适应性意义。这些表征根植于有机体进行适应性预测和控制的能力，但它们并非分离的：它们是受上下文约束的，并且仅在行动-感知循环和有机体当前状态的背景下——且与之紧密耦合——被激活。133 强调的一个实例是，岛叶中对食物相关视觉线索的反应，仅在生物体饥饿时出现 135。在这个例子中，假定的食物线索及其状态的神经表征是上下文特定的，并且在此上下文之外不可访问；例如，用来描绘食物的缺失或在没有饥饿感的情况下。

随后，有机体获得了内源性地生成其实用主义神经表征的能力。这种内源性生成将这些表征从其最初的感觉运动背景中分离和抽象出来，将它们与外部感觉输入、行动执行或促成其出现的有机体初始行为状态的强制性联系分离开来。然而，这些表征保留了其最初的根基：它们仍然是关于某事物的，可以被用来评估和选择替代行动（无论是执行还是想象的），并且对有机体具有意义和重要性。重要的是，它们的分离赋予了有机体设想和思考“不在眼前之物”的认知能力；无论是潜在的行动、渴望但不存在的事物，还是可交流的概念。因此，分离推动了高级认知功能，特别是面向未来的认知，如计划和想象，这可能解释了分离本身的进化益处。大多数认知理论认为，真正的“精神生活”始于有机体能够内源性地生成世界的神经表征时；无论是为了在个人偏好下塑造世界，还是为了沉思。以食物相关线索为例，分离的表征使得即使在食物或饥饿感缺失的情况下，也能思考或谈论食物。此外，关于食物（或导航或类似主题）的知识可以被抽象化，以支持新的能力，例如理解叙述或设想有回报的旅程。这些实例说明了分离如何引发神经表征从实用主义目标到认知或描述性目标的根本性增强或转变。本质上，分离的表征对应于通常与我们的心理体验相关的“描述性”表征。并且这些表征通过社会互动和语言交流而变得丰富 136–139。

值得注意的是，这一视角揭示了贯穿本文始终强调的生成模型两个关键功能之间一种有趣的双向相互作用：与生活世界互动和理解它。传统的认知理论通常假设，为了与世界有效互动，有机体必须首先达到对其一定程度的理解。同时，我们在这里强调了理解世界——并从中产生意义——需要主动互动 32。在主动推断中，这两个过程是紧密交织的。类似于短时间尺度上的变分自由能最小化如何在即时感知和行动之间启动相互循环，相同的最小化在更长时间尺度上促进了理解世界的行为与主动参与世界的行为之间的相互循环。

许多研究人员已经提出了这个叙述的不同版本，但许多内容仍是推测性的。一个挑战是将分离的概念与大脑进化的渐进主义观点相协调。未来的研究应该探索，描绘主动推断生成模型在从简单到复杂有机体中的进化，是否可能阐明从行动控制环路发展出分离的和面向未来的认知能力 69。

原文链接： https://discovery.ucl.ac.uk/id/eprint/10191719/3/Friston_Neural%20representation%20in%20active%20inference.pdf