涌现于自由能原理的自正交化吸引子神经网络

涌现于自由能原理的自正交化吸引子神经网络

Self-orthogonalizing attractor neural networks emerging from the free energy principle

https://arxiv.org/pdf/2505.22749

摘要

吸引子动力学是许多复杂系统（包括大脑）的标志。理解这种自组织动力学如何从第一性原理中涌现，对于推进我们对神经元计算的理解以及人工智能系统的设计至关重要。在这里，我们形式化了吸引子网络如何从应用于随机动力学系统通用划分的自由能原理中涌现。我们的方法消除了对显式强加的学习和推理规则的需求，并为这种自组织系统识别了涌现的、但高效且生物学上合理的推理和学习动力学。这些导致了一个集体的、多层次的贝叶斯主动推理过程。自由能景观上的吸引子编码先验信念；推理将感觉数据整合到后验信念中；学习微调耦合以最小化长期惊奇。通过分析和模拟，我们确立了所提出的网络倾向于近似正交化的吸引子表示，这是同时优化预测准确性和模型复杂性的结果。这些吸引子有效地张成（span）输入子空间，增强了泛化能力以及隐藏原因与可观察效应之间的互信息。此外，虽然随机数据呈现导致对称和稀疏耦合，但顺序数据促进了非对称耦合和非平衡稳态动力学，提供了对传统玻尔兹曼机的自然泛化。我们的发现提供了自组织吸引子网络的统一理论，为人工智能和神经科学提供了新颖的见解。

关键词： 吸引子网络，自由能原理，主动推理，正交表示，自组织

• 吸引子网络是从应用于随机动力学系统通用划分的自由能原理（FEP）推导出来的。
• 这种方法产生了涌现的、生物学上合理的推理和学习动力学，形成了一个多层次的贝叶斯主动推理过程。
• 这些网络倾向于近似正交化的吸引子表示，优化了预测准确性和模型复杂性。
• 顺序数据呈现导致非对称耦合和非平衡稳态动力学，泛化了传统的玻尔兹曼机。
• 模拟展示了正交基形成、泛化、序列学习、可扩展性以及对灾难性遗忘的抵抗力。

1 引言

从漩涡和鸟群到神经元和社会网络，无数自然系统可以通过围绕吸引子状态组织的动力学来表征 [Haken, 1978]。这样的系统可以被分解为一组——或多或少复杂的——构建块或“粒子”（例如水分子、鸟、神经元或人），它们通过局部相互作用耦合。吸引子是系统集体动力学的涌现结果，源于这些局部相互作用，没有任何单个粒子施加全局控制。

吸引子是动力系统理论中的一个关键概念，定义为系统状态空间中附近轨迹收敛的一组状态 [Guckenheimer et al., 1984]。几何上，最简单的吸引子是固定点和极限环（代表周期性振荡）。然而，这个概念扩展到更复杂的结构，如与混沌行为相关的奇异吸引子，以及出现在随机或非平衡环境中的现象，如状态上的概率分布（随机吸引子）、反映过去动力学的瞬态（幽灵吸引子或吸引子废墟），以及在不稳定状态之间循环的轨迹（序列吸引子或异宿环）。人工吸引子神经网络 [Amit, 1989] 代表了一类专门设计用来利用吸引子动力学的循环神经网络。虽然这些网络的具体形式和行为深受所选推理和学习规则的影响，但自组织是所有变体的关键特征，因为稳定状态是从网络元素之间的相互作用中涌现出来的，没有明确的外部协调。这一特性使它们特别适合作为自组织生物系统（包括大脑）的模型。很明显，大脑也是一个复杂的吸引子网络。吸引子动力学长期以来被认为在电路水平的信息整合中发挥重要作用 [Freeman, 1987, Amit, 1989, Deco and Rolls, 2003, Nartallo-Kaluarachchi et al., 2025] (Tsodyks [1999])，并已成为涉及运动控制、感觉放大、运动整合、证据整合、记忆、决策和空间导航的典型大脑回路的成熟模型（见 Khona and Fiete [2022] 的综述）。例如，头方向细胞（以方向依赖方式放电的神经元）的活动已知源于圆形吸引子状态，由所谓的环吸引子网络产生 [Zhang, 1996]。多稳态和亚稳态吸引子动力学也被提出扩展到中观和宏观尺度 [Rolls, 2009]，“容纳异质元素的协调” [Kelso, 2012]，使吸引子动力学成为跨越大脑功能不同尺度的总体计算机制。大脑作为复杂吸引子网络的一个实例，不仅展示了这种网络架构的计算能力，还展示了其通过自组织涌现和进化的能力。

当讨论吸引子网络中的自组织时，我们将区分两个不同的层次。首先，我们可以谈论操作性自组织：预先形成的网络在其运行期间稳定于（settle into）吸引子状态的能力。然而，这并不包含网络“构建自身”的能力——从简单的局部相互作用中涌现，没有明确的编程或全局控制，并通过学习自适应地进化其结构和功能。后一层次的自组织我们将称为适应性自组织。能够进行适应性自组织的架构将反映神经系统不仅作为吸引子网络运作，而且通过自我指导的发展和 learning（学习）过程成为——并保持——一个吸引子网络的能力。此外，适应性自组织也是机器人和人工智能系统的一个高度理想的属性，不仅通过持续学习提高其鲁棒性和适应性，但可能导致系统随时间有机地增加其复杂性和能力（例如发展机器人学）。因此，表征吸引子网络中的适应性自组织对于推进我们对大脑的理解以及创造更自主、自适应、受大脑启发的AI系统至关重要。

自由能原理（FEP）提供了一个通用框架，将自组织研究为非平衡稳态的贝叶斯推理（即主动推理）。FEP在将复杂自组织系统的动力学与计算和推理过程联系起来方面发挥了关键作用，特别是在大脑功能领域 [Friston et al., 2023, Friston and Ao, 2012, Palacios et al., 2020]。FEP假设任何“事物”——为了在较长时间内存在——必须保持与其环境的条件独立性。这需要系统具有特定的稀疏耦合结构，称为特定划分（particular partition），将系统划分为内部、外部和边界（感觉和主动）状态（见图 2A）。可以证明，维持这种稀疏耦合等同于执行一个推理过程，其中内部状态通过最小化变分自由能来推断感觉输入的原因（见 Friston et al. [2023] 或 Friston et al. [2023] 的形式化处理）。

在这里，我们描述了直接从FEP涌现的特定类别的适应性自组织吸引子网络，无需显式强加的学习或推理规则（图 1）。首先，我们展示了特定划分的层次化公式——一个适用于任何复杂动力系统的概念——可以产生具有与知名人工吸引子网络架构相同功能形式的系统。其次，我们展示了关于此类系统内部状态最小化变分自由能（VFE）会产生类似玻尔兹曼机的随机更新机制，连续状态随机Hopfield网络是一个特例。第三，我们展示了关于系统内部毯（blanket）或边界状态（耦合）最小化VFE会诱导基于广义预测编码的学习过程。关键在于，这种自适应过程超越了简单地强化具体的感觉模式；它通过学习张成（span）关键模式的整个子空间来学习，通过建立近似正交化的吸引子表示，系统可以在推理过程中组合这些表示。我们使用模拟来确定准正交吸引子涌现的要求，并说明导出的吸引子网络泛化到未见数据的能力。最后，我们强调导出的吸引子网络可以自然地产生序列吸引子（如果输入数据以清晰的顺序呈现），并例示了其通过自发活动执行持续学习和克服灾难性遗忘的潜力。我们通过讨论我们框架的可测试预测，并探索这些发现对自然和人工智能系统的更广泛影响来结束。

2 主要结果

2.1 背景：特定划分与自由能原理

在直觉层面上，将特定划分视为“通用划分”意味着任何持久的随机动力系统都可以用（可能是嵌套的）界面来描述，这些界面分离了被推断的事物和关于什么被推断的事物。在这种观点下，马尔可夫毯不是临时的建模工具，而是解释局部相互作用如何支持跨尺度的稳定、自组织推理所需的最小记录（bookkeeping）。

正如 Friston 等人 [2023] 所示，这样的粒子为了在较长时间内持续存在，必然必须维持这种条件独立性结构，这种行为等同于一个推理过程，其中内部状态通过毯状态（即感觉和主动状态）最小化自由能来推断外部状态 [Friston et al., 2009, Friston, 2010, Friston et al., 2023]：

2.2 深层特定划分与子粒子

2.3 从深层特定划分中涌现的吸引子神经网络

接下来，我们为任意深层特定划分建立了一个原型的数学参数化，如图 3 所示，旨在证明这种复杂的、稀疏耦合的随机动力系统可以产生人工吸引子神经网络。

2.4 推理

到目前为止，我们的推导仅依赖于系统的稀疏耦合结构（深层特定划分），但并未利用自由能原理本身。我们现在调用 FEP 来推导每个节点如何更新其状态。从节点的角度来看，局部变分自由能是（见公式 (3)）：

2.5 学习

该规则的其他关键特征是：(i) 它与 Sanger 规则 [Sanger, 1989] 的相似性——一种用于主成分分析的在线算法——以及 (ii) 其反 Hebbian 分量与“做梦吸引子网络”中的“遗忘”（“remotion”）过程的类比 [Hopfield et al., 1983, Plakhov, 1994, Dotsenko and Tirozzi, 1991, Fachechi et al., 2019]，这些过程用于消除虚假的系统吸引子。这样的网络可以有效地近似 Kanter-Sompolinsky 投影神经网络 [Personnaz et al., 1985, Kanter and Sompolinsky, 1987]，其特征在于正交吸引子状态和最大记忆容量。这些平行关系表明，推导出的自由能最小化学习规则将促进近似正交吸引子状态的发展。我们在随后的部分中从理论上论证这一点，并通过模拟进行演示。用生物学术语来说，公式 (19) 的第一项对应于依赖相关的增强（correlation-dependent potentiation），而第二项实现了一种去相关的、类似预测误差的修正，以抵消失控的强化（runaway reinforcement）。这将该规则置于 Hebbian/anti-Hebbian 和稳态稳定可塑性基序（homeostatically stabilized plasticity motifs）的算法家族中，尽管我们不声称与任何单一的微电路机制存在一对一的映射。换句话说，推导是规范性的（来自自由能最小化），而生物学合理性是在局部可计算更新和观察到的定性基序的层面上断言的。

2.6 近似正交吸引子的涌现

虽然正交性增强了表示效率，但它提出了网络如何从这些（近似）正交化表示中检索原始模式的问题——这是作为联想记忆功能的关键要求。正如接下来讨论的，随机动力学使网络能够通过从结合这些正交基的后验分布中采样来解决这个问题。

2.7 随机检索作为宏观尺度贝叶斯推理

至此，循环闭合了。从 FEP 框架中涌现的随机吸引子网络（总结在图 4A 中）通过其集体采样动力学自然地实现了宏观尺度的贝叶斯推理，为整合先验信念与传入的感觉证据提供了稳健的机制——正如在人脸识别任务（图 7F）中具体展示的那样，其中网络通过将感觉证据与基于吸引子的先验相结合，从严重损坏的输入中恢复人脸身份。这揭示了自由能原理深度递归应用的潜力：整个网络涌现的集体行为，由相互作用的子粒子组成，每个子粒子最小化其局部自由能，重演了单个宏观尺度粒子的推理动力学。这种递归可以扩展到任意深度，产生嵌套特定划分的层次结构和多个涌现的描述层次，每个层次根据相同的基本原理执行贝叶斯主动推理。

2.8 非平衡稳态

实际后果有两个方面。首先，定向序列动力学（异宿链，heteroclinic chains）自然地从螺线管分量中涌现，使网络能够以学习的时间顺序遍历存储的模式——如模拟 3 所示。其次，不可逆流可以在不攀爬能量势垒的情况下在吸引子盆地之间传输概率质量，相对于可逆（对称耦合）情况可能加速混合 [Ao, 2004, Xing, 2010]。对吸引子正交性与无散条件（divergence-free condition）之间关系——以及由此产生的混合时间改进——的严格表征是未来工作的一个重要方向。作为第一步，在本文中我们执行模拟（模拟 3）以确认关键现象——具有定向吸引子间转移的稳定吸引子——被稳健地观察到。

3 计算机模拟演示

我们通过计算机模拟来说明所提出框架的关键特征。所有模拟都基于该网络的 Python 实现，可在 https://github.com/tspisak/fep-attractor-networks 获取。模拟 1-4 基于一个优先考虑清晰度而非效率的实现——它将 σ σ 和边界状态实现为单独的类，并且未针对性能进行优化。模拟 5 和 6 基于更高效的向量化实现，以允许扩展到更复杂的数据。在所有模拟中，我们以持续学习的方式（即同时执行推理和学习）使用推导出的规则训练吸引子网络。为了能够控制推理过程中的精度和学习速度，我们为公式 (16) 和 (19) 引入了两个系数：逆温度参数和学习率 α α。

3.1 模拟 1：正交基形成、宏观尺度自由能最小化和贝叶斯推理的演示

在模拟 1 中，我们构建了一个包含 25 个子粒子（代表 5x5 图像）的网络，并使用 2 个不同但相关的图像（Pearson's r = 0.77，见图 4B）对其进行训练，精度为 0.1，学习率为 0.01（参数依赖性见下一个模拟）。训练阶段包含 500 个 epoch，每个 epoch 展示从训练集中随机选择的一个模式，通过 10 个时间步同时进行推理和学习。如图 4B 所示，由同时进行的推理和学习过程执行的局部、微观尺度 VFE 最小化导致了宏观尺度的自由能最小化。接下来，我们通过确定性推理（使用期望值更新，而不是从分布中采样，类似于普通的 Hopfield 网络）获得了与输入模式相对应的吸引子状态。正如理论预测的那样，吸引子状态不是输入模式的简单复制，而是它们的近似正交化版本，显示出相关系数 r=-0.19。接下来，我们证明了该网络（具有随机推理）不仅能够从它们的噪声变体中检索输入模式（图 4C），而且通过组合其准正交吸引子状态，也能很好地泛化以重构第三个模式（图 4D）。请注意，此模拟仅旨在演示所提出架构的一些关键特征，对网络性能及其对参数依赖性的全面评估将在下一个模拟中呈现。

3.2 模拟 2：学习机制的系统评估

3.6 模拟 6：使用 Olivetti 人脸数据集的人脸识别

4 讨论

吸引子动力学在阐明大脑功能中的关键作用规定了一个基础性问题：正如自由能原理 [Friston et al., 2023, Friston, 2010] 所阐述的那样，从自组织的第一性原理中自然产生什么类型的吸引子网络？在这里，我们旨在解决这个问题。我们通过求助于原型参数化进行了数学证明，表明随后的网络通常表现为非平衡稳态（NESS）系统 [Xing, 2010, Ao, 2004]，其稳态概率分布由其突触效能的对称分量控制，符合类玻尔兹曼形式 [Amit, 1989, Hochreiter and Schmidhuber, 1997]。这使得产生的自组织吸引子网络成为经典、单层玻尔兹曼机或随机 Hopfield 网络 [Hinton, 2002, Hopfield, 1982] 的泛化，但以其非对称耦合和连续值神经元状态的能力为特征（见附录 8 获取详细比较）。支撑这一推导的主要假设——即（深层）特定划分的存在以及随之而来的最小化变分自由能的必要性——不仅是简约的，而且对于任何在变化环境中保持其完整性的随机动力系统来说，可以说是根本的 [Friston et al., 2023]。

我们的公式表明，微观尺度上的变分自由能最小化，即由单个网络节点（“子粒子”）进行，在主动推理框架内 [Friston et al., 2009] 产生了双重动力学。首先，它为单个网络节点规定了贝叶斯更新动力学，同源于在玻尔兹曼架构（例如随机 Hopfield 网络）中观察到的随机弛豫，具有高度的神经科学相关性，特别是对于粗粒度的大脑网络，其中大脑区域之间的活动据报道遵循类似的规则“流动” [Cole et al., 2016, Sanchez-Romero et al., 2023, Cole, 2024]。其次，它产生了一种独特的耦合可塑性——一种局部的、增量的学习规则——不断调整耦合权重以在预期未来感觉遭遇时保持低自由能，有效地在主动推理意义上实现动作选择 [Friston et al., 2016]。

学习规则本身显示出高度的神经生物学合理性，因为它既类似于广义的 Hebbian-anti-Hebbian 学习 [Földiák, 1990, Sanger, 1989] 又类似于预测编码 [Rao and Ballard, 1999, Millidge et al., 2022b, 2024]。突触可塑性的神经生物学机制在单个神经元水平上理解得最好，并且在实验上研究得最透彻，尽管存在将这些发现扩展到神经元群体水平的努力（例如，Robinson [2011], Huang and Lin [2023]）。我们相信我们的框架有望更好地理解独立于尺度的可塑性机制，因为它在深层特定划分形式化下在数学上经受住了任意粗粒度的考验。在单神经元极限下，该规则简化为离散时间的二元 Hebbian/anti-Hebbian 更新（当精度 → ∞ →∞ 时正式恢复），非常类似于脉冲时间依赖可塑性（STDP）[Roberts and Leen, 2010, Vignoud et al., 2024]，其中相关活动产生长时程增强（LTP ∼ ∼ Hebbian 项），预测活动导致长时程抑制（LTD ∼ ∼ anti-Hebbian 项；见例如 Caporale and Dan [2008]）。因此，我们的框架将 STDP 连接到预测编码 [Saponati and Vinck, 2023]，其意义在于突触前活动如果被突触后放电可靠预测，最终会被抑制。

此外，减法预测误差项，加上连续伯努利分布的有界性质，防止了失控的增强，功能上类似于稳态和元可塑性机制 [Turrigiano, 2011, Zenke et al., 2017]。同样类似于生物启发的可塑性模型，基于 FEP 的学习规则通过对比当前输入相关性与网络生成模型在前一时间步预测的相关性，有效地实现了序列学习。总之，我们的框架预测 Hebbian/anti-Hebbian 风格的更新应该出现在所有描述尺度上，差异仅在于实现而非数学结构，而不是事后拟合神经元水平数据。突触、回路和网络水平的生物文献与这种多尺度解释高度一致。

此外，通过利用其自然倾向于自发（随机）重访其吸引子的特性，网络能够减轻灾难性遗忘 [Aleixo et al., 2023]——当前深度学习架构在学习新表示时丢失旧表示的倾向。这种现象可以作为静息状态大脑活动期间观察到的自发波动（也与“白日梦”有关）的模型，并显示出在人工系统中利用类似机制的前景。

重要的是，我们表明在我们的自适应自组织网络架构中，微观尺度自由能最小化表现为（近似）宏观尺度自由能最小化——正如宏观尺度网络本身也是一个特定划分这一事实所预期的那样。这意味着网络不仅在其节点局部执行贝叶斯推理，而且在宏观尺度上也执行——这是玻尔兹曼机和脉冲神经网络文献中众所周知的结果 [ACKLEY et al., 1985, Hinton, 2002, Buesing et al., 2011]。我们的工作通过整体视角扩展了这些先前的结果：由耦合效能塑造并表现为（软）吸引子库的自由能景观，编码了系统的先验信念。感觉输入或内部计算，作为对网络节点内部偏差的扰动呈现，构成了似然，而网络固有的随机动力学通过类似于不可逆马尔可夫链蒙特卡洛采样的过程探索后验景观 [Gelman and Rubin, 1992]。这些动力学的随机性不仅仅是副现象；它使网络能够通过在其状态空间中动态遍历轨迹来参与主动推理，这些轨迹混合了不同吸引子盆地的贡献 [Friston et al., 2009]。因此，例如，虽然新颖的输入位于由学习到的吸引子张成的子空间内，网络通过参与振荡活动来进行泛化——这是大脑中神经计算的特征签名。虽然多稳态随机动力学产生振荡的概念之前已被提出（例如 [Liu et al., 2022]），但由系统吸引子张成的准正交基可以使这种机制特别有效。

通过深层特定划分的 FEP 形式化内在地适应了多个、层次嵌套的描述层次。人们可以通过组合子粒子来任意粗粒化系统，最终到达一个简单的特定划分。借鉴中心流形定理 [Wagner, 1989] 等概念，假设在较低描述层次上的快速、细粒度动力学收敛到低维流形，系统随后在较粗尺度上通过较慢的过程在该流形上演化。这种时间尺度的内在分离为理解大规模大脑动力学提供了一个引人注目的范式，其中快速神经元活动通过层次主动推理支持较慢的认知过程 [Man et al., 2018]。事实上，实证研究已为大规模大脑活动中的吸引子动力学提供了流形证据 [Rolls, 2009, Kelso, 2012, Haken, 1978, Breakspear, 2017, Deco and Jirsa, 2012, Kelso, 2012, Gosti et al., 2024, Chen et al., 2025]。

FEP 驱动的同步学习和推理过程的一个关键结果是网络建立近似正交吸引子状态的倾向。我们要论证的是，这一显著特性不仅仅是一个副作用；它是保守粒子变分自由能最小化的不可避免的结果 [Friston et al., 2023]；这意味着同时最小化模型复杂度和最大化准确性——或者等价地——通过最大化互信息来最小化冗余。这一关键特征使自由能最小化吸引子网络自然地近似了最有效的吸引子网络架构之一，即 Kanter 和 Sompolinsky [Kanter and Sompolinsky, 1987, Personnaz et al., 1985] 阐述的投影神经网络。我们将吸引子状态的近似正交性作为自由能最小化吸引子网络的特征签名提出，可能在自然系统（例如神经数据）中检测到。此外，自正交化在有效表示之外发挥了结构作用：通过确保吸引子近似独立，它保证了反对称耦合分量——编码序列动力学和螺线管流——近似切于由对称部分定义的能量景观。这种清晰的分离可能指向耦合矩阵的两个分量和 FEP 的两个互补目标之间更深层的形式对应关系：变分自由能最小化（感知，编码在对称分量中）和预期自由能最小化（动作和规划，编码在反对称分量中）——这是未来理论工作的重要方向。有来自大规模大脑网络数据的初步证据指向这一方向。使用与本文提出的非常相似的吸引子网络模型——最近的一篇论文表明标准静息态网络（RSNs）是大脑吸引子的表现，可以从 fMRI 大脑连接数据中重构 [Englert et al., 2026]。最重要的是，这些经验重构的大规模大脑吸引子被发现是高度正交的——这是本文描述的自组织吸引子网络的关键特征。未来的研究需要仔细检查这些大规模大脑吸引子及其附带的计算能力，是否真的是底层基于 FEP 的吸引子网络的直接签名，以及它们如何与“做梦神经网络” [Hopfield et al., 1983, Plakhov, 1994, Dotsenko and Tirozzi, 1991, Fachechi et al., 2019] 的相关框架联系起来，实现类似的机制。

随机性——我们网络的一个关键属性——从人工智能研究的角度来看也非常相关。在我们的框架中，噪声不是敌人；它实现了推理的精度，允许它在稳定性和灵活性之间取得平衡。这种固有的随机性与节能神经形态架构 [Schuman et al., 2022] 特别契合，特别是在新兴的热力学计算 [Melanson et al., 2025] 和忆阻器技术领域，其中吸引子网络——包括忆阻 Hopfield 网络、多翼和多蝴蝶超混沌结构，以及忆阻细胞神经网络样电路 [Lin et al., 2023, Wang et al., 2023b, Lin et al., 2024, Deng et al., 2025, Diao et al., 2024]——最近已被研究。一个有希望的方向是询问局部 VFE 最小化更新是否可以在热力学和忆阻基底中实例化，将 FEP 框架的原则性推理解释与这些新兴范式中的硬件效率和丰富的非平衡动力学结合起来。

由于所提出网络中的推理涉及自发地“重放”其自身的吸引子（或其中的序列），即使没有引入外部输入（零偏差），所提出的架构也可能自然克服灾难性遗忘，这是人工神经网络中一个高度成问题的现象，即模型在学习新信息时突然丢失先前获得的知识，特别是在多任务的顺序训练期间。检查基于 FEP 的吸引子网络的这些属性如何扩展到更复杂、多样和扩展的学习场景，是进一步研究的有希望的方向。

通常，所提出的架构内在地体现了之前讨论的主动推理和预测编码的所有优势 [Millidge et al., 2022b, Salvatori et al., 2023]。在每个描述层次上，网络动态平衡准确性和复杂性，并可能自然表现出“信息寻求”行为（好奇心）[Friston et al., 2017]。此外，该架构可能为探索与意识相关的主动推理品质的长期哲学含义提供基础 [Pezzulo et al., 2024]。

总之，通过从 FEP 推导自适应、自组织——且自正交化——吸引子网络的涌现，这项工作提供了自组织、贝叶斯推理和神经计算的原则性综合。吸引子正交化的内在倾向、多尺度动力学和持续学习能力，通过主动推理的镜头，为更好地理解自然智能和启发人工对应物提供了一个引人注目的、有理论根据的展望。

原文链接：https://arxiv.org/pdf/2505.22749