大模型开挂了！64量子比特，让11亿参数模型逆袭80亿

本文作者王晓强，加拿大蒙特利尔大学（Université de Montréal）和 Mila 人工智能研究所博士生，师从刘邦教授。博士期间的主要研究方向为以记忆模型驱动的递归自我改进（RSI）作为大模型智能体的 scaling 范式。目前已在人工智能领域顶级会议 NeurIPS、ICLR、ACL、EMNLP 等发表多篇论文。

200 秒，还是一万年？2019 年，Google 使用 Sycamore 的 53 个有效量子比特完成随机电路采样，仅耗时 200 秒，并估计当时最快的超级计算机需要约一万年。IBM 随即提出质疑，认为通过优化经典模拟方法，同一任务只需约 2.5 天。这场关于 “量子优越性” 的争论，让量子计算的巨大潜力进入公众视野。

七年后，AI 开始直接参与量子计算实验。2026 年 9 月，OpenAI 展示了 GPT-5.6 Sol 通过 Codex，在 MIT 工程量子系统组（EQuS）的一块未校准 6 量子比特超导芯片上，自主执行测量、分析数据并优化实验参数，在信号清晰时完成一系列量子比特表征与校准任务。

当 AI 已经能够帮助科学家研究量子计算，一个更有意思的问题随之而来：量子计算能否反过来增强 AI，让更小的语言模型拥有更强的能力？

最近，来自加拿大蒙特利尔大学、Mila 人工智能研究所和麦吉尔大学的团队提出 HyperQ，将逐 Token 自适应的量子计算引入扩散语言模型。实验发现，在 64 量子比特下，HyperQ 让仅有 11 亿参数（1.1B）的模型在六项零样本测试平均分上超过 Qwen3-8B 等 80 亿参数模型，相关量子电路还在 IBM 156 量子比特量子集群上完成了验证。

量子计算究竟如何赋能语言模型？HyperQ 又是如何用 64 量子比特挑战 80 亿参数模型的？

图 1. HyperQ 论文信息

• 论文标题：Circuit Hypernetworks for Quantum-Augmented Diffusion Language Models
• 论文地址：https://arxiv.org/abs/2609.24657

量子计算的基本概念

量子计算与经典计算最大的不同，在于量子比特可以处于 0 和 1 的叠加态，并通过量子门实现复杂的状态变换（图 2）。多个量子门按顺序作用在一组量子比特上，就构成一个量子电路，最后通过测量得到经典的读出数值。量子电路由此为神经网络提供了一种不同于传统线性变换的计算方式。

图 2. 量子比特（左）、量子电路（中）与测量读出（右）

HyperQ 的动态量子电路

但如何让量子计算真正服务于语言模型？

尤其是扩散语言模型，它不像自回归语言模型那样逐词生成文本，而是从大量掩码（[MASK]）出发，通过多轮去噪逐渐恢复完整文本。同一个 Token 的隐藏状态会随着去噪不断变化。

已有量子增强语言模型通常使用预先设计好的固定量子电路，无法根据不同 Token 的内容灵活调整。

HyperQ 的思路很直接：让语言模型自己决定，每个 Token 需要什么样的量子计算。

如图 3 所示，HyperQ 的核心是一个轻量级超网络（Hypernetwork），它根据每个 Token 当前的隐藏状态，动态生成专属的量子电路。

图 3. 扩散去噪（左）、含量子计算分支的 Transformer 层（中）与逐 Token 量子电路（右）

如图 4 所示，整个过程分为三步：

1. 生成量子电路：根据 Token 的隐藏状态，生成量子门的旋转角度、耦合强度和测量方向。
2. 执行计算：通过量子电路变换信息，再从各量子比特的测量结果中提取特征。
3. 增强模型：将这些量子特征加入 Transformer 的注意力计算，帮助模型预测文本。

图 4. 超网络为每个 Token 动态生成量子电路

这样一来，不同 Token 可以使用不同的量子电路，同一个 Token 在不同去噪步骤中也能动态调整计算方式。

而且，HyperQ 不需要重新训练整个语言模型，只需训练新增的量子计算分支。

量子电路的规模扩展

量子计算面临一个现实难题：量子比特越多，计算和训练通常越困难。完整描述 64 量子比特的量子态，需要多达 264 个振幅。

HyperQ 通过特殊的量子电路设计绕开了这一难题。

首先，它采用稀疏连接结构，让每个量子比特只与 4 个邻居相连，避免量子电路规模增大时连接数量急剧增长。其次，它使用一种特殊的 IQP 量子电路，只需读取量子比特的测量期望值。这些期望值可以通过经典计算直接求解，计算量随量子比特数量线性增长。

这种设计不仅降低了计算成本，还缓解了量子电路训练中常见的梯度消失问题（图 5）。

图 5. 量子电路梯度方差（左）与量子计算分支显存及延迟（右）

因此，HyperQ 能够在经典计算机上高效训练更大规模的量子计算分支，同时保持与量子硬件的兼容性。

实验结果

研究团队在六项零样本测试中验证了 HyperQ 的性能，涵盖常识理解、阅读理解和数学推理等任务。

最引人关注的是 64 量子比特的结果（图 6）：

图 6. HyperQ 测试结果

HyperQ 相比冻结主干提升 4.71 分，并超过同主干的 LoRA 微调结果，而使用的指令微调数据只有后者的十分之一。

进一步实验发现，量子电路并非越大越好。16 量子比特时，HyperQ 甚至低于冻结主干，而扩展到 64 量子比特后，性能才显著提升。

真正重要的不只是量子比特数量，还有量子电路能否根据 Token 动态调整。

如图 7 左侧表格所示，与最优固定量子电路相比，HyperQ 在 64 量子比特下提升 3.68 分；相比离散结构搜索，也有 2.00 分的优势。

如图 7 中间和右侧两图所示，16 量子比特时，HyperQ 会根据 Token 的信息量分配纠缠，实词和罕见子词保留的耦合最密，而 30.2% 的标点会关掉量子电路内部的旋转和耦合。图例中，Ring and chord 表示同时保留相邻量子比特间的环耦合和跨固定间隔的弦耦合，Ring 和 Chord 分别只保留其中一层，Product 只保留单比特旋转，Identity 只保留读出。64 量子比特时，约九成 Token 使用的量子电路结构不与其他 Token 重复。相比之下，固定量子电路让所有 Token 共用同一套结构；离散结构搜索虽然也按 Token 选择量子电路，但每个 Token 只能从有限的候选结构中挑选，并不是为这种细粒度的逐 Token 分配设计的。

图 7. HyperQ 对比固定量子电路及离散结构搜索（左）、Token 耦合分配（中）与量子电路结构频次（右）

量子集群实验

前面的主要实验使用经典计算模拟量子电路。那么，这些量子电路能否真正运行在量子计算机上？

研究团队进一步在不修改模型权重的情况下，将量子计算分支中的量子电路部署到 IBM 156 量子比特量子集群上。

结果显示，即使受到硬件噪声的影响，大部分性能依然能够保留。64 量子比特下，在量子集群上运行的六项零样本测试平均分仅比经典模拟低 1.12 分（图 8）。

图 8. 量子集群上的分数损失（左）、评测题数（中）与执行的量子电路数（右）

这说明 HyperQ 不仅能够在经典计算环境中训练，其量子电路也具备在量子硬件上执行的可行性。

结语

HyperQ 打开了一个新的方向：每个 Token 都能调用专属量子电路，计算结构由此成为模型能力增长的新维度，量子计算与大模型也走向更深层的结合。团队也将继续在量子基础模型方向深耕。让我们一起期待量子计算与大模型深度融合的智能计算时代。