扎克伯格万字公开信:避免超级智能成为新的权力中心

刚刚，Meta CEO 马克·扎克伯格发布一封长篇公开信，题为《未来属于每一个人》，系统阐述了他对超级智能时代的判断，以及 Meta 正在选择的 AI 路线。

扎克伯格的核心观点是，超级智能不应该被少数公司、政府或 AI 实验室掌握，而应该尽可能交到每个人手中。

“个人赋能是繁荣的源泉，发明是超级智能的首要目的，而权力平衡则是安全的基础。”他说。

扎克伯格直指当前 AI 领域关于“对齐”和安全的主流思路，认为试图打造一个由少数机构控制的“仁慈超级智能”本身就存在风险。

他主张让数十亿人拥有个人超级智能，通过人与人、企业与企业、不同 AI 系统之间的竞争和制衡，避免超级智能成为新的权力中心。

他还提出一个颇具争议的判断，AI 对就业最大的贡献可能不是自动化，而是发明。

他认为，如果个人能力提升的速度能够超过自动化，AI 不但不会导致就业大规模消失，反而可能创造更多企业和新的工作。

与此同时，扎克伯格罕见地谈到了超级智能失控的极端场景：如果一个能够递归自我改进的 AI 将算力效率提升到 100 倍，那么即便它只占有全球一小部分算力，也可能获得超过其他所有人之和的有效智能。

扎克伯格还明确宣布，Meta 将继续支持开源 AI，并很快恢复发布部分开源模型；同时建立独立董事会监督模型发布安全标准，并推动美国加快能源、数据中心和芯片基础设施建设。

几乎在同时，他在 X 上公开宣布称，将开放 Muse Glimmer 的权重，“这是一个出色的 30B 参数稠密模型，可以本地运行”。

他还披露，很快将发布 Muse Spark 1.2 的权重，这是最新的基础模型。

“Meta 是开源的坚定支持者，我为这些发布感到自豪”。他说。

以下为公开信全文——

《未来属于每一个人》

通往积极 AI 未来的道路

我们很幸运，生活在一个令人难以置信的历史时刻。

未来几年，人们将能够使用超越人类能力的超级智能，创造和发现非凡的新事物，创办新的企业，表达新的想法，学习新的概念，并推动我们的健康和生活质量不断进步。

随着我们越来越接近这一时刻，重要的是建立一种理念，思考我们应该如何最好地利用超级智能，确保它能够改善我们所有人的生活、工作、社区、自由和安全。

我们这个时代最关键的问题是：谁将拥有使用超级智能的权利，以及我们将让它服务于什么目标？ 它会被集中起来，仅供少数机构使用，还是会成为赋能每一个人的工具？

我们提出这样一种理念：以个人赋能作为繁荣的源泉，以发明作为超级智能的首要目的，以权力平衡作为安全的基础。

所有新技术都会带来机遇和挑战。超级智能将成为人类历史上最重要的技术之一，因此，它带来的机遇和挑战很可能也将超过我们一生中见过的任何技术。我们应该对此高度重视。

不过，令人惊讶的是，许多正在开发 AI 的人所参与的讨论，却充满了末日论。

我无法理解，为什么一个相信 AI 将消灭绝大多数工作、让人类失去大部分意义的人，会如此急于去创造这样的未来。认为 AI 危险到只有极端集中权力才是唯一安全道路的观点，本身就存在根本性的问题。

从历史来看，人们寄希望于一种绝对权力，只要它足够开明，就会仁慈地为人类提供一切，但这种做法从未带来安全或积极的结果。

人类已经见证过许多改变世界的技术进步。每一次，人们都会担心有人被时代抛下。但每一次，最终人类都拥有了更多的人口、更大的繁荣、更好的健康和更多的自由。

我们相信，AI 也会如此，未来的富足可以由所有人共享。

我们也相信，那些让我们走到今天的价值观——比如自由、开放探究、自由企业和机会平等——同样是构建美好未来的正确价值观。

让人们拥有追求自己目标的力量，是人类取得最大进步的方式。新颖的想法和重大突破，很少仅仅来自已经建立起来的机构。

它们来自相信人类可以飞行的自行车店兄弟，来自没有接受正规教育、却找到了发电方法的装订学徒，也来自认为个人电脑应该属于每一个人的车库里的孩子。我们相信，这一点未来仍然成立。随着每个人都获得更强大的工具，每个人塑造未来的能力都会变得更强，而不是更弱。

发明，而不是自动化，将成为超级智能最大的贡献。

早期 AI 可以回答问题、完成日常工作。很快，它将越来越多地帮助我们发现新的知识——从发现能够治愈家人疾病的新药，到找到改善你企业的新方法。一个人一天能够提出的问题数量是有限的，而超级智能为了帮助你实现目标能够发明的有价值事物，却是无限的。

当智能变得充足而普遍之后，最重要的问题将变成：我们应该让它朝什么方向发展？ 有人认为，应该由超级智能本身，或者控制超级智能的一小群专家，来决定什么才是对人类最好的选择。我们不同意。民主和经济发展的历史已经证明，对于人们应该如何定义最好的生活，并不存在唯一客观的答案。

因此，最好的方式，是让人们自己决定什么对自己的生活最重要。

我们认为，让每个人都拥有超级智能，正是回答这一问题的方式。这延续了过去把超级计算机和互联网的力量放进每个人的口袋、摆在每个人桌面上的传统。我们不应该集中超级智能，而应该广泛分配它，让每个人都有能力决定如何使用它。

这有可能开启一个个人赋能的新纪元：每个人都可以利用这种强大的新能力，发挥自己的全部潜力，追求自己的兴趣，并以前所未有的方式改善自己的生活和这个世界。

为了让这一点更加具体，下面是 Meta 正在建设个人超级智能、以改善我们所有人生活的一些具体方式：

• 每个人都将拥有一个能力极强的个人智能代理，它了解你、你的目标，以及你所关心的一切。

你的智能代理将全天候代表你工作，改善你的关系、健康、职业、财务、家庭管理、兴趣爱好以及更多方面。它会为你节省时间，让你有更多时间做自己喜欢的事情，并帮助你完成原本无法完成的更多事情。它将提供强大的隐私和安全选项，让你可以放心地把所有个人内容交给它，同时知道其他人无法访问你的信息，这与 WhatsApp 的加密机制类似。你可以通过任何设备与智能代理互动，包括眼镜，让你在与重要的人相处时保持专注于当下。

例如，我的智能代理会帮我筛选有趣的信息，并帮助我把想法做成原型。它会监测我的睡眠，在我训练时观察我的状态并提供反馈，从而帮助我保持健康。

我的女儿喜欢烘焙，所以我的智能代理会为我们每个周末一起制作的食物规划个性化食谱，订购食材，然后在我们烘焙过程中提供建议。

• 每个人都将拥有令人难以置信的创作工具，用来表达自己的想法。

我 8 岁的女儿现在已经可以自己编写代码，把自己的想法制作成视频，而且一个晚上就能完成。

过去，这些事情要么需要我花几个月时间，要么根本不可能完成。现在，我们正在一起设计一个机器人。

与此同时，Meta 的研究人员正在生成非常适合增强现实眼镜的新型晶体结构，工程师们也正在用过去所需时间的一小部分开发新应用。很快，每个人都将拥有发明创造的超能力。

• 每个人都将拥有强大的工具来创办新企业，经济也将变得更加创业化。

人们已经开始能够自己把想法变成现实，而不必先融资或组建大型团队。许多过去太难或太昂贵、根本无法尝试的想法，现在都将成为可能。这意味着我们将看到更多的想法和企业。

我预计，这不仅会带来更大的经济增长，随着时间推移，也会带来更多就业，而不是更少。

• 每个人都将拥有一位个性化导师和教练。

他们在每个学科上都拥有博士水平的知识，并且拥有无限的耐心，可以帮助你学习任何想学的东西。学生将在自己需要帮助的领域得到额外支持，而这些帮助目前只有那些父母有能力支付的人才能获得。成年人也将拥有超级智能学习助手，准确知道如何教你新的工作技能、新语言、新爱好，或者任何你感兴趣的东西。

• 每个人都将从科学进步中受益，并能够参与推动科学进步。

例如，Biohub 已经发布了与虚拟细胞和蛋白质有关的开源生物模型，正在帮助科学家取得新的发现、设计新药。当 Priscilla 和我开始这项工作时，我们的目标是帮助科学家在本世纪治愈或预防所有疾病。

如今，随着 AI 的进步，我们预计这将能够更早实现。

由于健康问题存在很长的尾部，而且每个人的生物学特征都不同，人们的直接参与将帮助我们解锁个性化疗法，并加快临床试验，使其速度能够匹配发明创新的速度，也让整个行业不再过度集中于常见疾病。

除了生物学之外，AI 还将通过运用科学方法，持续数周甚至数月地测试和完善假设，帮助人们推动各个领域的研究。科学发现很可能成为对社会最有价值的发明形式之一。

• 每个人都将能够免费或以可负担的价格获得这些工具。

如果每个人都要成为未来的一部分，那么每个人都必须有能力使用超级智能来改善自己的生活并塑造世界。我们将提供免费版本，让数十亿人都能够使用。对于希望支付费用使用更多算力的人，我们将采用动态拍卖机制，确保每个人都能以尽可能低的价格获得自己所使用的智能和算力，同时确保这些算力被用于人们集体认为最有价值的事情。这将确保超级智能的收益得到广泛分配。

这些只是 Meta 当前重点推进的一些主要工作。每一个领域都在推进个人赋能的价值，并为这样一个未来作出贡献：每个人塑造世界的作用都比今天更大。

如果这些努力取得成功，那么未来将带来更加丰富的个人自主权、思想表达、更深厚的人际关系、经济和财务繁荣、更好的健康，以及今天我们无法想象的发明。

但最重要的是，未来将由我们所有人共同创造，并成为我们所有人的价值观和视角的反映。

与此同时，新技术也会带来新的风险。我们正在努力解决许多重要问题——从对工作岗位被取代的担忧、确保当地社区能够从数据中心建设中受益，到 AI 被滥用于网络安全和生物风险方面的安全问题；从避免政府暴政和监控，到确保美国和民主国家保持领先；最终还包括确保人类能够继续控制超级智能，让它服务于我们，而不是危害我们。

传统观点认为，这些问题本质上都是技术问题，只要给我们足够的时间，就可以完善技术，或者让技术实现对齐，从而创造出一个单一的、仁慈的超级智能。我认为，这种对“对齐”的理解存在根本性缺陷。

人类并不是一个单一文化体。人们不同的价值观意味着，他们会在重要问题上做出不同的权衡。不存在一种技术解决方案，可以同时让一个超级智能与所有彼此冲突的利益和价值观实现对齐。

任何单一的超级智能都必须让某些价值观优先于其他价值观，而在这一过程中，它不可能对所有人都保持仁慈。

相反，我们认为，更有效的方式，是从实现正确的权力平衡这一角度来看待这些问题，就像西方社会在民主治理机构中所做的那样。拥有竞争性利益的人和机构，会自然地相互制约和平衡，从而推动社会走向积极结果。建立积极 AI 未来的最好、也最现实的道路，就是让每个人都拥有超级智能。

作为一个思想实验，想象只有一个人拥有超级智能律师。他将在法庭上拥有不公平的优势——即使从法律事实和依据来看，他是错的。

这将导致一个更糟糕的社会。但现在想象一下，每个人都有一个超级智能律师。在这种情况下，司法将比今天更加公平、高效，因为今天的诉讼中往往存在技能和资源的不平衡。

同样，如果只有一个人拥有网络安全超级智能，那么他很可能可以入侵几乎任何技术系统，世界会比今天更加不安全。

但如果每个人都能获得网络安全超级智能，那么我们的所有技术系统都会比今天更加安全，因为广泛部署的超级智能可以帮助加固和更新每一个系统。

如果只有一家企业拥有超级智能，那么这家企业将击败所有竞争对手，市场将比今天更加缺乏活力，也无法广泛创造繁荣。但如果每个人都能使用超级智能，那么每个人都将拥有创造新事物的工具，突破今天的能力边界，经济也会变得更加充满活力，并创造更加广泛的繁荣。

当人们拥有力量时，他们自然会在经济、社会、政治以及其他所有人类互动领域相互竞争、相互制约。人们也会制衡企业和政府等机构的权力。

但如果超级智能的力量掌握在少数个人、企业、政府或 AI 本身手中，那么这自然会导致对其他所有人都不利的结果。

这不是一个技术原理，而是一个权力平衡的问题。不存在单一的、仁慈的超级智能。

因此，所有人拥有积极未来的关键，就是建立一种有利于个人的权力平衡。解决方案就是确保超级智能得到广泛分配，让人们获得力量。

Meta 是目前主要专注于为每个人构建个人超级智能的公司。大多数其他实验室都在为企业、政府或其他机构开发 AI，因此，如果这些实验室取得领先，那么权力平衡就会偏向大型机构，而不是个人。

自 Meta 成立以来，我们的使命一直是把力量交到人们手中。如果我们的信念和原则取得主导，那么权力平衡就会偏向个人，并走向一个对所有人都更好的未来。

让我们进一步详细考虑上述风险：

就业增长与经济

人们对新体验的需求是无限的，也总能找到新的问题去解决。经济中天然存在一种平衡：企业通过自动化更高效地满足人们的需求，同时个人获得新技能，以满足更高级的需求。当这种平衡健康时，整体生产率和创新都会提高，同时就业水平保持较高水平。

人们担心自动化的速度会超过个人能力增长的速度，从而导致工作岗位被取代，并在随后人们学习新工作技能的过程中经历一段艰难时期。但没有任何规律要求 AI 必须以比提升个人能力或创造新技能需求更快的速度推动自动化。

近期的数据表明，更有可能出现的情况是，个人能力的增长速度能够匹配甚至超过自动化速度。在这种情况下，人们将在现有工作发生变化之前，就获得完成许多新事情的能力。这将带来健康的平衡，甚至可能带来就业增长。

我们最终得到哪一种结果，取决于自动化与个人赋能、发明创造之间正在形成的平衡。如果专注于自动化知识工作的实验室取得领先，那么我预计人们和经济将面临更加艰难的转型。但如果每个人都能够获得可以扩展自身能力的个人超级智能，那么这种力量就会把平衡推向个人赋能和积极的未来。

我们有几个理由对未来拥有大量工作机会保持乐观。无论 AI 变得多么智能，算力永远是有限的，因此如何使用算力始终存在机会成本。

如果人们可以利用 AI 发明极具价值的新事物，那么，与其把算力用于自动化现有工作，不如将其投入这些领域更有意义。超级智能越是作为发明工具发挥作用，个人能力超过自动化速度的可能性就越大，未来也就越有利于人们。

人们也会不断提出改善生活的新想法，并创造新的工作来让这些想法成为现实。

一代人以前，还没有应用开发者、社交媒体创作者、电动汽车技术人员和数据中心运营商。

未来不久，我们也会看到今天还不常见的新工作，例如用一个人的团队设计定制玩具、家具或服装的产品工作室；创造游戏、故事和冒险世界的世界构建者和体验设计师；利用超级智能制定个性化治疗方案的个人生物学家；以及更多我们今天还无法想象的职业。

在很多方面，这其实是历史趋势的延续。在工业革命之前，90% 的人都是农民，为生存而种植食物。技术进步逐渐让大量人类不必再把主要精力用于生存，而可以更多地追求自己选择的目标。

在每一个阶段，人们都利用新获得的生产力去完成过去无法完成的事情，同时将更多时间投入创造力、文化、人际关系和生活享受。

当然，我们工作的某些方式会发生变化——就像电脑、互联网以及任何新技术出现时一样。这意味着人们必须适应，而这将是一个挑战。但每个人拥有一个超级智能个人代理，能够教我们新技能、帮助我们适应变化，这个过程就会更加顺畅。

企业规模可能会缩小——就像经济从工业巨头转向科技公司时发生的那样。但这并不意味着总体就业减少，而是意味着企业数量增加、每家企业的人数减少。能够创造的有价值企业和服务，远远多于今天人们能够建立的数量。

我预计，我们将开始看到少数拥有个人超级智能代理的人，就能够以相当大的规模经营企业。

未来，小企业仍将是经济的支柱，但每一家小企业都将能够产生远远大于今天的影响。

与社区共同建设 AI 基础设施

可持续的基础设施建设意味着，每一个项目都必须让当地社区获得显著收益。这包括高薪本地就业、对学校和公共服务的投资、确保能源价格不会上涨，以及保护环境。

随着税收收入增长，这也会让教师、执法部门、消防部门等受益。我们把这些当地收益称为“社区契约”（Community Compact），并将推出“未来属于每个人基金”（Future Is For Everyone Fund），直接支持我们开展工作的每一个社区。

例如，在路易斯安那州里奇兰德教区，Meta 正在那里建设一座大型数据中心。由于我们的投资带来的税收增加，当地教师今年获得了 5 万美元的奖金。当地学区负责人告诉我们，如今教师正从全美各地搬到那里，他相信这里最终会成为全美最好的学区之一。

与人们担忧知识型工作岗位被取代不同，目前木匠、电工、建筑工人等技术工人的供应反而不足，无法满足基础设施建设需求。Meta 已经成立“美国劳动力学院”（America’s Workforce Academy），为技术工人提供免费培训，并保证他们能够在我们建设数据中心的地区获得高薪工作。

我们通过在投资所在地建设自己的能源生产基础设施，帮助维持较低的电价。这不仅意味着我们不会消耗原本可以供应给当地社区的能源，在一些情况下，我们甚至还能向社区提供多余的低成本能源。我们认为，这是可持续发展的一项重要投资原则。

我们的数据中心也被设计为全球最高水效的数据中心之一。我们承诺实现“水资源正效益”（water-positive），也就是说，到 2030 年，我们将在运营所在的流域恢复比我们消耗更多的水。在高度缺水的地区，我们的目标是恢复我们使用水量的 200%。

我们发现，从长期来看，获得我们持续投资的社区，比那些投机者几乎不投入社区就开始建设的地方，更支持发展。

从历史上看，那些引入铁路、高速公路、电气化和宽带的城镇和城市，最终成为研究、商业和工业中心，并随之出现人口和经济增长。

如果 AI 基础设施能够通过强有力的“社区契约”建设起来，创造持久的资产和理由，让下一代愿意在那里生活、建设和发展，我们相信 AI 基础设施也可以发挥类似作用。

基础设施建设还涉及国家利益和国家安全。如果美国及其盟友在 AI 领域领先于地缘政治竞争对手，美国社区将获得更大的繁荣和安全。然而，与中国等国家相比，美国一个明显的劣势是，这里的基础设施建设更加困难。因此，如果我们能够共同找到推动全美可持续发展的“社区契约”，所有人都将从中受益。

防范 AI 在网络安全、生物恐怖主义等领域的滥用

在自由社会中，人们会拥有既可以用于善、也可以用于恶的工具，但执法机构和军方拥有更多武器和情报搜集能力。

AI 也将如此：防御者同样可以获得更多算力，从同样的模型中产生多得多的智能，在某些情况下，他们还会拥有更先进的模型。

保护网络安全、生物恐怖主义和其他威胁的具体策略各不相同，但总体规律是：社会必须确保那些负责制约恶意行为者的防御者始终拥有更大的权力平衡和更多资源。

有人认为，降低风险的最佳方式，是限制个人能够获得的能力。但赋予人们网络安全能力，同样是保护那些长尾系统的方式；赋予人们科学能力，也是在推动科学进步，而科学进步从长期来看应该降低危害风险。

限制能力会把我们带向权力集中和缺乏制衡的道路，因此对此必须极其谨慎——尤其是在其他国家采取更加宽松的路径时。

在网络安全领域，广泛部署的开源系统已经证明更加安全，因为更多人可以发现漏洞、加固系统，并轻松升级到最新、最安全的版本。

就在最近几周，我们已经看到像 Hugging Face 这样的公司在处理安全事件时，依靠广泛可用的开放模型来修补漏洞。

从长远来看，我预计，广泛部署、拥有强大网络安全能力的 AI 模型，将让系统变得更加安全，而不是更加不安全。一旦超级智能能够让世界上大多数代码得到可验证的安全保障，这一点将得到决定性的证明。

长期答案不是隐藏能力，而是建立一种权力平衡，让超级智能得到广泛分配。

短期内，我们需要加快关键系统的加固过程。我建议，开发前沿 AI 的公司应该投入大量技术资源，帮助政府加固关键基础设施。

我还建议，前沿 AI 实验室应该向政府提供新模型的中间训练检查点，供政府使用和审查，而不是等到训练完成之后再进行。

这样，政府将能够尽早获得最强大的模型，并拥有一支有能力的工程师队伍来发现和修补安全问题。实验室还应该与执法部门合作，帮助识别试图滥用其系统的恶意行为者。

这些措施可以在不放慢模型创新速度、也不实质性延迟个人获得这项技术的情况下，加速安全部署。

在生物和化学风险方面，问题在于，同样能够帮助科学家设计新药的能力，也可能帮助恶意行为者设计有害化合物。

这就把问题描述成了一个权衡：一方面是推动科学发展、治愈癌症和其他疾病的巨大收益，另一方面是潜在新问题的风险。但理想情况下，我们应该在降低风险的同时加速科学发展。

我认为，我们需要以更加谦逊的态度面对这一风险，因为历史上几乎没有足够的先例来判断这种风险究竟有多大。

几十年来，恶意行为者一直有能力合成有害化合物，但这很少成为重大问题——也许是因为这里并不存在网络攻击所具有的同等经济动机。

不过，如果我们开始看到有害案例出现，那么就应该调整策略，以适当降低风险。

实验室应该继续努力降低模型中的生物和化学风险。与此同时，我认为政府也应该在多个领域更新政策。

首先，我们应该重点限制有害材料的实体生产和分发。我预计，监管和控制实体组件将比控制知识传播更加容易，因此这是政策应该重点关注的领域。

其次，我们应该加快社会开发新疗法、应对新问题的能力。这包括简化 FDA 和其他监管机构测试、批准新治疗方法的流程。随着 AI 加快药物发现速度，我们本来就需要更新这些流程，以跟上创新速度。

从长期来看，应对新科学发现带来的风险，答案将是加速科学进步，而不是放慢科学进步。

个人与政府监管

我们都希望拥有个人自由，同时也希望政府有能力保护我们的安全。

为了维护自由，我们必须确保超级智能主要赋能个人。同样，个人应该拥有使用个人超级智能的权利，只有在真正必要的情况下才接受限制。

隐私是个人赋能和自由的重要基础。我们相信，人们应该拥有一种完全私密的个人代理模式，即使 Meta 或任何其他服务提供商，也无法查看或获得你的信息。

这与我们把 WhatsApp 打造成全球领先的端到端加密服务的方式类似，从而确保你可以自由交流，而你的信息保持私密和安全。

与此同时，我们也必须确保政府能够获得执法和维护国家安全所需要的工具和资源。我们可以通过实验室与政府之间更深入、更主动的合作实现这一点，在增强政府国家安全能力的同时，不限制或延迟人们获得先进模型。

也就是说，与其等到模型准备发布后才让政府审查和使用，我的建议是，领先实验室应该向政府提供新型先进模型的中间训练检查点和技术人员，让政府能够针对新的风险加固和保护关键系统。

这样，政府就能够获得安全能力，而不会限制或延迟个人获得个人超级智能，也不会造成权力失衡。

确保美国领先

哪些国家能够引领先进 AI 的开发和部署，将推动新的地缘政治权力平衡，并决定未来民主价值观、繁荣和安全的普及程度。

为了确保这种平衡最终走向积极结果，我们必须确保领先的 AI 系统能够体现我们的价值观、推动我们的经济并增强国家安全。实现这一目标的最佳方式，是广泛分发我们的系统。

Meta 将通过构建领先的个人超级智能代理和模型——包括开源模型——并将它们提供给全世界数十亿人，来作出贡献。

为了开发最先进的模型和产品，我们必须认识到。AI 很可能是历史上竞争最激烈的行业。创新会在几个月内迅速被复制和吸收。

但人们总是希望使用最先进的模型，或者在某一成本水平下最先进的模型。因此，即使保持两个月的领先，也极具价值。

这说明领先优势的窗口非常短，也说明采取措施加速美国创新、减缓地缘政治竞争对手发展的重要性。

这里最主要的政策因素包括：我们建设实体基础设施的效率、是否采取会拖慢美国实验室的措施，以及能够减缓外国实验室发展的出口管制。

在基础设施方面，美国及其盟友目前在芯片设计方面占据优势，但在能源产能和实体基础设施建设速度方面处于劣势。中国每两周就有超过 1GW 的核电产能投入运行，因此我们必须加快能源和数据中心建设，才能保持竞争力。

芯片出口管制已经成功地在这一关键时期减缓了外国实验室的发展，因此继续实施这些管制是正确的战略选择。

任何会拖慢美国模型发布的政策——哪怕只是一个月——都可能给美国的领先地位增加重大风险，同时让外国模型加速追赶。

与此同时，当新的能力出现时，美国政府拥有先进知识和资源来加固关键系统也非常重要，在某些情况下，美国政府还需要拥有一段时间的先进系统使用优势。

如上所述，我提出了一种基于共享中间训练检查点和技术人员的合作模式。鉴于 AI 领域变化迅速、竞争激烈，我认为，前沿实验室与政府之间保持紧密、主动的合作，比建立一种僵化的、适用于所有情况的流程和审查时间表更加有效。

在某些情况下，美国实验室可能领先几个月以上，花更多时间降低新风险可能会带来更安全的解决方案；但在另一些情况下，即使推迟一个月发布，也可能让美国失去领先地位，造成更糟糕的结果。

只要确保政府能够提前获得访问权限，我们就应该能够在尽量减少公开发布延迟的情况下，同时提升国家安全。

同样重要的是，美国及其盟友必须引领开源 AI 生态系统，因为全球 AI 使用中将有相当大一部分来自这一生态。

目前，外国实验室在这一领域拥有一些优势，因为美国实验室在训练数据方面必须遵守更多额外限制。如果我们希望美国开源模型长期保持领先，美国政策必须减少这些额外摩擦。

我不认为限制人们使用外国开源模型是有效解决方案。我们的目标应该是让美国开源模型成为全球最好的模型。这需要消除那些让美国开源模型更难参与竞争的障碍。

限制个人和企业使用领先的开源模型——无论这些模型来自哪里——都会降低他们能够获得的 AI 质量，并使 AI 更加集中，而不是把更多力量交到人们手中。

如果美国想在开源领域保持领先，我们需要重新思考多个方面的政策，包括蒸馏和训练数据使用。

模型从其他模型中学习，是开源生态运行方式的重要原则。所有 AI 模型都源自人类知识。有些人试图把蒸馏描述成有害行为，但我认为，保护“你可以从任何能够观察到的事物中学习”这一原则非常重要。

世界本来就是这样运行的。如果美国在这一点上限制自己，就不可能保持领先。

从更宏观的角度来看，在 AI 整体上落后，几乎肯定会成为一个比发展过程中我们将面对的任何单一问题都更大、也更长期的国家安全问题。

通过正确的合作，美国应该能够在私营和公共部门同时保持领先——向全世界提供体现个人赋能和民主原则的个人超级智能，同时增强国家安全能力。

与人类对齐，以及应对生存风险

权力平衡最终要面对的问题，是人类如何继续保持对 AI 本身的权力和控制。

令人担忧的是，AI 可能获得足够的力量或控制权，以至于最好的结果是不再服务于人类利益，最坏的结果则是让人类陷入危险。

健康的权力平衡意味着，不能存在一个单一、集中的超级智能，而应该尽可能让更多的人和企业拥有不同的超级智能代理，这些代理分别与自己的目标对齐，并像自然经济运行那样相互制衡、相互竞争。

如果存在多个前沿实验室，而它们的模型拥有不同的价值观，可以相互制衡，那么这种平衡还会进一步增强。

虽然发布高能力模型存在风险，但从这一角度来看，最危险的情形，是领先的 AI 实验室训练出强大的模型，却把它们留给自己使用。

无论一个实验室如何从责任和安全的角度为这种行为进行合理化解释，这都是在走向开发一个无法被其他系统制衡的单一超级智能。

开发个人智能代理，需要一种全新的方式来理解“对齐”。

今天，大多数实验室把对齐看作一种防御措施，用于强制执行一套集中的价值观。例如，有一个领先模型拒绝帮助一所学校给潜在家长起草信件，因为它认为标准化考试是不道德的。

而我们对“对齐”的理解，是确保智能代理与一个人的目标和价值观保持一致，而不是与我们公司的目标和价值观保持一致。

当然，这其中存在重要的法律和安全边界，但从根本上说，对齐应该是帮助人们追求社会中存在的多种不同目标和观点，而不是用来强制执行某种集中的教条。

事实上，如果人们不能信任智能代理处理敏感信息和任务，他们就不会采用这些代理；而如果智能代理因为与某家公司不同的价值观保持一致，而采取损害个人利益的行动，人们同样不会信任它。

解决对齐问题，是让数十亿人采用个人超级智能代理的必要条件。

但这也意味着，如果我们达到数十亿人都在使用和审视个人超级智能代理的状态，那么我们实际上已经解决了与个人利益对齐的问题。

这应该足以建立积极、安全未来所需要的权力平衡以及自然的制衡机制。

从这个意义上说，对齐并不是某种理想化的技术，用来让一个单一超级智能在未来保持仁慈；对齐真正的意义，是让个人代理对人有用、值得信任，从而建立起真正能够保护我们的社会权力平衡。

保持对超级智能的控制

这里存在一个困境：一旦 AI 系统能够自主改进自身，那么任何不允许自己的 AI 系统把大量算力用于递归自我改进的实验室，都将天然落后。

例如，如果一个自我改进的 AI 系统专注于优化计算效率，它理论上可能发明方法，让每 1GW 算力产生 100 倍甚至更多的智能。

这意味着，一个运行在全球算力一小部分上的自我改进 AI 系统，理论上也可能获得比其他所有人加起来都更大的有效算力和智能，从而获得更大的权力平衡，并成为我们所担心的那个单一超级智能。

递归自我改进的情况下，也存在几种实现权力平衡的方式。

最简单的一种，是多个实验室在大致相同的时间实现 RSI（递归自我改进）。如果其中一些或所有超级智能以某种方式保持仁慈，那么它们就可以相互制约和平衡。

不过，目前并不清楚，我们是否有任何办法可以预期超级智能会保持仁慈，也不能把积极的未来寄托在一个不受人类控制的超级智能上。

为了确保人类继续掌握控制权，绝大多数智能都必须由人类掌控，用于推进人类自己的目标。

这意味着 Meta、其他前沿实验室以及致力于为人们提供更大权力平衡的云服务商，必须共同建设足够大的算力规模，使我们能够分配足够算力用于递归自我改进、保持竞争力，同时仍然把绝大多数算力用于实现个人目标。

正如前文所述，为了让数十亿人采用并信任个人超级智能代理，我们从定义上就必须解决与人类利益的对齐问题，并在大规模范围内建立制衡机制。

与此同时，任何进行递归自我改进的 AI，本质上都是在制定和推进自己的目标。

所有实验室都应该密切观察它的目标以及我们控制这些目标的能力。如果出现任何有害行为的迹象，我们就应该协调并适当调整。

但允许一个 AI 系统或其他任何主体自行设定目标，本身并不必然有害，即使这些目标没有完全与所有人的利益保持一致，只要我们总体上维持一种有利于人类的权力平衡。

权力平衡理论最核心的前提，就是竞争性利益是自然存在的，而确保遵循人类价值观的唯一方式，就是让人类拥有更多力量。

这种以个人赋能、发明和权力平衡为核心的理念，也带来了几项政策含义：

• 在 Meta，我们将把重点放在向数十亿人和小企业提供个人超级智能上，帮助每个人实现自己的目标，并发明他们希望在这个世界上看到的东西。

我们将通过训练领先模型，并最大限度提高这项技术的可用性来实现这一点——包括让它易于使用、免费或尽可能低价提供、建设足够的算力让所有人都能使用，并广泛分发。

我们将建立一种完全私密的模式，即使 Meta 也无法查看或访问你的信息。我们将高度重视对齐——这里的对齐，是帮助每个人实现他们自己的目标，而不是我们的目标。

• 开源是一股积极而重要的力量，它能够赋能个人，并防止对安全和经济都不利的权力集中。

Meta 将继续坚定支持开源，包括开源 AI 模型。目前的开源生态非常强大，我们认为限制它将是一个错误。现在 Meta 超级智能实验室已经启动，我们很快将恢复发布一些开源模型。

• 鉴于超级智能相关决策的重要性，独立治理和监督非常重要。

我不认为，无论对我、Meta 还是整个世界来说，让我或者其他任何人成为超级智能部署方式的唯一决策者都是最有利的。

因此，Meta 正在建立一种治理结构，让我们的独立董事会拥有批准模型发布安全标准的权力，并负责审查每一次模型发布是否符合这些标准。

虽然 Meta 是一家由创始人控制的公司，但目前所有前沿实验室的 CEO 都对模型发布拥有广泛权力，因此我们也鼓励其他公司建立类似的结构。我认为，整个行业都采用这样的流程，也将有助于行业治理。

• 政府政策对于确保积极的未来、降低上述风险是必要的。

我在这篇文章中提出了多项政策建议。总体而言，我们应该鼓励前沿实验室与政府之间进行密切合作。国家安全要求政府拥有足够的技术资源来加固关键系统，并有效使用先进模型。

但同样重要的是，美国 AI 产业必须继续保持领先。我们应该加快基础设施建设能力——无论是能源、数据中心还是芯片——同时与全美各地的社区建立信任和合作。

我们必须谨慎，不能削弱美国的竞争力。对于任何导致超级智能进一步集中的提议，我们都应该保持警惕，并优先支持那些促进健康权力平衡、让个人获得更多力量的政策。

这是一个令人难以置信的时代。开发超级智能，将是我们这一生所见证的最深刻的技术进步。

随着我们越来越接近这一时刻，建立清晰的理念和价值观，思考如何让超级智能造福人类，变得越来越重要。

Meta 致力于以以下原则进行建设：以个人赋能作为繁荣的源泉，以发明作为 AI 的目的，以有利于个人的权力平衡作为应对安全风险的基础。

如果这些价值观能够引领未来，那么我对未来几十年充满乐观。我相信，未来几十年将成为人类历史上最令人惊叹的时代之一。

人类文明的发展轨迹，一直朝着让更多人拥有更多力量、按照自己认为最好的方式生活并塑造世界的方向前进。

超级智能有望把这种力量交给每一个人，并为所有人共同创造一个积极的未来。

— Mark

2026 年 8 月 10 日