OpenAI前CTO:别让世界只剩一种AI！

日前，Thinking Machines 创始人兼 CEO Mira Murati 在公司成立近一年半后首次发文《值得建设的未来是人类》，系统阐述其 AI 理念的使命宣言。

这家公司由多位前 OpenAI 核心成员创立，包括 John Schulman、Lilian Weng 等，Mira Murati 就是前 OpenAI CTO ，其此前一直极少公开表达技术路线，而这篇长文可以视作其第一份完整的“AI 哲学”。

与 OpenAI、Anthropic 强调安全和 AGI 不同，Thinking Machines 提出了一个更鲜明的主张：未来不应该只有一个统一的大模型，而应该有无数个由个人和组织共同塑造的 AI。

Mira Murati 在 X 上转发该宣言时称，人类价值观无法被平均，本地知识无法被集中。真正美好的未来，将由无数在不同地方成长、由服务对象共同塑造、彼此存在分歧的 AI 组成。

联合创始人 John Schulman 也表示，这正是公司创立时最重要的两个判断：人们应该拥有更多定制模型和研究模型的能力；即使 AI 越来越自主，人类与 AI 如何高效协作，仍有大量技术工作要做。

相比过去一年 AI 行业普遍追求“更大的模型、更强的 Agent、更高的自主性”，Thinking Machines 几乎反其道而行。

文章认为，AI 最大的问题已经不是能力，而是谁来决定 AI 应该做什么；真正值得建设的未来，不是一个中心化的超级智能，而是一个由个人、企业和社区共同拥有、持续训练、持续塑造的 AI 生态。

“AI 应该帮助每一家组织形成自己的竞争优势，而不是抹平彼此之间的差异。”

A16z 合伙人 Anish Acharya 发帖称，“这是今年看到的最好文章”。

以下为文章全文——

Thinking Machines 的使命

Thinking Machines 的使命，是构建能够延伸人类意志与判断力的 AI。

人工智能每天都在变得更强大，但真正决定它应该做什么的，始终是人类——无论是个人、组织，还是整个社会。

这样的决定并非来自一次性的设计，而来自长期积累的知识与判断。随着越来越多的工作开始由人与 AI 协同完成，塑造先进智能也将成为一个持续反馈、不断学习、反复校准的过程。

然而，今天的大多数 AI 并非如此。

它们通常只在少数几个地方完成训练，随后便被冻结，面向所有人提供几乎相同的能力。它们很少真正受到使用者的影响，也几乎不会从人与 AI 的长期协作中持续学习。

我们相信，如果 AI 的目标是延伸人的能力，那么它本身也应该像人类社会一样丰富、多元、分布式，而不是由少数中心统一定义。

这正是 Thinking Machines 所选择的方向。

为了实现这一目标，我们正围绕几个核心方向展开工作：

• 持续训练更强大的基础模型，推进多模态交互、可定制化等前沿能力。模型越强大，就越需要人的判断参与塑造。
• 构建人人都能拥有和定制 AI 的工具，包括直接训练模型权重（Model Weights）的能力，让模型真正服务于不同个体和组织。
• 开发更自然、更丰富的人机交互方式，让人的判断能够持续参与 AI 的工作过程，而不仅仅停留在一次 Prompt。
• 向科研社区公开研究成果。因为真正拥有塑造 AI 的能力，首先意味着理解 AI 是如何被构建出来的。

我们相信，一个值得建设的 AI 未来，应当始终以人为中心——由人的知识塑造，由人的意志引导，由人的判断决定。

下面，我们将解释为什么这是我们所追求的未来，以及我们正在如何实现它。

把智能带到知识产生的地方

AI 的意义，在于服务人类的工作。

而工作真正依赖的，并不仅仅是信息，而是关于如何做事、以及什么值得去做的知识。这些知识并不是静态存在的，而是在真实工作中不断产生、不断演化。

想象一位厨师正在设计一道新菜，或者一家小店老板重新调整商品陈列和价格。

他们每天都在做大量复杂判断。这些经验往往无法完整写进文档，也不会永久保存在数据库中，而是在实践、反馈和修正中不断更新。

更重要的是，这些知识高度分散。

不同餐厅有不同的经营方式，不同商店有不同的目标，不同企业拥有不同的经验。真正推动世界运转的知识，并不存在于某一个中央数据库，而是掌握在无数亲身实践的人手中。

这种分散，并不是低效，而恰恰是整个社会创新能力的来源。

它带来了多样性、适应能力和韧性。

这也是为什么自由市场能够长期优于计划经济。

中央计划之所以难以成功，并不是因为中央不够聪明，而是因为真正有价值的知识具有天然属性：它往往是默会的、本地化的、不断变化的，并且掌握在具体实践者手中。

任何试图把这些知识集中起来，再交由一个统一智能处理的方式，都将面临同样的问题。

当然，也存在一些仅靠智能本身就足以取得突破的领域。

例如国际象棋，最强大的棋类 AI 几乎完全依赖自我博弈训练；数学领域，最先进的模型已经开始独立解决长期悬而未决的问题。

这些领域有两个共同特点。

第一，目标明确且稳定，例如赢得一盘棋、证明一个定理。

第二，它们几乎不存在隐藏知识。国际象棋和数学的规则对所有人都是公开且一致的。

但现实世界并不是这样。

离开棋盘之后，仅有智能远远不够。

如果 AI 想真正利用人类社会分散存在的知识，它自身也必须是分布式的。

每一家企业，都拥有属于自己的专业知识；每一个组织，都通过员工的长期实践不断积累自己的经验。

我们相信，AI 应该帮助组织不断沉淀和发展这些独特知识，而不是简单抽取其中一个快照，再用统一的标准模型替代它。

知识不是一次性提取出来的资产，而是持续培育的能力。

因此，AI 应当成为人的合作伙伴，而不是人的替代者。

2014 年，长期以自动化闻名的 Toyota 曾让经验最丰富的工匠重新回到生产线，目的并不是降低自动化水平，而是重新培养制造知识。

负责这项改革的 Mitsuru Kawai 曾说：

“要成为机器的主人，你必须拥有能够教会机器的知识与技能。”

知识的创造，与智能的应用，并不是此消彼长，而是相互促进。

未来，人类工作的内容也许会发生变化，更专注于那些只有人才能完成的事情。

但真正优秀的组织，一定会同时充分发挥人与 AI 各自的优势。

AI 的使命，不是让所有组织变得一样，而是帮助每一个组织按照自己的方式变得更加卓越。

我们的目标，就是把智能带到知识真正产生和使用的地方。

我们希望，每个人都能够利用自己的知识微调模型，并随着知识不断更新，让 AI 一起成长。

我们也会持续公开研究成果和实践方法，让更多人拥有这种能力。

我们所设想的前沿 AI，不是一个统一的大脑，而是一个由无数不同 AI 组成的共同体——它像它所服务的人类一样丰富、多元，因为它本就是由无数不同的人共同塑造出来的。

人类参与，本身就是一个技术问题

强调人的参与，并不意味着为了反对自动化而反对自动化。

凡是机器能够稳定完成的工作，就应该交给机器。

但机器也应该知道，什么时候独立行动，什么时候主动寻求人类监督与反馈。

人与人协作，本来就是这样。

优秀的同事会提前理解你的意图，在你开口之前就做好准备；随着长期合作，他们逐渐获得代表你行动的信任。

让 AI 拥有这种协作能力，本质上是一个技术问题。

今天，大语言模型最大的瓶颈之一，是人与 AI 之间的沟通方式仍然过于简单：一个输入框，一段等待时间。

这样的交互无法承载人类丰富的知识、经验和判断，也很难形成持续反馈。

人与人最有效的合作，总是在实时发生。

我们会打断彼此、修正观点、重新思考，也会一边表达、一边改变自己的判断。

因此，我们长期押注于交互模型（Interaction Models）。

我们希望模型能够原生支持实时、多模态交互，而不是依赖越来越复杂的外围系统。

这样，交互能力就会随着模型智能一起成长。

让模型更聪明的训练，也会让它成为更好的协作者。

优秀的交互界面，不只是允许人参与，而是主动鼓励并放大人的参与。

另一个重要挑战，是如何重新定义 AI 的能力。

今天，人们通常用模型能够独立完成软件任务的时间跨度来衡量 AI，例如 METR 等基准。

这一指标仍然重要，但它最终衡量的只是 AI 单独能够做到什么。

真正重要的问题应该是：人与 AI 一起，能够完成什么。

这个答案，没有任何一家实验室能够独自给出。

每一家组织，都必须根据自己的目标判断 AI 是否真正帮助他们提升判断力、创造新知识、实现长期价值。

从长期来看，让 AI 不断增强用户，而不是取代用户，也能够形成更加健康的商业激励。

如果一家 AI 公司始终只提供一个统一模型，它天然会倾向于不断吸收用户之间的差异，并削弱专业知识本身的价值。

而如果 AI 被设计成可以持续定制、持续协作，那么我们的成功，就来自客户不断放大自己的独特优势。

真正的竞争力，不是租用一个 AI，把工作外包给它。

而是拥有属于自己的 AI，并不断按照自己的目标塑造它。

去中心化的 Alignment

人类价值观，就像人类知识一样，天然分散在每一个人身上。

然而今天，大多数 AI 的价值观、行为方式以及表达风格，却主要由少数几家公司决定。

无论管理得多么完善，只要价值对齐集中在少数地方，它就不可避免成为一个权力中心。

如果未来越来越多的重要工作都由 AI 独立完成，而人类参与越来越少，这种风险只会进一步放大。

企业、政府与社会之间的关系，最终都建立在人拥有创造能力这一基础之上。

当一种力量已经不再依赖人类，它也可能逐渐失去理解和回应人类需求的动力，而更多地服务于自身的延续。

即使出发点完全善意，在单一地点训练出来的模型，也不可避免会继承训练者的价值观，而不是每一个使用者自己的价值观。

今天，大多数 AI 实验室都利用上一代旗舰模型生成训练数据，再利用上一代模型提供奖励信号，训练下一代模型。

于是，每一代模型都在不断复制上一代模型的偏好。

所有人最终得到的，也越来越像同一种 AI。

统一的 Alignment 规范，会削弱创造力、多样性，也会放缓真正的创新。

正如自由市场和言论自由能够催生新的思想、产品和服务一样，AI 也需要多样化的发展路径，而不是不断趋于平均。

如果个人和组织希望 AI 真正体现自己的价值观，这些价值观最终必须进入模型本身，而不仅仅停留在 Prompt 层。

与此同时，我们也清楚，能够深度塑造模型，就意味着同样拥有将其用于恶意目的的能力。

1955 年，John von Neumann 曾写道：

技术有益与有害的一面，“彼此靠得如此之近，以至于永远无法把狮子和羔羊彻底分开。”

真正的安全，不来自一次性的规则，而来自持续不断的判断和责任。

我们的目标，是让做出这些判断的人拥有更强大的工具，而不是剥夺他们拥有 AI 的权利。

人类文明的繁荣，来自无数独特个体之间持续不断的创造与碰撞。

我们设想的 Alignment，不属于某一个模型，而属于一个丰富、多元的 AI 生态。

这些 AI 在不同地方成长，由不同的人塑造，彼此竞争、彼此学习，也彼此保留差异。

我们希望，这种独特性能够一直存在。

一个值得建设的未来

科技行业已经让机器学会了思考。

但机器应该思考什么，始终应该由人类决定。

什么值得追求，什么值得创造，我们有限的人生应该如何使用——这些答案，不应只有一种。

我们的目标，不是替所有人给出统一答案，而是让每一个人都能够把自己的答案，真正融入前沿 AI 的发展之中。

今天 AI 的发展方向，越来越强调中心化与自主化。

在这种路径下，人类参与似乎总意味着能力下降，拥有权似乎总意味着安全风险。

我们并不接受这样的二元对立。

在我们看来，这些都只是尚未解决的技术问题。

我们希望构建这样一种 AI：它因为鼓励人的参与而变得更加强大；组织因为能够持续塑造自己的 AI 而获得长期竞争优势；Alignment 来自一个由无数不同拥有者共同塑造的 AI 生态，而不是一个唯一正确的模型。

这正是 Thinking Machines 希望解决的问题，也是我们的使命。

未来，并不是在人类主导与被 AI 淘汰之间二选一。

通往未来的道路不止一条，而选择走哪一条，仍然掌握在人类自己手中。

我们希望构建的技术，能够让人类与自己创造出的智能，并肩前行。