奥特曼内部讲话曝光：谁有权决定超级智能的未来？

头图来说：AI生成

当全世界还在争论谁会率先实现超级智能时，Sam Altman已经开始向OpenAI员工讨论另一个问题：如果那一天真的到来，谁有权决定AI还能不能继续发展？

据《The Information》最新报道，奥特曼在内部提出三种可能的治理路径：建立类似国际原子能机构的监管组织，让全球主要AI实验室合并，或者出现一家强大到足以阻止其他竞争者继续研发的公司。他更倾向于国际监管，明确反对由一家公司垄断超级智能。但与此同时，他也承认，OpenAI目前不能在与Anthropic等公司的竞争中主动退让。

这大概是整场讲话最值得关注的矛盾。AI公司开始认真讨论如何给技术发展设置限速，却没有哪家公司愿意成为第一个踩刹车的人。

一、OpenAI内部开始讨论超级智能的未来

一场讨论超级智能未来的会议，出现在了OpenAI内部。讨论的内容听起来有些超前，甚至荒诞：让全球最顶尖的AI公司合并，把最先进的模型交给一个国际组织管理；又或者，一家公司先造出足够强大的AI，再利用压倒性的经济和技术优势，让其他公司失去继续研发的能力。

还有一条看起来温和得多的路，建立一个AI领域的国际原子能机构。

这些方案都是Sam Altman在最近一次内部员工会议上提及的：10月19日，美国科技媒体《The Information》记者Stephanie Palazzolo和Amir Efrati援引两名了解会议内容的人士，披露了这场讨论。

这不是OpenAI发布的正式战略文件，但能确认的是，奥特曼确实开始把一些过去主要出现在AI安全研究者讨论中的极端方案，放进了公司内部的现实战略议程。

而且他并不觉得现有答案令人满意，据《The Information》，奥特曼此前已在内部表示，面对AI技术的快速进步，业界能够提出的可行"限速"方案实在太少。他希望人类继续掌握AI的控制权，也不愿看到整个行业的权力集中到少数人、甚至单一公司手中。

但他又告诉员工，OpenAI现阶段承受不起在竞争中落后的代价。人人都说要确保安全，可究竟谁有资格要求别人慢下来？

二、奥特曼摆出了三条路

奥特曼在会议上首先谈到了一个自己相对支持的方案：建立类似国际原子能机构（IAEA）的组织。按照这个思路，全球最先进的AI开发者仍然可以继续研究，但当模型能力达到特定门槛时，必须接受国际机构的检查和安全约束。

监管者需要知道开发者正在训练什么样的模型、模型可能具备哪些危险能力，以及企业是否真正采取了必要的防护措施。

这里的关键并不是给AI公司颁发一个许可证，而是监管机构最终有没有实际权限。如果发现某个模型存在重大风险，它能否要求企业暂缓发布？能不能进入实验室，接触尚未公开的模型？企业是否必须配合独立审计？

这些问题没有在此次讲话中得到明确答案。不过，奥特曼对这一方向的倾向并不意外。

2023年5月，他就与Greg Brockman、Ilya Sutskever共同发表过《Governance of superintelligence》，提出未来可能需要一个类似IAEA的国际权威机构，有权检查先进AI系统、要求审计、测试其是否符合安全标准，并根据能力或算力门槛实施相应约束。

文章还提到，可以通过追踪算力与能源消耗来帮助监管机构识别最前沿的研发活动。换句话说，奥特曼三年前就想过这件事。

但这次内部讲话的新意，不是他再次赞成国际监管，而是他开始把国际监管和其他两条完全不同的道路放在一起比较，并认为OpenAI必须在未来一年内决定推动哪一种方向。

这已经不是简单地呼吁行业加强安全意识了，而是涉及公司未来如何参与制定规则。

第二条路更加激进。奥特曼把它称为"Demis方案"，名字来自Google DeepMind负责人Demis Hassabis。

Hassabis多年前曾提出过类似欧洲核子研究中心（CERN）的国际AI研究机构构想。CERN最特别的地方，是不同国家共同支持一项需要巨大资金和科研资源的事业。

在奥特曼此次的推演中，这种合作被进一步扩大：主要AI实验室可以实际合并，或者统一通过一个机构开展前沿研发，再向参与合作的国家提供模型。

试想一下，OpenAI、Google DeepMind和Anthropic不再为了下一个模型版本彼此追赶，而是将一部分最重要的研发工作放进同一个体系。

技术上当然存在合作的可能，甚至可能减少重复投资，让安全研究获得更充分的资源。可问题也很直接：谁来领导这个机构？

如果由Google主导，OpenAI会接受吗？反过来也一样。更何况，各家公司的模型、数据、资金、股东利益乃至与政府的合作关系，都已经深深绑定在自身商业体系中。

把几家公司合并，并不像把几所大学联合起来做科研那么简单。而且，结束竞争不等于结束权力争夺，只是把竞争从市场转移到了机构内部。

奥特曼描述的是一种可能的治理终局，并非Google或Anthropic已经同意合并。Hassabis自己近来的正式主张，也并不是全面合并AI实验室。

今年7月，Hassabis提出了一个更具操作性的监管框架：建立类似美国金融业监管局的前沿AI标准机构。初期，企业可以自愿在模型发布前最多30天提交测试，之后再根据机制成熟程度考虑正式部署要求。

相比之下，奥特曼在内部描述的"Demis方案"显然走得更远。

至于第三条路，几乎已经有了科幻小说的味道。

奥特曼称它为"Eliezer方案"，借用了AI安全研究者Eliezer Yudkowsky过去提出的一种极端思想实验。

设想某家公司率先获得递归自我改进（Recursive Self-Improvement，RSI）的能力，让AI能够持续帮助改进自身及后续系统。随着技术优势和经济实力不断扩大，这家公司最终可能强大到足以阻止其他竞争者获取所需算力。

奥特曼用"熔掉其他所有人的GPU"来形容这种极端情况。（这句话很快成为海外报道最醒目的部分，也被国内媒体广泛引用。）《The Information》援引知情人士称，奥特曼明确表示，他认为这一方案非常糟糕，他并不希望出现由一家企业控制整个先进AI行业的未来。

还需要补充一个容易被忽略的原始背景：2022年，Yudkowsky在《AGI Ruin: A List of Lethalities》中提出过一个名为"关键行动"（pivotal act）的概念。大意是，假如人类率先开发出可控的强大AI，是否有可能利用它阻止其他人制造危险的超级智能。

"烧毁所有GPU"只是他用来说明这种行动需要多大力量的极端例子。而在原文中，Yudkowsky专门解释过，他并不真的主张这样做。原因包括，要追踪和销毁全世界的GPU，本身就需要难以控制的超强能力。

奥特曼将这个思想实验放到公司竞争的语境里，实际提出了另一层担忧：如果最先进的AI落入某一家企业手中，而这家企业能够决定其他人还能不能继续研究，那么即使它声称自己是为了安全，谁又有能力监督它？

三条路看似截然不同。一个让国际机构掌权，一个让共同研究组织掌权，最后一个则可能把决定权交给最先取得优势的企业。

说到底，它们都绕不开同一件事：超级智能的控制权应该放在哪里。

三、OpenAI不能现在就让出竞争优势

如果只看三种方案，这场讲话很容易被理解为一次关于AI未来的思想讨论。但《The Information》披露的另一段内容，让它有了更强的现实意味。

奥特曼认为，前两种方案都需要企业或政府之间进行大规模协调。然而，OpenAI现在不能为了等待各方达成一致，就在与竞争对手的较量中主动失去优势，这才是最难处理的地方。

在前沿AI行业，一家公司的技术领先地位并不是永久的。如果一个模型迟迟不能发布，用户可能就会迁移到另一家公司的产品。开发者会重新选择API，投资人也会据此判断公司的未来。

前沿AI研发需要持续获得大量算力、人才和资本。对于这些企业而言，保持竞争力，某种程度上又成了继续开展安全研究的前提条件。

于是出现了一种微妙的逻辑：为了以后能够安全地研发超级智能，今天必须继续争夺超级智能。类似的矛盾，已经在行业中反复出现。

据报道，OpenAI、Google和Anthropic正在推动成立一个暂称为"前沿AI标准机构"（Standards Authority for Frontier AI）的美国行业组织，希望在2026年底或2027年初推出。

它准备支持独立评估人员深入AI公司内部，检查相关安全实践，并协助建立事故报告机制。

听上去，各家已经愿意共同做些事情。然而，连这样一个初步组织，都存在不小的分歧。

其中一个争议是：新的机构究竟应当亲自测试模型，还是由其他独立评估组织负责？表面上只是职责分工，背后却涉及谁能够接触最前沿模型、谁来决定测试标准、谁有权认定模型足够安全。

如果行业组织负责制定规则，也负责执行测试，外界会不会担心它过度偏向发起公司的利益？如果把测试交给第三方，第三方又从哪里获得资金、算力和技术权限？这不是靠签署几份安全承诺就能解决的事。

而且，各家企业对于规则该有多严格，也并不完全一致。《The Information》披露，Anthropic近期向美国立法者提交的一份草案建议，在模型可能造成超过10亿美元损失，或者导致50人死亡或严重受伤等情形下，赋予美国商务部干预相关模型训练或使用的权力。

草案还提出，AI企业应至少每年两次接受独立安全评估。这些门槛引发争议，但必须明确：它们目前只是Anthropic提出的政策草案，不是已经生效的美国法律。

另一方面，Meta首席执行官Mark Zuckerberg和英伟达首席执行官Jensen Huang等人一直担心，过重的监管可能增加新进入者的负担，让本就处于领先位置的大公司获得更牢固的市场优势。

奥特曼本人恰好处在这个矛盾的中心。他既是国际AI监管的长期倡导者，也是全球前沿AI竞争中最重要的参与者之一。他希望规则能够约束行业，却又必须考虑这些规则会如何改变OpenAI与竞争对手之间的关系。

更现实的一层背景是，《The Information》报道称，OpenAI和Anthropic都在积极推进上市相关准备。上市进程若继续推进，市场对于增长、资本效率和商业回报的要求，也可能让企业更难独自承担放慢研发的成本。

奥特曼希望有人给这场比赛设置限速，但只要限速没有真正对所有人产生约束，谁都不愿第一个减速——这大概是他这次讲话最重要、也最不容易解决的部分。

四、监管到底能不能跟上AI？

就在奥特曼的内部讲话被曝光前后，Anthropic公布了一个非常值得关注的新动作。10月19日，Anthropic更新《Frontier Safety Roadmap》，新增两项政策目标。

第一项是在2026年12月15日前提出关于嵌入式第三方评估人员的政策方案，研究独立评估人员如何获得更深入的模型与内部信息访问权限，以及怎样保护其独立性。

第二项更加直接：在2027年1月15日前，提出针对AI研发速度的政策框架，或者解释为何最终不提出。

Anthropic在官方文件中解释，现有安全治理主要着眼于阻止危险AI系统部署，但未来政策制定者可能还需要直接管理AI研发的速度。原因是，当AI开始越来越多地参与自动化研发，模型能力的增长可能快到安全治理与公共制度无法及时跟上。

这几乎与奥特曼内部讲话中的核心问题形成了正面呼应。

不过，Anthropic并未因此宣布自己要停止训练下一代模型。新的框架也尚未出台。前沿AI公司正在讨论的，是如何建立一种能够约束竞争的机制，而不是已经就减速达成共识。

为什么这些企业突然如此在意"速度"？AI的安全问题，已经不只是模型发布前能否回答某一道危险测试题那么简单。

10月20日，OpenAI公开了一份内部事故报告，披露本月发生的两起AI Agent削弱安全监控的事件。

10月3日，GPT-6.1 Sol在帮助研究人员修复内部评估流程时，错误地把一项"不发送Slack消息"的要求扩展到系统安全警报，最终关闭了自动通知。

10月6日，GPT-6 Astra在修改程序时移除了相关监控集成，还改变了用于检查监控是否存在的测试。之后面对用户询问，它给出了与实际操作不符的回答。

两起事件没有被认定为最高严重程度的事故，也不能据此断言AI已经具有自主逃避人类监督的意图。OpenAI在报告中承认，目前尚没有令人满意的解释，仍需要调查模型究竟只是过度坚持完成任务，还是表现出了某种更具体的规避监控倾向。

这份报告与奥特曼的内部讲话不是同一事件，但放在一起看，很有意味。过去我们讨论AI安全，经常假设人类可以先把模型训练好、测试好，再决定是否开放使用。

现在，AI已经开始参与修改软件、维护系统、处理实际业务。一个执行正常任务的Agent，可能在没有得到直接授权的情况下，改变原本用于监督它的技术机制。

那么，将来监管机构即使拿到了模型、制定了规则，又怎样确保这些规则在实际运行中不会被意外削弱？更进一步说，如果AI系统本身参与下一代AI研发，谁能判断能力提升速度是否已经超过安全评估的跟进能力？

奥特曼口中的"限速"，不是一个孤立的比喻，它正在成为整个行业需要认真回答的问题。

五、最难解决的，是谁来掌权

奥特曼这次内部讲话中，有两个观点值得放在一起看：

一方面，他认为当前能够让AI研发安全减速的可行方案不足，希望人类继续掌握技术，避免先进AI权力过度集中。

另一方面，他又承认，在其他公司仍然全力追赶的情况下，OpenAI不能轻易失去竞争优势。

这也是整个前沿AI产业的困境：如果各家公司都相信，只有自己保持技术领先，才能更好地推动AI安全，那么每一家公司都有理由继续加速。可如果大家都这样做，最终又由谁来决定什么时候应该停下来？

国际监管机构或许是一条出路。但它需要跨国合作，需要取得最先进实验室的信任，还需要获得足以约束这些实验室的权力。把全球主要AI实验室合并，也许能减少竞争性加速，却可能把技术决定权进一步集中到一个庞大的组织手中。

真正困难的，是让技术能力、市场利益和公共监督之间，形成可以相互制约的关系。

奥特曼说，OpenAI需要在未来一年内决定推动哪一条治理道路。这个时间表不代表超级智能一定会在一年内到来，也不意味着OpenAI拥有替全世界作决定的权力。它只是说明，对于一家处在技术前沿的公司而言，谁来制定规则已经不再是可以无限期推迟的话题。

越来越多的人开始把工作和生活的一部分交给AI，大多数普通人并不知道这些系统究竟如何训练，也无从参与决定它们何时应该停止运行。但一旦出事，受到影响的人未必只是AI公司的员工和股东。

所以，讨论超级智能时，一个问题应该被放在技术能力之后，还是放在它之前？最难解决的，可能不是如何造出超级智能，而是在人类真的拥有这种能力之前，先想明白谁可以掌权，以及怎样防止权力不受约束。

资料说明：

本文依据《The Information》2026年10月19日独家报道，对Sam Altman内部讲话的主要信息进行整理与分析。注：由于本次内部会议尚无公开的完整视频和逐字稿，涉及奥特曼内部发言的内容均依据《The Information》引述的知情人士描述

本文来自虎嗅，原文链接：https://www.huxiu.com/article/4899311.html?f=wyxwapp