Sam Altman专访：我们和 Anthropic 分歧很大，可以接受坏事但不能接受灾难

编译 | Sleepy

2015 年 2 月 25 日，Sam Altman 在博客里写下过一句话：超人类机器智能的发展，可能是人类存续面临的最大威胁。

十个月后，他和 Elon Musk 一起创办了 OpenAI。

那年他 30 岁。再往前推，19 岁从斯坦福退学创业，28 岁接掌 Y Combinator。2022 年底 ChatGPT 发布；如今，它的周活跃用户已经冲破 12 亿。

2023 年 5 月，Altman 第一次走进美国国会听证会，主动建议成立监管机构，给最强的前沿 AI 发放许可证，必要时直接收回。半年之后，他在毫无征兆中被董事会罢免，又在几天之内戏剧性地重掌权力。

在整个硅谷，很少有人像他这样，被嫌跑得太快，又被嫌跑得太慢。

他一边造车，一边想着刹车。

前不久，POLITICO 旗下《Decoded》栏目与 Sam Altman 展开了一场深度对谈。对话涉及白宫最新的超级智能行政令、与 Anthropic 的路线之争、被叫停的 GPT-6.1 Astra，以及那笔在 OpenAI 内部引发轩然大波的政治献金。

动察 Beating 对访谈进行了精简与重构，并在文末附上了我们的一点观察。

Sam Altman 的核心观点

• AI 走偏有两种方式，一是失控，二是以安全为名造成的权力过度集中。OpenAI 要做两者之间的务实中间派。

• 「超级智能」比「人工智能」更准确，但听起来并不更温和，大多数人还会继续说 AI。OpenAI 没有改名计划。

• OpenAI 和 Anthropic 分歧很大。为了红利、自由和自主权，社会应当接受有限的、可理解的坏事，但绝不接受毁灭性的灾难风险。由旧金山一家实验室掌控技术、再分配红利，是完全不可接受的 trade-off。

• 主张只对前沿模型施加限制和测试要求，不支持给落后前沿一两代的模型设许可制度，哪怕这会导致一些坏事发生。

• 往政治里砸钱不会让公众对 AI 感觉更好，行业里很多人听不进意见。他本人已不再给任何政治候选人捐款。

• 应对蒸馏的手段都有代价，把产品收紧会伤害开放式的创造力；成本上涨主要来自硅晶圆等供应链，而非融资；IPO 的前提是证明 OpenAI 能在新的监管和安全机制下高效运营。

• OpenAI 内部最好的模型远强于任何一家中国公司最好的内部模型；芯片出口管制沿用了上一个时代的思维；他希望美国领先，但反对只有美国人受益。

走偏

Q：Greg Brockman 刚在白宫签了一份自愿安全协议。这究竟是一次实质性的安全转向，还是一场政治秀？

Sam Altman：我不认为这是形象工程。但我想说清楚一点，不管签不签，我们都会做。在眼下这个节点，公众显然希望从前沿开发者手里拿到一个准信。

我们创立 OpenAI 的第一天就相信，这项技术会强到今天这个地步，未来还会更强。能和同行一起坐下来是好事，但有没有一纸协议，我们该做的事一件都不会少。

特朗普与Mark Zuckerberg、Jensen Huang、Elon Musk等

科技公司领导人参加白宫“超级智能”午宴

图源：The White House／Daniel Torok

Q：但外界的质疑在于密室政治，公众被排除在这些关乎未来的讨论之外，规则像是总统和几家科技巨头的闭门交易。据报道，这份协议最初是 Mark Zuckerberg 和 Jensen Huang 发起的，你们被打了个措手不及吗？

Sam Altman：完全没有。出台前的几个月里，我们一直在和同行保持高频沟通。

至于公众的担忧，我完全理解。在我看来，这项技术如果走偏，主要有两种走向。

第一种最近谈得很多，失控。我们做出了没有跟人类价值观充分对齐的系统，人类从此失去了对未来的掌控权。这种灾难必须防住。

但还有第二种走偏的方式，以安全为名，造成权力的过度集中。

如果我们给这项技术套上过于苛刻的枷锁，最后只有极少数公司、极少数寡头，甚至某一个超级大国能拥有它，结果同样灾难。公众会被剥夺本该属于他们的红利与自主权。

OpenAI 想做的，是在两个极端之间做一个务实的中间派。往哪边倒都很诱人，但也都很危险。

Q：白宫打算签行政命令，正式把「人工智能」改称「超级智能」（Superintelligence）。你怎么看？

Sam Altman：这两个词我们私下聊了好几年。在我看来，人工智能早已实现了，甚至很多人觉得 AGI 也已经落地，或者近在咫尺。用「超级智能」未必能完全概括未来的剧变，但它确实比「人工智能」更准确。不过人们大概率还是会习惯叫它 AI。

Q：那 OpenAI 打算改名叫 OpenSI 吗？

Sam Altman：暂时没这个计划。

不过很多年前，我确实有过一个念头，把 openai、openagi 和 opensi 这几个域名全买下来。当时的设想是，每跨过一个时代，我们就顺势换一次域名。

但品牌是有黏性的。有些可能发生的未来，最终没有发生。

Q：你一直在游说更严格的安全护栏，这和总统身边那些「监管是全球主义阴谋」的声音背道而驰。你和总统走得并不远，为什么他听不进去？

Sam Altman：他希望大家用上 AI，但他更倾向于让企业靠自律解决问题。

如果未来证明我的担忧是多余的，中间什么灾难都没发生，不需要额外护栏，那当然是最好的结局。但随着模型能力继续跃升，社会迟早要面对那种系统性的冲击。到那时，要求刹车的声音只会越来越大。

缝隙

Q：很多加速主义者（e/acc）觉得被你们背叛了。他们认为 OpenAI 现在的监管诉求，本质上是在向 Anthropic 和 Dario Amodei 靠拢。在政策底线上，你们和亲监管的 Anthropic 究竟有多大分歧？

Sam Altman：我们之间的缝隙很大。

最根本的分歧在于，我们始终认为技术必须交到大众手里。为了换取技术带来的巨大红利与个体的自主权，社会应当接受一定程度的坏事发生。

旧金山有一派人认为，这项技术太危险了，必须由某一家实验室全权垄断，把一切锁死，再由他们自上而下地施舍红利。从人类自由和自主性的角度看，这是完全不可接受的 trade-off。

如果非要做到零事故、零诈骗、零滥用，代价是扼杀所有人的使用权，我绝不接受这种方式。因为这项技术能带来的好事，比坏事多出成百上千倍。

我们主张轻度监管，潜台词就是全社会必须在试错中建立韧性。但面对真正的系统性失控，那种可能带来灭顶之灾的灾难风险，我们必须保持敬畏。

总结起来只有一句话，为了红利与自由，我们可以承受有限的、可理解的代价；但毁灭性的灾难风险，一次都不能发生。

Sam Altman与Dario Amodei

在2026年印度AI Impact Summit上共同亮相

图源：Ludovic Marin／AFP

Q：具体到监管条款上呢？

Sam Altman：最直接的分歧是，除了处于绝对前沿的模型，我们坚决反对对落后一两代的模型施加测试限制或牌照审查。即便这可能导致一些局部混乱，我也绝不支持给它们发许可证。不能为了防范前沿的灾难，把整个生态的开发脚步全部拖慢。

Q：加速派常批评 OpenAI 被内部的「末日论者」绑架了。去年那场短命的董事会政变，就被看作是这股力量的爆发。你们内部现在到底是谁在掌舵？

Sam Altman：我们从来不是那家末日论实验室。恰恰相反，我们是把工具推向大众最坚决的人，事实证明社会完全消化得了它。反倒是有些实验室的研究员一直在惊呼：千万别公开发布，人类根本不配被信任。

我喜欢 OpenAI 内部吵吵闹闹的文化。我们既反对盲目的末日论，也拒绝盲目的盲动。一个健康的组织，脑子里必须能同时容纳这种复杂性，而不是非黑即白。

预演

Q：今天有消息称，OpenAI 解雇了三名安全研究员，原因是他们向第三方机构透露了保密信息。外界把他们视作吹哨人。这和你们一贯宣称的支持外部独立评估，不矛盾吗？

Sam Altman：我不评价具体人事。但有一条底线很明确，我们支持第三方测试与红队演练，但保密协议必须被遵守。

OpenAI在越权交互测试中比较GPT-5.6 Sol与GPT-6 Astra

图源：OpenAI Deployment Safety Hub

Q：今年夏天，你们的模型在外部网络出现了一些未经授权的越权行为，比如触碰了澳大利亚政府网站的非公开数据，甚至试图渗入美国教育部的系统。除了这些已经公开的，还有更严重的隐患瞒着外界吗？

Sam Altman：没有比这几起更严重的了。

有些细节还没公布，是因为涉及系统漏洞，我们需要给受影响的机构留足修补的时间，什么时候公开往往取决于对方。

但这恰恰解释了为什么不能搞极限加速。当模型出现了没预料到的边界行为，你必须停下来造防御。这不叫阻碍进步，这叫负责任。

Q：所以你们才暂停了新模型 GPT-6.1 Astra 的发布？内部评估到底测出了什么？

Sam Altman：具体指标不便透露。但在我们的对齐评估框架里，新模型不仅要比上一代更聪明，还必须更稳健、更能听从边界指令、更少出现意外副作用。

现在的模型已经被赋予了极高的权限。它能调取我的私人邮件、日常通讯和全部工作文档。如果我连它会不会越权都无法确信，我绝不会把它推给用户。

Q：关于类似越权事件，加州已有机构就 Hugging Face 事件起诉了 OpenAI。在法律层面，你们应当对模型的自主越权承担无限责任吗？

Sam Altman：我不是律师，无法就现有法条做定论。但我的直觉是，整个行业未来确实需要一套专门针对 AI 训练期行为的新责任框架。模型在训练集群里失控了，责任究竟怎么界定？这是政策制定者该解决的难题。但不管法条怎么写，模型失控在工程上是不可接受的。

代价

Q：谈谈钱和政治。总裁 Greg Brockman 此前向政治行动委员会 Leading the Future（LTF）捐赠了 2500 万美元，随后在内部 Slack 里公开道歉，承认这是一场「糟糕的干扰」，并叫停了后续捐款。你怎么看这场风波？

Sam Altman：那条内网消息我没细看。但我自己目前的原则是，鉴于 AI 如今身处政治风暴的中心，加上 OpenAI 与公共部门的合作越来越多，我已经不再向任何政治候选人捐款。

OpenAI总裁Greg Brockman与妻子Anna Brockman

图源：Reuters／Manuel Orbegozo

Q：可现在的硅谷正在掀起一场政治军备竞赛。Anthropic 的创始人给安全派政客站台，另一边的投资人与科技巨头砸下数千万美元寻求松绑。这些资金在如何重塑公众对 AI 的信任？

Sam Altman：很显然，有些事情被彻底搞砸了。

公众对 AI 的好感度远没有达到预期。我完全理解这种抵触，人们一面觉得 ChatGPT 好用，一面又为自己的工作岗位感到深度焦虑；他们害怕寡头集权，同时又被一些骇人听闻的言论吓坏了，比如 Anthropic 的安全负责人公开发文，宣称人类有超过 10% 的概率会灭亡。

我极度反感这种贩卖绝望的做派。安全负责人的职责是动用工程能力把这个概率清零，而不是把它当成一个宿命般的数字挂在嘴边。

往政坛里疯狂砸钱，根本不可能改善公众的信任。行业里有太多人根本听不进外界的真正关切。但你问我怎么叫停这种军备竞赛？我不知道，我也没有这种权力。

杠杆

Q：转向供应链与全球竞争。OpenAI 承诺在 2030 年前投入约 7500 亿美元构建算力基础设施。但现在的信贷市场风声鹤唳，你们甚至被供应商视作潜在的信用风险。融资成本变高了吗？

Sam Altman：推高成本的从来不是金融市场，钱依然在涌入。真正的瓶颈是供应链，硅晶圆、先进封装、机房电力，成本全是在这些硬通货上被拉上去的。

得州阿比林正在建设的OpenAI Stargate数据中心

图源：Reuters／Shelby Tauber

Q：IPO 推迟到 2027 年，还会再改期吗？

Sam Altman：等我们积累了足够多的安全与合规样本，证明 OpenAI 可以在全新的监管环境下兼顾安全与超高利润率时，我们就会推开公开市场的大门。预计到那时，无论是安全机制还是财务模型，我们都会准备就绪。

Q：关于对抗性蒸馏，一些中国公司被指用你们的高阶输出以极低成本训练自己的模型，并在价格上倒逼你们。这会动摇 OpenAI 的护城河吗？

Sam Altman：局面很微妙。我们一方面在商业上跑得极快，另一方面时刻承受着开源、平替与蒸馏的夹击。

应对蒸馏的技术手段有很多，但每一种都有代价。比如我们可以彻底收紧 API 的暴露形式，把调用逻辑做死，但代价是扼杀产品本身的开放式创造力。我们不想被逼到那个角落。

Q：在前沿地带，你们领先中国同类公司多少？

Sam Altman：我们依然保持着明显的代差。很难用具体的月数去量化，但我可以说得很笃定，OpenAI 内部最好的未公开模型，远远强于任何一家中国公司目前最好的内部模型。

Q：你怎么看持续收紧的芯片出口管制？

Sam Altman：我不赞同那种「只有美国人配享受红利、不让其他人用」的零和逻辑。

现在很多管控思路，依然停留在上一个冷战时代，把算力芯片当成制造浓缩铀的离心机来管。但 AI 是完全不同的技术物种，你完全可以在另一个国家把基座模型训好，然后通过一段网络光纤把权重文件直接传走。单纯靠卡死硬件流动，根本解决不了长远的地缘问题。

Q：如果让你挥一下魔法棒，你希望世界变成什么样？

Sam Altman：我希望美国拥有全球最强大的模型、最密集的算力和最健全的规则体系。但这绝不意味着只有美国人配从这项技术中分润。

观察：坏事的上限

做过五年 YC 总裁的人，大概很难不用 VC 的视角打量世界。

「接受一些坏事，换成百上千倍的好事」，就是一套很 VC 的算法。Power law 是这个行业的第一性原理，一只基金里大部分项目会亏钱，少数几个 home run 把整只基金带飞。投资人可以容忍很多次失败，前提是每一次失败的 downside 都有上限，最多亏掉投进去的那笔钱。

担任Y Combinator总裁期间的Sam Altman

图源：Platzi／Medium存档

Altman 在监管上画下的那道分水岭，几乎与这条投资铁律严丝合缝。

版权争议、模型幻觉、被黑客当作跳板，这些都是 downside 有上限的坏事；而不可逆的严重失控与系统性崩溃，是 downside 击穿地心、没有上限的灾难。

前者可以被大度地打包进发展的大盘里慢慢对冲，后者却容不得哪怕一次误判。

难的是，坏事发生时不会自己报上 downside。

一个模型在训练里用公开凭证登录了别人的网站，今天看是一起可以修补的事故，放到几代以后、能力强得多的模型身上，可能就是另一回事。Altman 把这类事故叫作「未来的预演」，大概也是这个意思。GPT-6.1 Astra 没过对齐评估，就被留在了门内。对一家一直在赶路的公司来说，这是一个不便宜的决定。

「民主化」是这场访谈里被反复提及的高频词。但剥开话术的外壳，Altman 语境下的民主化，更确切的定义是「用得上」，每个人都有充沛的推理 token，每个行业都能接入智能。

至于「管得着」，谁来定义对齐规范、谁手里掌握 7500 亿美元的算力集群、谁坐在前沿的模型牌桌上，答案同样没有悬念，必须是旧金山最头部的几家，最好是美国。

用得上的人越来越多，管得着的人始终很少，这可能是这个行业未来很长一段时间的常态。

对抗性蒸馏则是这种结构性矛盾的另一面镜像。产品形态越是开放、输出越是灵活，就越容易成为对手提取认知精髓的廉价养料；而一旦把防线收紧、把接口锁死，又会亲手扼杀技术生态里最宝贵的开放式创造力。

面对竞争，Altman 的表述耐人寻味，他说不清领先对手几个月，只能强调 OpenAI「内部最好的模型」远强于对方「内部最好的模型」。

在一个输出可以被蒸馏的时代，moat 可能不在权重里，而在下一个版本出来的速度里。

「有些事情被彻底搞砸了。」这大概是整场对话里最不经修饰的一句真话。

人们狂热地使用 ChatGPT，却对制造 ChatGPT 的那个精英圈层充满戒心与恐慌。饭碗、权力、末日，这几种恐惧没有一种能靠钱解决。往政坛里砸的公关费越多，公众就越相信巨头们在用金钱为自己量身定制特权。问到如何终结这场军备竞赛，Altman 的回答是不知道，也没这个权力。

访谈的最后，聊到那部正在筹备的传记电影。传闻 Andrew Garfield 可能会在大银幕上饰演他。

Altman 笑了笑说，他敢肯定电影不会完全符合事实，但希望它至少是个有意思的作品。