“我没有在唱衰AI！”Anthropic CEO罕见回应质疑：AI最大的问题是还没有兑现那些宏大承诺

整理 | 苏宓

出品 | CSDN（ID：CSDNnews）

AI 究竟会给人类带来怎样的未来？

最近，Anthropic CEO Dario Amodei罕见地在 X 上连续发文，正面回应了一场围绕 AI 监管、开放权重模型以及“AI 到底应该向公众传递什么信息”的争论。

之所以发文，他回应的是业界知名投资人 Gavin Baker 对他的公开批评。

不久前，美国对冲基金 Atreides Management 的管理合伙人兼首席投资官 Gavin Baker 在 All-In 播客以及 X 上连续发声，将矛头直接指向 Dario Amodei。

Gavin Baker 认为，Dario Amodei 长期强调 AI 可能带来的安全风险，以及 AI 可能造成经济权力高度集中，并因此主张对前沿 AI 实施监管。这种持续强调风险的做法，正在加剧美国社会对 AI 的负面情绪。

在 Gavin Baker 看来，如果 AI 确实存在潜在风险，那么解决问题并不只有“通过监管把 AI 集中到少数公司和政府手中”这一种方式，也可以选择让 AI 更广泛地分布出去。他因此指出，Dario Amodei 所支持的监管思路实际上是在选择“集中 AI”，而自己更倾向于通过开放模型等方式，让 AI 的能力尽可能广泛地掌握在更多人手中。

更让 Gavin Baker 不满的是，他认为 Dario Amodei 的这套叙事不仅没有推动其希望看到的监管落地，反而正在产生意料之外的后果——一边没有真正推动严格 AI 监管，一边却让反 AI、反数据中心的声音找到了更多可以利用的素材。

因此，Gavin Baker 直言，Dario Amodei在 AI 监管问题上的观点已经“输掉了这场争论”。而随着 Anthropic 逐渐成为全球最重要的 AI 公司之一，他认为 Amodei 更应该调整自己的公开表达，积极为 AI 行业辩护，而不是继续强调 AI 可能带来的风险。

对于此番言论，Dario Amodei 显然不认同。

他罕见地花了相当长的篇幅回应 Gavin Baker，而且并没有简单地重复 Anthropic 过去的安全论调，而是把问题拆成了两个部分：AI 监管到底会不会导致权力更加集中，以及 AI 为什么正在遭遇越来越严重的公众不信任。

而这两个问题，恰恰也是今天 AI 行业争议最大的两个问题。

“监管=权力集中”？Dario Amodei：这是错误

首先，Dario Amodei不认同一种越来越流行的观点：

要么通过监管把 AI 权力集中到少数公司和政府手里，要么把 AI 广泛分配出去。

在他看来，这其实是一个“错误的二选一”。

他指出，在硅谷有一种约定俗成的说法，即“监管 = 监管俘获 = 权力集中”。但在 Dario Amodei 看来，这种理解把现实世界想得过于简单。

在硅谷之外，很多人对监管的理解恰恰相反：监管的作用就是限制企业权力，让普通人获得更多保护。

Dario Amodei 并没有完全认同这种说法，但他认为，真正重要的是看监管具体设计成什么样。

他特别强调了一个经常被忽略的问题：公平、客观的制度性程序本身，也可以成为一种去中心化力量。

他举了一个简单的例子。正式的司法体系有时可能显得僵化、精英化，但相比“暴民式正义”，它在保护弱势群体权利方面显然更加可靠。

同样的道理也可以放到 AI 上。在 Dario Amodei 看来，一个设计得足够好的制度，可以把权力交给规则和程序，而不是交给某几个具体的人或公司。

Anthropic 为什么支持监管？

回应中，Dario Amodei 试图解释，为什么 Anthropic 明明是一家前沿 AI 公司，却一直支持部分 AI 监管政策。

Dario Amodei 的说法是，Anthropic 一直在非常谨慎地设计自己的政策建议，目标并不是让所有 AI 公司一起承担更多监管成本，而是尽可能让监管放慢前沿 AI 巨头的速度，同时给规模更小的竞争者留下追赶空间。

他以加州 SB53 为例。

Anthropic 支持这一法案，而该法案对规模较小的公司设置了豁免门槛。Amodei 还提到了此前争议极大的 SB1047，表示 Anthropic 当时对它持保留态度，其中一个重要原因正是相关门槛设置得过低。

在他看来，如果监管规则主要约束已经处于最前沿的大型 AI 公司，而不是所有开发者一视同仁，那么监管反而可能帮助后来者竞争。

他还提到了 Anthropic 此前在 CAISI 和白宫推动的模型测试机制。

按照他的理解，前沿模型应该接受比非前沿模型更加严格的测试，而这实际上会给挑战者带来一定优势。

同样的逻辑也存在于“Pacing the Frontier”倡议中：控制最先进模型的发展速度，但不要限制那些正在追赶前沿的公司和模型。

换句话说，Amodei 认为：监管并不一定意味着保护巨头，也可以反过来成为限制巨头、帮助挑战者的工具。

不过，他也并没有否认 AI 行业存在权力集中的问题。

恰恰相反，他认为：AI 从技术结构上来说，本身就是一种容易导致权力集中的技术。而造成这一点的原因，并不是监管，而是 AI 的规模定律。模型越强，通常需要越多的计算资源、芯片、数据以及资金。因此，随着模型能力不断提升，开发最先进 AI 的门槛也在不断提高。

在 Dario Amodei 看来，这意味着即使完全没有监管，AI 也并不会自然地走向权力分散。

开放权重模型确实能够缓解一部分问题，但同样不是完整答案。

因为开放权重只是把权力集中从“拥有模型的人”转移到了“拥有最多算力和芯片的人”。而这些人依然很可能是今天的前沿 AI 实验室以及大型硬件供应商。

所以，在 Dario Amodei 的逻辑里，真正需要寻找的并不是“监管还是开放”二选一，而是一套能够同时做到三件事情的规则：

• 一是控制 AI 在网络安全、生物安全和 AI 对齐方面可能产生的风险；

• 二是从制度层面限制前沿 AI 公司的权力；

• 三是为开放权重模型留下空间，同时处理开放模型自身带来的风险。

这也是他为什么认为，“监管必然导致权力集中”的说法过于简单。

有意思的是，Dario Amodei 还明确表示，他并不认为过去几个月发生的事情没有朝着自己希望看到的监管方向发展。“据报道，特朗普政府正在采取的方式——对前沿模型进行部署前测试，同时在开放权重模型接近前沿水平时对其进行测试——是我非常支持的方向。当然，具体细节仍然需要进一步确认。我同样支持 Demis Hassabis 关于建立一个类似 FINRA 的机构的想法。而这与六个月前的情况形成了鲜明对比。当时，行业内大多数人还在推动全面禁止州层面的 AI 监管，与此同时，联邦层面似乎也没有一个明确的监管方案。”

Dario Amodei：我没有一直在“唱衰”AI

如果说监管问题是第一层争论，那么第二层争论，其实更加直接：Dario Amodei 是不是一直在“唱衰”AI？

Gavin Baker 的批评正是从这里开始。

在回应中，Dario Amodei 明确否认了这一点——“关于围绕 AI 的舆论表达方式。我不同意‘我的表态过度偏向负面’这一说法。”

他认为，自己在 AI 风险和 AI 潜在收益之间，其实一直保持着相对平衡。

他分别写过重要文章讨论 AI 的风险和收益，即便在接受采访时谈论 AI 风险，也会同时强调 AI 可能带来的巨大好处，以及如何解决这些风险。至于为什么社交媒体上经常看到自己的视频显得格外“悲观”，他的解释也很直接：因为社交媒体更喜欢那些能够获得点击的短视频，而谈论风险的片段显然更容易传播。

Dario Amodei 特别提到了自己此前写下的《Machines of Loving Grace》。他表示，自己写这篇文章的一个重要原因，恰恰是因为当时觉得 AI 行业没有给出足够令人振奋的未来图景。

这篇文章的大部分内容，并不是在讨论 AI 会带来什么灾难，而是在讨论 AI 如何改变生物学和医学。

Dario Amodei 甚至提出过一个非常激进的判断：未来 5 到 10 年，人类可能治愈绝大多数疾病。

https://darioamodei.com/essay/machines-of-loving-grace

对于普通人来说，这听起来可能非常疯狂；甚至对于生物学家来说也一样——Dario Amodei 自己过去就是一名生物学家。

他还提到自己最近关于 AI 政策的文章《Policy on the AI Exponential》，其中专门讨论如何简化 FDA 流程，避免未来大量由 AI 加速研发的药物，因为监管流程过慢而无法及时进入市场。

而这里还有一个非常个人化的原因。Dario Amodei 提到，他的父亲在几年前因丙型肝炎去世了，而就在那之后没几年，直接抗病毒药物便问世了。“这种药物可以治愈 95% 的患者，很可能当时也能够治好我的父亲。”

“我确实同意，公众目前对 AI 持有负面看法，而且这是一个很大的问题。但我不认为，这主要是因为我，或者其他 AI 领域的领导者不断警告 AI 所存在的风险。我认为，这从根本上说是一场信任危机。

普通人并不信任企业、政府或者科技行业，总觉得我们又在琢磨什么新的办法来坑他们。造成这种情况的原因可以追溯到几十年前，而 AI 只是这一问题最新的一种表现形式。

我不认为，一场包装得光鲜亮丽、刻意强调积极面的营销活动——有些人甚至建议 Anthropic 这么做——能够重新赢得这种信任。到了今天，再说‘AI 将治愈癌症’，与其说令人振奋，不如说已经成了一句老生常谈。大多数人甚至会觉得这是一种欺骗。”Dario Amodei 说道。

Dario Amodei 认为，真正能够重新赢得信任的，不是告诉大家 AI 会治愈癌症，而是真的把癌症治好。

“我们还没有兑现那些宏大承诺”

Dario Amodei 甚至主动给出了他认为目前对 Anthropic、乃至整个 AI 行业最准确的一项批评——AI 公司还没有兑现自己那些“让世界变得更好”的宏大承诺。

在他看来，这才是公众真正应该批评 AI 公司的地方。

Dario Amodei 也直面 Gavin Baker 批评回应道：“这是我们自己的责任。我认为，你真正应该批评的，是这一点，而不是一直纠结于我们的舆论表达和营销方式。”

而 Anthropic 目前正在努力改变这一点。Dario Amodei 称，其公司正在快速增加对生物学和医学领域的投入，希望未来几年能够取得真正具有影响力的成果，同时未来几个月也可能出现一些早期的突破迹象。

但在真正取得成果之前，Dario Amodei 不愿意继续做出更多空洞承诺。

他认为，在这个阶段，自己仍然应该坦诚地谈论 AI 的真实风险，以及如何解决这些风险。因为在他看来，诚实本身就是正确的事情。而从公众信任的角度来看，坦诚承认风险，也不会比刻意回避风险更糟糕，甚至可能更好——毕竟公众本身就已经意识到，这些风险确实存在。

这其实是一场更大的争论

Dario Amodei 这次回应最有意思的地方，也许并不是他究竟支持哪一项监管政策，而是他实际上把 AI 行业目前的矛盾摆到了台面上。

一边是以 Meta、部分投资人以及大量开源社区支持者为代表的观点：AI 应该尽可能广泛分配，开放权重能够降低少数公司对 AI 的控制。

另一边则是 Anthropic 这样的前沿实验室所强调的问题：如果模型能力越来越强，完全开放的权重同样可能带来网络攻击、生物安全以及失控等风险。

而 Dario Amodei 这一次试图提出的第三种答案是：开放可以存在，监管也可以存在。真正的问题不是二选一，而是规则究竟怎么设计。

但问题也恰恰在这里。

因为 Dario Amodei 所说的“合理监管”，到底能不能真的做到既限制巨头、又保护小公司？

这恐怕才是整个争论最难回答的问题。

理论上，针对最强模型的严格监管，可以限制头部公司的领先优势，让后来者获得追赶机会。

但现实中，大公司拥有更多资金、算力、人才、法律团队以及政策资源，同样更有能力承担复杂的合规成本。

一旦监管要求越来越高，最终会不会变成只有巨头才玩得起的游戏？

这也是 Gavin Baker 等人真正担心的地方。所以，AI 最终会走向更加开放的未来，还是在监管与算力的双重作用下进一步向少数巨头集中，或许还没有答案。这场争论究竟谁更接近真相，最终还是要看 AI 接下来会走向怎样的现实。

11.20-21 日，2026 奇点智能大会·北京站。

OpenAI 资深研究科学家 Łukasz Kaiser 确认进行主题分享。

他是 Transformer 八子中唯一还在科研前线的人，GPT-4/5、o1、o3、ChatGPT 的核心开发者。

2021 年，他在这个大会上分享了三个方向：多模态、更大更好的 Transformer、模型即服务。五年后，多模态爆发，ChatGPT 席卷全球，前沿观点全部成了现实。

去年，他讲的是推理模型的进化：从"记忆"到"策略"再到"研究器"——模型开始学会自己思考。

欢迎大家扫码领取 Łukasz Kaiser 历年在奇点智能大会上的分享 PPT 和视频

if like:

click("分享", "点赞", "在看")