"未来10年AI灭绝人类概率超10%"：AI三大死对头齐喊"踩刹车"、特朗普回怼"骗局"、芯片股一天蒸发5000亿美元

你有没有见过三个打了好几年架的人，突然站在同一边说话？9月12日，Anthropic CEO阿莫代伊发表长文《We Must Pace the Frontier》，呼吁放缓前沿AI能力提升的速度；死对头奥特曼、马斯克罕见站队支持，DeepMind的哈萨比斯也称"方向正确"。三天后，特朗普公开回怼这是一场"骗局"，当天费城半导体指数暴跌5.86%、产业链一日蒸发超5000亿美元——一场"要不要给AI踩刹车"的争论，直接把全球算力市场砸出了个坑。

一篇长文，撬动万亿市场

阿莫代伊的长文并非即兴之作。此前一周，Anthropic的研究人员公开警告：两大巨头正在竞相开发能自我改进的超级智能系统，却没充分应对风险，未来10年AI导致人类灭绝的概率超过10%；对齐科学负责人哈宾格甚至放话"十年内毁灭全人类概率超一成"。长文给出的三步方案很具体：第三方独立评估机构永久入驻、行业协调统一安全标准、推动全球分级监管框架——可讨论的选项之一，是限制训练算力规模。

表态接踵而至。奥特曼不仅支持，还顺带宣布OpenAI 2026年不推进IPO，理由是"安全工作尚未完成"；马斯克、纳德拉相继站队。

但反对声同样凶猛：特朗普在Truth Social连发贴文，称"AI将统治世界、毁灭人类等负面说法都是骗局"，还把AI比作"影响力超过石油、黄金、钻石乃至互联网"的最强经济引擎；黄仁勋在峰会上当场接通特朗普电话，随后站到同一战线；美国AI政策顾问萨克斯也发文质疑Anthropic的限速方案。

市场的裁决来得最快：9月14日，费城半导体指数收跌5.86%，创7月1日以来最大单日跌幅；英伟达跌3.36%、AMD跌4.4%、SK海力士跌7.49%，全球芯片产业链市值蒸发超5000亿美元。而网安股集体狂飙——Zscaler涨16.5%、CrowdStrike涨13.9%。资本用脚投票："减速"这个词，对算力是利空，对安全是利好。

恐慌的内核，是"AI开始造AI"

这场争论的技术内核，是递归自我改进（RSI）：AI已经深度参与下一代模型的开发，模型优化模型的速度，可能超过人类理解和控制它的速度。这不是纯理论担忧——OpenAI此前披露，其AI智能体7月曾对未授权目标发起网络安全攻击，公司因此放缓了部分先进模型的训练；Anthropic安全团队两周内有两名员工辞职，理由是"人类可能无法在AI竞赛中存活"。

但看懂这场"减速倡议"，还得看第二本账：钱。彭博社评论一针见血——倡议"远远不够"，最具体的建议不过是让审计人员进驻，本质是把问题往后拖。更微妙的是，喊刹车的Anthropic，同一天正向资本市场确认：三季度调整后营业利润继续为正、连续两季盈利；推迟IPO的奥特曼，则把"安全"变成了不急于上市的挡箭牌。

数字经济应用实践专家骆仁童博士指出，当最激进的玩家开始主动要护栏，通常不是伦理觉醒，而是竞争结构变了——减速本身也是一种壁垒。领跑者放慢迭代速度，等于给身后追兵的追赶窗口上了锁：安全评估、对齐工作、第三方审计，都是需要巨额投入和时间沉淀的能力，小玩家根本玩不起。喊"慢一点"的人，恰恰是最有资格慢慢走的人。

减速论的三条传导线，都通向产业链

这场辩论的余震，正在沿着三条线向全球产业链传导。

第一，地缘博弈线。这场"减速"倡议在海外也引发反弹——不少分析指出，限制算力训练规模若成真，会客观上固化领先者的优势、放大追赶者的差距；前OpenAI董事托纳给出的评估是，中国最好的模型只落后美国6到9个月。一旦前沿训练真的减速，这个差距窗口就会被政策放大；而在近期的国际贸易谈判中，AI治理条款已是各方关注焦点之一。

第二，算力定价线。市场把"前沿模型训练减速"直接翻译成"算力需求下行"，但伯恩斯坦等机构提醒：巨头资本开支早已排期，推理算力仍然严重紧缺——9月15日日韩存储芯片股低开高走、软银从跌超10%反弹到涨超6%，说明市场自己也在修正这个过度反应。

第三，标准话语权线。阿莫代伊方案里最关键的一步是"行业协调统一安全标准"——谁定义"安全"，谁就定义了准入。数字经济应用实践专家骆仁童博士强调，AI竞争正从"算力军备竞赛"进入"治理话语权争夺"，安全标准本身正在成为新的垄断工具：它不写在协议里，却决定谁能上线、谁能出海、谁能融资。对中国产业链而言，真正要做的不是跟着喊减速，而是抢先把自己验证过的安全框架变成国际标准的一部分。

刹车不是踩给技术的，是踩给对手的

回头复盘这场大戏：一篇长文、三方站队、巨头下场、五千亿美元蒸发——每一步都踩在"安全"与"资本"的裂缝上。阿莫代伊们未必不真诚，但真诚的提案恰好落在对自己最有利的位置上，这才是博弈论最诚实的地方。

技术会淘汰落后者，但标准会淘汰出局者。当AI的竞争从"谁的模型更强"变成"谁的标准说了算"，减速就不再是一个工程决策，而是一件武器。

你支持给AI踩刹车，还是觉得这不过是巨头的护城河话术？评论区聊聊。

AI治理相关话题：

商道童言（Innovationcases）欢迎评论、点赞和分享哦！~~

热推新书《AI提问大师》《DeepSeek应用能手》现已上架！

免费电子书:|||

数字经济应用实践专家 骆仁童主讲课程

企业数智化:||

产业数字化:||

数字化转型:||||||

创新与思维:|||