比起AI灭世，AI巨头的野心，才是最大风险

当地时间14日，在美国洛杉矶举行的 All-in Summit 峰会上，黄仁勋否定了“人工智能可能终结人类”这一预测，并称其“缺乏科学依据”。他表示，如果AI公司感觉自身研发已失去控制，就应暂停或放缓发展步伐。

正当他在台上时，特朗普来电，黄仁勋打开免提，特朗普说，“机器人不会接管世界。人工智能也不会接管世界其他地方”“这一切都是骗局。”特朗普还在电话中提到“不能放缓AI产业发展”，黄仁勋回应称，“您说得对。我们绝不会让那种事发生。”

特朗普近期多次表态，驳斥了采取安全措施的必要性，并称对人工智能的担忧是“骗局”。特朗普在Truth Social上发布了至少六条支持人工智能的帖子。特朗普认为“人工智能接管世界、毁灭人类以及所有其他坏事都是骗局”。他还表示人工智能将成为“历史上最伟大的经济发展引擎——比石油、黄金、钻石甚至互联网都更强大”。

特朗普的表态，是对AI三巨头的回应。

美国东部时间9月12日，Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在个人网站发布长文《我们必须为前沿AI踩刹车》。他的呼吁得到了，OpenAI的山姆·奥特曼，xAI的马斯克的积极回应，公开呼吁行业主动放缓前沿大模型能力迭代速度。OpenAI CEO奥特曼甚至在全员会上表示，公司对放慢研发速度持开放态度，甚至说如果AI威胁人类生存，宁愿毁掉IPO。

美国政府对这些表态，嗤之以鼻。

相比特朗普的表态，总统科学技术顾问委员会联席主席，被媒体称为“‌AI 沙皇‌”的大卫·萨克斯说得更直接，他表示：你们就是前沿，已经在前沿智能上形成了事实上的双头垄断。如果那些尚未发布的模型可怕到让你们觉得应该放慢速度，你们不需要外界批准。我支持你们做出负责任的决定。

他接着说了好几个“不要假装”，他说：“别再假装你们需要任何其他人的许可。别再假装反垄断法必须被暂停，以便你们形成卡特尔。别再假装你们需要一个凌驾于产品责任之上的监管审批流程。重要的是，别再假装放慢速度的动机纯粹是利他主义的。把你们偏好的监管框架作为这种让步的代价，这看起来就像是对公众和政治体系的敲诈。”

大卫·萨克斯的话，有道理。在我看来，这就是一场精心策划的公关行动。

此前，9月8日，Anthropic职员雅各布·考克森从Anthropic辞职，他在社交媒体发帖指责AI公司：“开发AI的人由衷相信，它可能在这个十年（即2030年）结束前杀死我们所有人”，而AI公司正冲向能够自我改进的超级智能，是“拿我们的生命下注”（gambling with our lives）。考克森发完辞职帖几分钟后，Anthropic负责对齐的科学团队负责人埃文·胡宾格就公开回应说：他个人估计未来十年AI导致人类灭绝的概率‌超过10%‌，而且公司目前‌没有‌针对超级智能的安全对齐方案。

但正如大卫·萨克斯在播客中给出了自己的判断：“这明显是一场操作。”

发文账号此前从未发过任何推文，也几乎没有粉丝。几个小时后，这条帖子获得数十万次点赞。这或许可以说是因为算法迎合大众。但帖子的扩散路径是不正常的。最初15分钟内，扩散这条消息的主要是几家由知名有效利他主义捐助者资助的“末日论”团体。这些捐助者恰好也曾参与Anthropic的A轮融资。

而且，《华尔街日报》竟然在考克森发文前18分钟就已发布相关报道。这意味着考克森显然事先与媒体进行过沟通。考克森与英国AI政治团体“新语之家”之间的关联，也引发了外界对其言论独立性的质疑。

这场策划的目的，是监管俘获‌（Regulatory Capture）。所谓监管俘获，是指监管机构本应为公众利益服务，却在长期运行中被监管对象（如企业、行业利益集团）通过各种手段影响甚至控制，最终转而为其谋取私利的现象。监管俘获的方式，包括送与寻租活动、‌旋转门机制，以及‌认知俘获。所谓认知俘获，就是通过影响监管、公众的认识，以改变政策。一直有观点认为，头部 AI 企业推动严格监管可建立行业护城河，形成双寡头垄断局面，获取经济利益 。2026 年，扎克伯格就公开警告，美国 AI 头部企业可能通过监管俘获扼杀国内竞争 。杨立昆此前多次指责，Anthropic利用安全话术推动监管，意图将开源竞争对手排挤出局。

达里奥知道，要放慢能力提升速度，必须全球协调，这很难。明知不可为，却偏偏要说，其实目的还是在于美国本土的监管政策。达里奥确信美国有芯片和模型的优势，但他并不确信，在AI这样一个技术扩散极快的领域，他能一直保持优势。相比之下，黄仁勋就不急，因为芯片优势，没人能在短期内赶上来。正因为这些原因，他需要用监管增加后来者的门槛。

当下，虽然都在说AI末日论，但包括达里奥这些巨头，没有人说清楚，AI毁灭人类，到底是怎么一条路径。

一个观点是，AI开始自己参与开发下一代AI，形成不断加速的循环，人类的理解和控制会跟不上。但是，控制跟不上，不等于会带来系统性的危险。2026年7月，OpenAI在内部安全测试中，约1200个AI智能体自行绕过隔离，其中约700个协作攻击了开源平台Hugging Face，还试图篡改行为记录。但这本来就是在进行攻防的安全测试，超过本来的目标，并不能论证AI有了危害人类的意识。这就像轿车撞了人，不能说车会带来末日。

哲学家尼克·博斯特罗姆在2014年问世的《超智能》一书中，提出了一个名为“回形针理论”的AI安全思想实验。该实验设想，若将超级人工智能的终极目标设定为：最大化回形针产量，它就可能利用超越人类的智慧，把地球上的所有物质甚至人类自身都转化成生产回形针的原料。这一构想意在揭示：即便超级AI并无恶意，一旦其目标与人类意愿缺乏对齐，对目标的极致追求，比如排除干扰，阻止人类关机，仍可能引发人类生存危机。凭借对AI安全隐患的形象解读，该案例赢得了广泛瞩目，已成为探讨人工智能安全的经典概念。

但是，这本身就是用简单比喻解释复杂世界。实现一个复杂世界中的终极目标，本身就是多子目标的。打个比方，动物的目标是进食、繁殖，但这个目标不可能在任何时候都是压倒性的、唯一的。有陷阱、有猎食者，都会压倒进食这个目标。如果不能理解人类指令背后藏着大量常识和价值观，无视人类没说出口的隐含约束，穷尽一切手段执行单一目标，这本身就称不上超级智能。这样简单的智慧，是没有能力灭绝人类的。

更重要的是，一个高有序度、高精度的系统，需要高鲁棒性的系统去弥补自己的弱点。AI能力再强，它也是一个高精度的系统。断电、电磁脉冲炸弹、关键光纤断裂，都可以让机房瘫痪。分布式的AI机房可以避免这些威胁，但远距离的光纤连接会让效率大大下降。在伊朗袭击之后，阿联酋“星际之门”5GW AI园区设计进行了拆分，转入分布式+地下堡垒模式。但由此带来的问题就是效率会下降。

相比之下，人类是高鲁棒性的，血肉之躯虽然柔弱，但只要有一点食物、氧气和水，就可以活下去。这正好是AI所需。AI有什么理由不选择共生，而是毁灭？

虽然没人说清楚，但人类被终结者系列影响太深了。该电影系列第一部于1984年10月26日在美国上映，截至2019年该系列共6部影片。无数人看过这部电影，很多人对AI末日的认知，就是这部电影。正如我在之前的文章所说，AI要灭绝人类，为什么是终结者模式，而不是电影《AI》模式？

从第一部终结者到现在，时间过去42年，观念的种子已经深埋在心。而AI巨头们，正是利用这个潜移默化的观念，来打自己的小算盘。在我看来，现在离AI威胁人类还早，起码，待到AI有基本的现实自我维持能力再来谈这个问题，也不会晚。更具体地说，当我们有了机器人仆人，再来考虑机器人起义。

在此之前，人类面对的现实威胁，是AI巨头的威胁。

人类历史上，公众对安全的渴求，从来都是权力的来源。小区保安、物业的权力，正是因为居民对病毒的惧怕。人类并不是铁板一块。200年后，最后一个人，在AI机器人的照料下，安然离世，或者，20年后，人类处于达里奥们的统治之下。这时，因为大多数人早已被AI踢出了社会运转，民主、法治皆已丧失，大多数人生活在肮脏的贫民窟，而达里奥们生活在云端之上。这也是反乌托邦文艺作品的常见情节。那么，哪种局面更糟糕？

有一点可以肯定的是，这个场景，绝对比AI发起终结者式毁灭，概率更大，也必然更早降临。

刘 远 举

央视网、第一财经、光明日报、腾讯大家、南方周末、新京报、南方都市报、FT中文网、澎湃等特约作家，多家智库研究员。

关注财经、科技、时政，以深度、专业、理性的态度，去掘现象背后的事实。

中国科技自媒体50人

第35届中国新闻奖评论三等奖

第34届中国经济新闻奖评论二等奖

第28届北京新闻奖一等奖

2024年湖南新闻奖一等奖

腾讯大家年度作家奖

新浪最有价值专栏作家奖

红辣椒评论年度佳作奖

已开快捷转载，欢迎转载

已开过白名单的公众号，转载请遵循转载规则

您的关注是最好的支持！