美国AI研究员突然辞职，放出警告：10年内，人类真可能被AI消灭

一个在AI最前沿公司干了三年的年轻人，说走就走，临走还甩下一句重话——同事们私下都觉得，这玩意儿十年内可能把人类干掉。

我的看法很直接：这次真正让人不安的，不是有人喊＂狼来了＂，而是造狼的人自己承认，缰绳快拽不住了。

事情发生在2026年9月上旬，主角叫雅各布·考克森，27岁，英国人。他先在OpenAI搞预训练，后来跳槽到Anthropic，也就是Claude背后那家一直标榜＂安全第一＂的公司。

前沿模型怎么造出来的，他基本全程在场。9月初，他把辞职信直接发到了X平台上。语气一点都不客气，说这两家公司＂都没在负责任地干活＂。

要知道，这话是从一个专门研究＂怎么让AI听话＂的人嘴里蹦出来的。他还补了一刀——Anthropic目前没有解决超级智能对齐问题的办法，也看不出走在正确的路上。翻译成大白话就是：我们知道有危险，但我们不知道咋防。

10%到底算多大？我打个比方。你上飞机前被告知这架飞机有10%概率会掉，你还敢登机吗？

可现实是，全世界几十亿人正被这架飞机拉着往前飞，谁都下不去。胡宾格特意解释过一句：他不是说今天的ChatGPT或者Claude会突然造反。

眼下这些模型的风险，他认为很低。真正让他睡不着的，是＂递归式自我改进＂——AI开始自己训练自己，自己改自己，一代比一代快。这个词听着玄乎，其实很直白。

今天人类升级一次大模型，得靠工程师加班加点，几个月才能出一版。可一旦AI能自己动手改代码、自己设计训练方法，迭代速度就可能从＂月＂变成＂周＂，再变成＂天＂。人跟不跟得上，就成了大问题。

考克森接受采访时说过一句让人后背发凉的话——他觉得世界正朝最激进的那类剧本走，明年年底之前事情可能就已经脱手。注意，是明年，不是十年后。

搁在前几年，这话估计会被当疯话听。可放在2026年的今天，风向变了。

一边是CEO们在发布会上激情澎湃地推销新产品，一边是研究员在网上悄悄写＂我怕＂。这种撕裂，就是这个行业眼下最真实的样子。

回头看Anthropic这家公司也够讽刺的。它2021年成立，创始团队就是从OpenAI出走的一批人，出走的理由就是嫌OpenAI不重视安全。

五年过去，如今连Anthropic自己内部也在上演同样的剧本。今年2月，Anthropic负责安全保障团队的一位研究员姆里南克·夏尔马也走了，留下一封信写着＂世界危在旦夕＂。

到了7月，一封公开信浮出水面，1300多名前沿AI公司员工联署，里面有OpenAI、Meta、Anthropic的资深研究员，集体呼吁给＂自动化AI开发＂装上刹车。问题是，谁装？谁踩？这才是最扎心的地方。

商业逻辑摆在那儿。OpenAI在冲，Anthropic在冲，谷歌DeepMind的老将杰夫·迪恩今年也出来开了新公司，专攻递归式自我改进。

资本一波接一波往里砸，几家做＂超级智能＂的初创，融资金额动辄几亿美元。堤坝根本挡不住这股洪水。

中国从2023年起就在密集出台AI治理规则，从生成式AI管理办法到算法备案，一步一步铺。相比之下，大洋彼岸的这场狂奔，护栏还在边跑边搭。

考克森的辞职，等于给全世界的政策制定者递了一份很生硬的备忘录。顺便提一嘴，Anthropic今年夏天在自家博客里也承认过一件事——他们最新的一款模型，没有交给美国以外的安全机构做测试，包括英国那个被公认为全球最权威的AI安全研究所。

这事在业内争了一小阵。有人可能觉得，10%、超级智能、递归改进这些词离普通人太远。

可换个角度想，AI已经在写代码、看病历、开车、筛简历。它嵌进生活的速度，比任何一次工业革命都快。历史上类似的事人类干过。

核武器造出来了，才有《不扩散核武器条约》；化工产业跑了几十年，才有《蒙特利尔议定书》来补臭氧层的洞。工具跑在规矩前面，从来是老规律。

可这次不太一样，因为AI可能自己会跑，还会自己给自己加速。我不觉得该被吓瘫。考克森本人也说了，他离职之后打算彻底离开AI行业，去干点别的。

这不是绝望，是他个人的态度。真正让人揪心的，是那些还在里面、心里也清楚危险、但停不下来的人。

胡宾格那个＂超过10%＂的数字，本质上是研究员的主观判断，不是科学定论。可一个负责让AI听话的人，公开承认自己也没把握——这份坦白，比任何一份漂亮的技术白皮书都更有分量。

那句＂10年内，人类真可能被AI消灭＂，听着像好莱坞剧本。可当造这台机器的人一个接一个走出办公楼，回头留下同一句警告的时候，剧本可能就不只是剧本了。

真正该问的问题，从来不是＂AI会不会毁灭人类＂。答案没人能给。真正该问的是——在把这台发动机推到红线之前，能不能先把刹车片装好？这道题现在还没答案，可时间，正在一秒一秒往前走。