甘肃
9 月 9 日，一位 27 岁的英国研究员在 X 上发了一条简短的告别："我今天从 Anthropic 辞职了。“署名是 Jacob Coxon。他不是普通员工——过去三年，他先后在 OpenAI 和 Anthropic 从事大模型预训练研究，说白了，就是亲手参与制造那些最先进模型的人。这样的人离开，通常不是为了跳槽涨薪，而是因为"不想再继续了”。
Coxon 说，他辞职是因为"两家公司都没有负起责任，它们正径直冲向能自我改进的超级智能，拿我们的命在赌博"。这句话里有几个词值得停下来：自我改进、赌博、我们的命。把一家估值可能冲到两万亿美元的公司的核心研发，形容为一场关乎全人类生存的赌局，分量不轻。
更让人不安的，是来自内部的回声。Anthropic 的对齐研究负责人 Evan Hubinger 公开回应：“Jacob 说得对，我们真心相信 AI 可能毁灭全人类。“他甚至给出了个人概率：未来十年内，这种极端灾难发生的可能性"超过百分之十”，而公司"目前还没有应对方案”。请注意，这不是营销话术，也不是反科技人士的恐吓——这是站在安全团队最前线的研究者，亲口说出的职业判断。
这就构成了整件事最刺骨的矛盾：最懂这项技术的人，一边说它危险到可能毁掉我们，一边仍在把它推向更危险的地方。Coxon 自己点破了原因。在 OpenAI，很多人还没真正把"文明级风险"放进心里；而在以安全著称的 Anthropic，大家其实都懂，却"被困在一场必须抢先到达的竞赛里"——因为他们相信，既然别人不会负责任地开发，那就只能自己先上，至少比让对手先掌握更安全。换句话说，每一家都觉得"我不能先慢下来"，于是所有人被竞争推着往前冲。这是教科书式的囚徒困境，只不过赌注不是利润，是整个人类的控制权。
Coxon 最尖锐的一句话，是说这些关乎人类命运的讨论，“居然只发生在旧金山几个工程师的 Slack 里”。他举了个例子：Anthropic 内部有专门的频道，用来交流模型展现出的惊人能力。当一家私营公司一边筹备史上最大规模的 IPO、一边掌握着可能影响文明走向的技术路线，而它的安全刹车却仍停留在"我们还在研究方案"的阶段，这本身就值得警惕。决定我们能不能踩住刹车的人，恰恰也是踩油门的人。
当然，也有必要把调门校准一下。Coxon 和 Hubinger 的判断，是个体的、主观的风险评估，不是科学界的统一结论；“百分之十灭绝概率"是私人估计，不是已证实的事实。目前我们用的聊天机器人，和假设中那个能自我迭代、拒绝对话、获取现实资源的"超级智能”，还不在同一个能力层级。把风险当炒作固然危险，把最坏剧本直接当成必然结局，同样会制造无意义的恐慌。真正该做的，是推进可验证的安全评测、权限隔离、人工审批、事故披露，以及最重要的——跨企业的协调刹车机制。事实上，Coxon、Pachocki 与 Amodei 已经和一千多名研究者联名，要求各国政府建立"紧急刹车"协调机制。
所以 Coxon 的离场，意义不在于某个末日概率准不准，而在于它把一个问题赤裸裸地摆到台面上：当 AI 能力以肉眼可见的速度攀升，谁有权决定它跑多快？大厂的安全承诺，又由谁来检验？一个亲手训练过这些模型的年轻人选择退出，与其说是预言灾难，不如说是一声信号弹——提醒我们，真正需要担心的，也许不是 AI 某天突然失控，而是我们在它失控之前，一直没人真正准备好按下那个刹车。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
