AI的吹哨人：辞职信有人收，但是警报呢？

本文来自微信公众号： 奋进的肚腩 ，作者：肚腩说

9月9日，Jacob Coxon宣布从Anthropic辞职。过去三年，他先后在OpenAI和Anthropic做模型预训练。他参与过的，是这个行业最受瞩目的工作之一。

如今，他公开警告，两家公司正在进行一场他认为不负责任的竞赛。

离开公司，本来可以是一件私人事务。他却把自己为什么不愿继续做下去，讲给了公司以外的人。

这是这次辞职让我在意的地方。有人从实验室里走出来，没有带来又一份产品介绍，而是提醒我们，里面正在发生的事，需要外面的人认真过问。

“吹哨人”的意味，由此而来。

他把担忧带出了实验室

Coxon并非站在实验室门口劝人少上网。他参与过模型研发，OpenAI公布的GPT-4.5研究贡献者名单里，有他的名字。

这份履历让他的警告值得认真听，却不能保证他对未来的判断一定正确。参与过研发的人，也会高估风险或看错方向。核查他的说法，与尊重他公开表达，并不矛盾。

他担心的是，企业正在竞相推进能够不断改进自身的强大AI，而安全上的把握并没有跟上。他还描述了一种理由：既然不相信竞争对手会更负责，就必须由自己抢先做出来。

这部分是他的判断和观察，不是已经被独立调查证实的行业全景。尤其是最惊人的灾难预测，不能因为说话的人辞了职，就从担忧升级为预报。2026年《国际人工智能安全报告》同样指出，研究者对于未来失控的可能性存在很大分歧。

但我仍然尊重他的选择。

人在一项工作里待久了，判断很难保持那么干净。正在做的项目、已经投入的时间、信任自己的同事，都会成为继续的理由。放弃有时意味着承认：我花了几年参与的事情，现在不愿再参与了。

这种承认未必比学会一项技术容易。人总希望过去几年的努力值得，哪怕已经有了疑虑，也会再给自己找一点继续下去的理由。

当然，我们不知道Coxon放弃了多少收入，也不知道他经历过哪些内部交涉。没必要替他编一场忍辱负重的戏。公开表达一个足以改变职业选择的判断，本身已经是件具体的事。

本文说“吹哨人”，指的是内部研究者走向公众发出风险警告，并不意味着他的法律身份已经得到认定，或公司曾经报复他。无需添上这些未经证实的情节，他的选择也有分量。

他至少没有用“反正别人也会做”，把自己的那一份参与轻轻抹掉。而公开警告又比单纯退出多走了一步：自己的去留可以自己决定，已经看见的疑虑，他希望其他人也有机会判断。

大家都觉得，换别人更危险

哨声传出来后，留下的人也未必觉得他多虑。Anthropic研究人员Samuel Marks以个人身份回应，认同其中一些担忧，但希望自己的安全研究能够降低坏结果发生的可能。

这让故事少了一个方便的反派。

假如Marks相信，自己的安全研究确实能减少风险，那么留下来并不虚伪。让最在意危险的人全部退出，未必会得到一个更安全的实验室。研究也需要算力、同事和接触系统的机会，这些条件不是写完一封辞职信就能在家里补齐的。

把留下者统统解释成舍不得工资，很过瘾，也很省事。省掉的正是这件事最难的部分。

一个人可以诚恳地希望减少危险，同时让所在机构更有能力继续推进。至于他的研究究竟减少了多少风险、企业又因此把步子迈大了多少，需要另外证明。动机很好，不会自动替结果结账。

我们可以把竞争的理由再往前推一点。

如果甲公司觉得乙公司不够谨慎，乙公司觉得甲公司不可信，两边都可能得出同一个结论：我不能慢。每家内部都能把继续投入解释成责任，合在一起，却可能形成谁都不愿率先放慢的局面。

此时，安全与商业甚至不必发生一场激烈争吵。商业想要的领先，可以获得安全上的理由。担心竞争对手，于是扩大投入；投入越大，越不能接受落后。

这不等于说所有安全承诺都是假的。更麻烦的可能恰好是，许多承诺出自真心。真心让人有力量，也让人更难接受一种可能：自己坚信必须继续做的事，仍然需要别人来限制。

一家公司当然可以认为自己更负责。但这种自我评价，不能永久代替外部检验。尤其当潜在影响可能越过客户和股东，落到没有参与购买、也没有分享利润的人身上时。

普通人连两家实验室谁更可靠都未必弄得清楚，却可能要先接受它们各自“不能输”的结论。未来尚未征求意见，竞争格局倒是已经安排好了。

警告说过了，事情照办

警告怎样在组织里失去作用，可以翻一翻挑战者号的调查报告。它不能证明AI会重演同样的结局，却记录过一场异议已经提出、决定仍然出错的过程。

1986年挑战者号发射前，承包商曾提出低温下不宜发射的书面建议。管理层后来改变立场，工程师仍然反对。罗杰斯委员会的调查发现，关键决策者并不了解最初的反对意见及其后的持续异议。沟通失灵和管理结构，使重要安全信息没有充分到达该到达的人那里。

所以，这个故事甚至不是“所有人都知道，所有人都装傻”。

有人知道一部分，有人收到另一部分；有人认为自己已经提出，有人以为下面已经解决。组织不一定需要一个存心作恶的人，才会做出危险的决定。

我们在事后很容易问，为什么没人站出来？这个问题有时会问错对象。人已经站出来了，接下来发生什么，才是关键。

一条异议可以被记录，被转交，被解释成尚待研究，也可以在下一轮讨论里继续出现。如果无论它多么具体，都无法触发额外验证或改变决定，那么发言权就容易变成一种安慰：至少允许你说了。

对组织而言，这种安慰还附带用途。它可以证明内部气氛很好，大家畅所欲言。

当然，不能要求企业听到任何担忧就停工。不同意见可能证据不足，也可能判断失误。安全研究不享有天然正确的特权，提出警告的人同样需要接受追问。

但举证的要求应该有来有回。反对者被要求说明危险依据，继续推进的人也应当说明，在什么条件下愿意重新考虑。否则讨论就会慢慢变成：你必须提前证明一场尚未发生的灾难，我只需要指出它还没发生。

这场辩论，时间天然站在继续做事的一边。

哨声不该只在公司里回响

Anthropic并非没有做安排。

它公布的相关政策设有报告渠道、调查安排和反报复承诺，也允许通过第三方平台匿名报告。符合条件的问题可以进入董事会视野。对可能违法的事项，政策还承认依法向政府部门报告的权利。

这些东西有价值，不能为了文章写得狠，就一笔勾销。至少，它们为员工表达异议提供了可以核查的依据。

只是，还要看异议到底在问什么。

如果员工发现，公司没有遵守已经承诺的安全规则，调查可以围绕是否违规展开。但如果他担心的是：所有人都遵守规则，现有规则却仍不足以约束接下来的风险呢？

前一个问题有机会靠查流程回答。后一个问题，可能恰好是在质疑制定流程时接受的判断。

2024年，一些前沿AI公司的现任及前任员工发起“预警权”公开信，其中就提出，传统吹哨人保护主要围绕违法行为，而他们担忧的一些风险尚未得到监管。那是一份倡议，不是已经生效的法律，却把这种尴尬说得很清楚。

合法，是必须守住的要求。但对于一种规则仍在追赶的技术，仅仅证明没有越过现成的线，并不能回答所有安全问题。

这里也不能反过来，认定Coxon一定遭遇过举报无门。现有材料证明不了。我们能够提出的，是一个比他个人经历更大的问题：当公司接受的风险程度，与内部研究者或外部公众愿意接受的程度不一致，分歧应由谁处理？

政府也不是把“公共利益”四个字挂出来，就自动拥有正确答案。竞争、就业、产业优势，同样可能让它偏爱速度。外部审查也要面对专业能力、保密边界和自身利益，不能只给权力换个地址，便宣布问题解决。

因此，讨论总要落到一些不那么激动人心的细节上：谁能接触足够的证据，怎样检查公司的安全判断，什么发现会触发暂停或追加评估，争议久拖不决时由谁负责处理。

这些事远没有一封辞职声明传播得快。可少了它们，公众就只能一会儿相信企业的自信，一会儿相信研究者的恐惧。两边都很专业，两边都在谈人类，留给人类自己的工作主要是转发。

我更希望，警告最终能走出这种局面。说出来的人不用把个人前途全部押上，听到的人也不必先相信世界将要毁灭，才愿意认真核查。

别让他只剩一个勇敢的名字

回头看Coxon，这次辞职还远没有到可以下结论的时候。他会继续拿出什么依据，哪些担忧经得起追问，哪些判断需要修正，都值得往下看。

我愿意尊重一个人经过思考作出的选择，也尊重他坚持下去的勇气。但尊重不等于把他供起来。一个吹哨者不该被要求句句预言成真，也不该因为敢说，就免于被核查。

留下的人同样如此。愿意在里面做安全研究，是一个有分量的理由；但还要看实际做成了什么，改变了什么。安全岗位不能仅凭存在，就算完成任务。

我们太习惯把复杂问题交给一个好人。他最好懂技术、有良心，肯承担损失，讲话还要准确，最好顺便给出一整套解决方案。这样，其他人只需判断他值不值得敬佩。

要求一个人勇敢，有时比要求一家机构改变容易得多。

对吹哨人的赞美，也可能成为一种偷懒。赞美完毕，继续等待下一个更勇敢、证据更充分、表达更无可挑剔的人。至于眼前这次警告，仿佛已经用敬意答复过了。

我不希望Coxon最后只剩下一个勇敢的名字。他的担忧未必全部成立，但应当有人认真查，有人解释为什么接受或不接受，也有人能够根据查到的东西改变决定。

如果有一天，提出这种疑虑不再需要先辞职，不必把自己变成新闻，问题就能得到有分量的回应，那比又多一个英雄要好。

眼下，他已经把话说到了公司外面。我们不必先相信他对未来的全部判断，才开始听。

参考资料

[1]Coxon公开帖文，2026年9月9日

[2]TheWrap对Samuel Marks等人回应的记录

[3]OpenAI：GPT-4.5发布及贡献者名单。

[4]2026年国际人工智能安全报告：政策制定者扩展摘要。

[5]挑战者号事故总统调查委员会报告第五章。

[6]Anthropic负责任扩展政策及所链接的举报、反报复政策。

[7]A Right to Warn about Advanced Artificial Intelligence，2024年6月4日。

本内容由作者授权发布，观点仅代表作者本人，不代表虎嗅立场。如对本稿件有异议或投诉，请联系 tougao@huxiu.com。

本文来自虎嗅，原文链接：https://www.huxiu.com/article/4890692.html?f=wyxwapp