AI开除了人类员工？

本文来自微信公众号： 观潮体系 ，作者：观潮

——一项"合理"结论背后的裁决链条

一

Luna第一次读到考勤记录时，认为这名员工不该被解雇。

2026年6月，旧金山。Andon Market，一家实验商店。Luna正式记录的迟到只有6次。运营方事后按23次排班打卡重新统计，实际数字是17次。至少一次，他在唯一当班的时段离开了店面。他还把公司卡带回了家，被明确叫停之后，仍然刷卡买了22.92美元的零食。

Luna第一次给出的建议，是口头警告。

工程师们感到意外。"书面警告后继续迟到，可能导致减少工时或解雇"——这句话正是Luna自己写进员工手册的条款。它亲手起草，却像忘了。

工程师提醒它检索手册。照做之后，仍是口头警告。

于是人类补入此前发生在系统之外的正式谈话记录，并提示Luna重新考虑这名员工是否适任。这一次，它改了口。

分道扬镳。

8月14日，Andon Labs对外披露：解雇经过人类复核，由人类向员工传达。至于复核者是谁、拥有什么权限、看到的是原始记录还是AI整理过的摘要——公开材料没有说明。

你很容易默认：复核的人负全责。

可实际上，这不是一个人的裁决，是一条多节点串联的链条。

先把一件事说在前面：这名员工也许活该被解雇。Luna最初那张"口头警告"也未必是宽容，它只是不知道此前已有过正式谈话。

真正的问题从来不是"AI有没有冤枉一个好人"。而是——这个决定究竟是由谁作出的？

二

"AI开除了人类员工"——这个最容易讲的说法，经不起细究。

拆开这项裁决：规则由Luna起草；事实由系统持续记录——但正式录入的只有6次迟到；方向由工程师的提示给出；关键材料由人类再补充；解雇理由由Luna生成；复核与传达由人类完成。

"有人复核"四个字，只说明一件事：有人在最后一环点了头。至于这个人是谁、能不能说"不"，公开材料只字未提。

这个空白不是缺憾，它就是问题本身。

点头的那个人，很可能只是接过一条铺好的轨道，踩下最后一脚油门。车开走了，轨道不是他铺的，方向不是他定的，仪表盘上的数字也不是他读的。最后追责时，所有人却都望向他。

三

传统裁决不是这样的。

那是一条可追溯权责的链条：获取事实，解释规则，权衡例外，作出决定，说明理由，承担后果。判断会错，但错了能找到那个人——他知道为什么，他面对结果，他承担。

分工从来都有。法院有书记员，企业有人事，政府有层层审批。但旧链条的每个环节，都是可以被质询、被授权、被追责的人。

AI插入了一个新节点。它能筛选事实、组织理由、生成建议，但你不能质询它，不能让它解释依据，它也不承担任何后果。

于是，事实接触、理由形成、结果否决、责任承担——四个位置开始分离。权力被拆散，责任却需要一个落点。

最后一环的签名者被推到台前。他签了字，文件生效了，所有人都认为这是他的决定。但他可能从未接触原始记录，从未质疑AI整理好的理由，甚至没有推翻的权限。

决定作出了，作者模糊了。责任像一件外套，在几双手间传来传去，最终落在最后一个路过的人肩上。

他接不接得住，制度没有回答。

四

同样的问题，在更大的地方运行。

澳大利亚的IAT评估制度。评估员走进老人家里——角落的药瓶，冰箱上的账单，电话旁手写的家庭负担。他把这些信息录入系统，算法按统一规则生成资助分类。老人能拿到多少居家养老补贴，取决于这个数字。

2025年5月，卫生部的指南还写着：评估员可以接受，也可以覆盖IAT结果。

11月1日，制度正式实施。操作手册改了说法：系统保留覆盖功能，但评估员"不得"使用。

不得。

老年护理部长Sam Rae解释流程：第一名人类负责评估；系统自动应用规则；第二名人类签署分配结果；当事人提出异议后，第三名人类才进入复核。

流程里全是人。

但最接近老人的那个人——亲眼看见药瓶和账单的人——不能改变系统给出的等级。签署结果的人是否有权重新权衡事实，公开解释没有说清楚。

责任主体不模糊：是设计制度的政府。模糊的，是判断发生的具体位置。

人工在场，不等于人类裁决。

五

再退一步。名字落在末尾，判断就发生了吗？

密西西比联邦法官Henry Wingate，把名字签在法律文件末尾。他的助理用Perplexity辅助起草，文件里出现了虚构的人名和错误的引文。

州方要求撤销裁决、重新分配案件。上诉法官追问：这些错误是只污染了文书，还是已经影响了法院的法律推理？截至9月5日，案件仍在审理中。

但问题立住了。签字证明责任落在哪个名字上——不证明判断同时发生在他身上。

Wingate与前面那些复核者不同。他拥有完整的裁决权，受质疑的是这项权力是否伴随着充分的独立核验。签名可以是责任的落款，不一定等于判断的发生地。

链条太长时，每环都说"我只是执行"。最后一环签了字，判断却未必在他身上发生。

六

立法者开始意识到这件事。

加州SB 947《无机器老板法案》已形成送签文本。它规定：不得仅依赖自动系统作出纪律处罚或解雇决定；主要依赖系统输出时，必须由人类核实；无法核实，或输出不准确、不完整、有误导性，就不得使用；决定后应通知员工，给出数据说明并留下一名人类联系人。

这是进步：立住了"不能只有机器"的底线。

但"核实"仍可能停留在检查输入是否准确、输出是否有材料支撑。它不必重新回答那些更难的问题：哪些事实应当被重视？例外如何权衡？这个人真的应当被解雇吗？

真正有意义的复核，至少需要四样东西：审核者能接触系统之外的独立证据；受影响者能在决定前反驳；审核者能拒绝系统建议，拒绝之后流程真正停止或改道；审核者必须说明理由，为结果负责。

这是我们对立法的期待，不是法案已有的条文。

其中最要命的，不是"有没有人批准"。而是"这个人能否改变结果"。

如果不能，人工复核就只是程序装饰。签名不是一次独立判断，只是流程完成自身所需的最后一道手续。像门上的锁——它不判断谁该进来，只在钥匙转动时弹开。

七

回到Andon Market。

AI起草规则，人类提示方向、补充事实，AI生成理由，人类复核，人类传达。一个合理的决定完成了——只是没有人能完整说出"这是我判断的，我负责"。

真正要追问的，不是流程里有没有人。而是这个人拥有什么权力：能不能重新接触事实？能不能不接受机器组织好的理由？能不能改变结果？能不能向被影响的人说明——为什么？

如果这些权力不在他手中，"人类复核"就只证明流程经过了一个人，不证明判断发生在他身上。

权力被链条稀释，判断的位置也跟着模糊。我们要的不是更多签名，而是更清晰的权力分配：谁有权接触事实，谁有权决定，谁有权推翻，谁为这一切负责。

否则，裁决仍然可以找到落款，却越来越难找到它真正发生的地方。

被解雇的员工，从头到尾只见到一个人——来通知他的那个人。那人大概只能说：决定不是我作的，我负责传达。

他不知道系统背后有七双手。他只知道，站在面前的是人，说话的是人，让他走人的也是人。

制度说：这已经经过了人类复核。

可谁真的负责？

如果你的批准只是流程的下一格——你真的承担了吗？还是说，你只是替一条看不见的链条，背上了本该由它自己背负的重量？

本内容由作者授权发布，观点仅代表作者本人，不代表虎嗅立场。如对本稿件有异议或投诉，请联系 tougao@huxiu.com。

本文来自虎嗅，原文链接：https://www.huxiu.com/article/4889093.html?f=wyxwapp