AI让军队效率暴增，却没人能审判算法错误：AI险些让美军对中国船只发动军事行动

作者简介：中东问题学者，常驻以色列与阿联酋的一线观察者。

美国海军登临检查小组在亚丁湾检查一艘无国籍船只。图片可以说明海上拦截、武装登船、搜查和扣押等行动程序，但并非此次中国船只事件的现场照片。救援人员在伊朗明纳卜沙贾雷·塔耶贝小学遇袭现场清理废墟。相关调查指向过时目标情报与核验失效，显示在算法化打击链中，一次数据错误就可能造成无法挽回的平民伤亡。

作者简介：中东问题学者，常驻以色列与阿联酋的一线观察者。

美国军方近日被曝险些依据一份AI辅助生成的错误情报，对一艘位于中东的中国船只采取行动。该报告声称，船上运载与核武器计划有关的部件。消息传开后，美军迅速筹划拦截，武装人员已准备登船，相关军机也已升空。直到行动前夕，官员重新核查原始材料，才发现关键判断来自聊天机器人，所谓敏感货物实际上被错误识别。

美国海军登临检查小组在亚丁湾检查一艘无国籍船只

这起事件的危险之处，不在于AI是否亲自“按下按钮”，而在于它已进入从情报搜集、数据融合、报告撰写到作战准备的整条决策链。AI给出结论，人类分析员将其整理成制式情报，指挥机关再按照熟悉的文件格式调动力量。表面上每一环都有人员参与，实际上所有人可能都在重复相信同一个未经验证的机器判断。

AI越来越多地用于战争，并非军方盲目追逐潮流。现代战场每天产生海量卫星图像、无人机视频、雷达信号、通信截获和开源信息，单靠人力已无法及时处理。AI能够在数秒内识别目标、追踪部队、规划航线、分配弹药并预测补给需求。积极采用AI的军队，确实可能拥有更短的决策周期、更高的打击效率和更低的人员成本。如果一方仍用数小时整理情报，而另一方几分钟内便完成“发现—判断—行动”，双方战斗力将迅速拉开差距。

问题在于，军事效率不能只看平均正确率。假设一套系统完成一万次任务，其中九千九百九十九次正确，技术人员或许会称其性能卓越；但剩下的一次如果击中学校、医院、友军阵地，甚至误判另一个核大国的船只，其政治与伦理后果可能超过此前全部战果。对企业软件而言，万分之一的错误可以通过升级修复；对战争而言，那一次错误对应的可能是数十条乃至上百条无法恢复的生命。

伊朗明纳卜一所小学遭袭，正说明“高效率打击”如何被陈旧数据反噬。公开调查指向过时目标情报和严重核验失效：有关地点曾与军事设施存在联系，但早已作为学校使用，现场也有多项可识别的民用特征，袭击最终造成包括约120名儿童在内的大量平民死亡。目前公开信息尚未锁定某一款AI模型直接选定该校，但在日益算法化的目标链中，旧数据库、自动关联和快速审批会相互放大，使一个早已失效的判断以“精确目标”的面貌重新出现。

救援人员在伊朗明纳卜沙贾雷·塔耶贝小学遇袭现场清理废墟

这也揭示了AI战争最棘手的责任问题。人类分析员失职，可以被停职；军官下达错误命令，可以接受调查甚至军事审判；政府也必须承担外交与法律责任。但AI没有道德意识，不会内疚，不能辞职，也无法服刑。它可以在报告中给出极其肯定的结论，却不会为结论导致的死亡承担任何代价。所谓“AI犯错”，最终不能成为无人负责的技术性解释。

更值得警惕的是，AI还可能稀释人的责任感。分析员认为系统已经比对了海量资料，指挥官相信分析员完成了审核，决策者则相信作战系统保留了“人在回路”。然而，如果人类没有时间查看原始证据、无法理解模型如何得出结论，或者只是习惯性批准机器建议，那么“人在回路”就只剩程序上的签字，不能构成真正的监督。

因此，问题不应被简化为“军队是否应该使用AI”。拒绝AI可能意味着在情报和作战速度上落后，完全依赖AI则可能把未经证实的推断快速转化为不可逆的暴力。真正需要建立的是高风险决策的硬性边界：AI生成内容必须清楚标识；每个关键判断必须能够追溯到原始证据；敏感目标须由不同人员、不同数据渠道独立复核；陈旧情报必须自动失效；任何涉及平民设施、友军或第三国目标的行动，都不能以AI输出作为唯一依据。

此外，责任不能随着技术外包而消失。部署部门、情报审核者、作战指挥官和系统供应商都应留下完整记录，说明使用了什么模型、什么版本、什么数据以及谁作出最终判断。AI可以辅助判断，却不能成为组织逃避责任的“黑箱替罪羊”。越是强调机器速度，越必须明确由谁承担暂停行动和推翻算法结论的权力。

未来最强的军队，未必是让AI最快完成杀伤链的军队，而可能是既能利用AI速度，又能在最后关头停下来核实事实的军队。此次中国船只事件最终被及时叫停，说明人工审查仍有价值；但它也证明，错误信息已经能够推动飞机升空和武装人员准备登船。AI让战争机器运转得更快，而当机器走错方向时，人类留给自己的纠错时间也会越来越少。