美国有线电视新闻网(CNN)9月18日爆出一则猛料,把五角大楼推上了风口浪尖。
今年春天,美伊战争打得正酣。一份在美军内部传阅的情报报告,突然拉响了最高警报。报告声称,一艘在中东海域航行的中国船只,正在向伊朗运输核武器计划的关键零部件。
美军立刻进入了战备状态。全副武装的特战队员准备强行登船,战斗机已经升空待命。行动方案摆在桌面上,就等一声令下。
就在动手前的最后一刻,一名官员多问了一句“这情报哪来的”。调查结果让所有人后背发凉:这份看似专业的情报报告,竟然是一名分析员用AI聊天机器人“写”出来的。AI在分析船只舱单时产生了“幻觉”,把普通货物错判成了核武零件。这名分析员没有核实,直接用AI把错误结论整理成了标准格式的情报报告,发给了整个美军系统。
一份彻头彻尾的假情报,差点把两个核大国拖进直接冲突。
![]()
这个剧本,中国人看着太眼熟了。
1993年7月,美国同样信誓旦旦,同样拿着“确凿情报”,在印度洋公海上强行拦截了中国货轮“银河号”。他们指控船上载有制造化学武器的原料,派军舰和飞机跟踪骚扰了整整33天。最后三方联合检查了全部628个集装箱,什么违禁品都没找到。时任外交部国际司副司长沙祖康,后来在接受央视采访时,17次用了同一个词来形容那段经历——“窝囊”。
三十年过去了。美国人换了一茬又一茬,情报工具从人工分析升级到了AI,可那个“先开枪、后找证据”的毛病,一点没改。
更讽刺的是,美国防部长赫格塞思今年1月刚发布了《人工智能加速战略》,要求把AI嵌入情报分析和目标选择的全流程。五角大楼5月还跟SpaceX、OpenAI、谷歌等七家AI公司签了协议,要把美军打造成“人工智能主导”的作战力量。
![]()
结果AI刚上岗,就差点把美军带沟里去。
问题不在于AI会犯错。ChatGPT把历史人物张冠李戴,顶多算个笑话。可当AI的“幻觉”被塞进情报报告的模板,盖上“机密”的戳,发到作战指挥系统里,它就从技术故障变成了战争风险。有熟悉美军AI系统的前高级官员对CNN说得一针见血:这些所谓的内部工具,“大部分只是商业产品的复制品,涂了口红而已”。
AI把开源情报和机密信号情报搅在一起“乱炖”,得出了一个荒谬的结论。分析员没有交叉验证,直接采用了。报告传阅出去,军方高层看了,信了,开始制定作战计划。整个链条上,没有一个人停下来问:这个结论是怎么来的,证据链完整吗,有没有其他解释。
这条链条上缺失的,不只是技术审核,更是情报分析最基本的职业底线。美军情报界有一整套核实信源的标准流程,可在这份AI报告面前,全被跳过了。年轻分析员对AI工具“不加鉴别地信任”,当AI给出的结论符合他们的预期时,就懒得再去核实。
![]()
最危险的组合,从来不是AI本身,是AI的“幻觉”加上人的“惰性”。
更让人后背发凉的是,这次拦截行动如果真的执行了,后果不堪设想。武装美军强行登上中国商船,这比1993年“银河号”事件严重得多。当年只是跟踪骚扰和登船检查,现在如果全副武装的特战队员冲上中国船只,中国海军不可能坐视不管。两个核大国在海上擦枪走火,后果谁能承担?
一名知情人士的原话是,这份报告“完全错误”,却“差点引发一场战争”。
这次美军自己踩了刹车,靠的不是制度,是运气。
CNN的报道披露,美军用于情报分析的AI工具来源五花八门,有的来自商业公司,有的来自政府自建,不同部门用的系统不一样,安全标准和验证机制也没有统一。民主党参议员已经致信政府监察机构,要求彻查这件事。
可查完了呢。赫格塞思的“AI优先”战略还在推,五角大楼跟硅谷的合同还在签,AI在目标锁定和情报分析中的应用只会越来越多。只要那套“先出结论、再找证据”的惯性还在,下一次AI再犯同样的错误,刹车还踩得住吗。
从“洗衣粉”到AI报告,美国人换了一茬又一茬工具,可情报失误的底层逻辑从来没变过。三十年前沙祖康说“窝囊”,三十年后美国用一场差点引爆的冲突,证明那份窝囊远没有到头。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.