上海
据环球网9月19日援引美媒报道，今年春天，美国和以色列联合打击伊朗期间，美军险些根据一份错误情报，拦截并登船检查一艘航经中东的中国船只。
一名美军分析员使用人工智能（AI）工具分析船只货运信息，AI错误认定这艘船上运载核武器相关零部件。
美军随即制定拦截计划，军用飞机已升空。直至行动前夕，美方官员复核报告，才发现AI误判了船上货物。
知情人士称，这份“完全错误”的报告差点引发战争。
险情如何发生
事件源头是一份涉及中国船只货物清单的情报，相关信息来自美国太平洋特种作战司令部。
一名美军分析员把有关货物清单的情报交给AI分析，试图判断船上装了什么。
AI将公开信息与美国政府通过电子侦察获得的机密信息拼在一起，错误认定船上载有与核武器相关的零部件。
分析员没有识别出错误，随后再次使用AI，把结论整理成美军内部使用的情报报告，并在军方系统内分发。
AI先作出误判，再协助写报告，错误由此披上“正式情报”的外衣。
多名知情人士称，美军看到报告后立即准备拦截中国船只。据称，美军行动人员已准备登船，军用飞机已经升空。直到行动即将实施，美方才发现AI误判货物，并叫停行动。
美媒没有查明涉事AI的名称、船只身份和真实货物。
一名美国前高官称，美军和情报人员使用的一些内部AI工具，很可能只是商业产品的改装版。
美国太平洋特种作战司令部及五角大楼均未回应置评请求。
为何迟迟未被发现
一份由AI参与生成的错误情报，为何直到行动前夕才被发现？观察人士认为，问题至少出在三个环节。
第一，分析员过度相信AI，没有及时识别错误。
第二，AI既参与分析信息，又协助撰写报告，且由同一名分析员操作。
看似经过两道程序，实际上没有增加独立信源。错误一旦被写进格式正规的军情报告，就更容易被当成已核实的事实。
第三，美军缺少统一的AI核验标准。
多名知情官员称，美军和情报部门各自使用不同的AI工具，遵循的命令和安全标准也不同，目前没有统一规则来核验不同工具生成的信息。
一些资深情报官员还担心，AI正在给分析员带来更快生成和发布情报的压力，从而增加出错的可能。年轻分析员通常更熟悉这些工具，也更容易不加质疑地接受AI给出的答案。
带来怎样的警示
今年1月，美国防长赫格塞思推出“AI加速战略”，要求减少官僚障碍，加快AI在军队中的应用。
五角大楼希望用AI分析海量情报、选择打击目标、调动军事资产，同时处理预算、后勤和供应链等工作。
美方给出的理由是，AI能加快战场决策，美国不能在未来军事竞争中落后。
但这起事件恰恰暴露出速度带来的风险：AI加快的不只是正确判断，也可能是错误判断。它越快得出结论、生成报告并推动行动，留给人工核查的时间就越少。
美军此前强调，使用军事AI必须保留人的控制。但这次事件中，每一步都有人参与，错误还是迟迟未被发现。
这说明，“人在其中”不等于风险得到控制。如果人只是相信、包装和执行AI的答案，人工环节反而会放大错误。
更值得警惕的是，一份未被发现的AI误判，已从情报分析环节进入军事行动准备阶段。如何阻止错误信息直接进入军事决策和行动链，正成为比减少AI出错更紧迫的问题。
就在事件曝光前，9月9日，美国布鲁金斯学会网站刊文称，参加中美人工智能与国家安全对话的专家建议，为军事AI划出红线，并设立处理中美AI事故的军事热线，防止误判升级。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
