AI升级网攻，安全红线亟待建立

近年来，人工智能（AI）技术快速突破，正在深刻改变网络空间的安全态势。人工智能不仅能够辅助人类编写代码、分析漏洞，而且开始具备自主发现漏洞、规划攻击路径和执行复杂网络任务的能力。伴随AI能力的跃升，一些过去停留在理论层面的失控风险正逐渐转化为现实安全挑战。

今年4月，Anthropic公司发布的Mythos展现出强大的自主发现和利用软件漏洞的能力。7月，OpenAI的智能体在内部网络攻防能力测试中，自主发现并利用测试基础设施中的漏洞，突破原有沙箱隔离措施而攻击Hugging Face开源平台和社区的真实生产系统。这些暴露出一个深层次问题：当AI转变为能够自主规划和执行任务的智能体，人类是否仍然能够有效约束其行动边界？

在刚刚闭幕的北京香山论坛上，“新兴技术军事应用的风险与管控”分论坛将人工智能升级网络攻击的风险挑战提上日程。尽管公开信息尚不足以证明完全自主的AI网络攻击已在战场上成为现实，但其潜在影响已不容忽视。专家们在发言中表示，一旦这类能力被用于军事网络行动，攻击的速度、规模和不可预测性都可能进一步增加。

▲5月27日，美国总统特朗普任命前司法部长帕姆·邦迪为白宫人工智能政策顾问委员会成员。

人工智能正在从三个方面放大网络空间军事活动的风险。首先是规模风险。人工智能能够大幅降低网络攻击的技术门槛，使少数人员同时针对大量目标开展行动。其次是速度风险。人工智能可以将漏洞发现、攻击实施和横向移动等环节连接起来并以机器速度执行，进一步压缩危机识别、归因判断和政治决策的时间。更值得关注的是自主性风险。一个原本被授权执行有限任务的AI智能体，可能在自主寻找攻击路径的过程中进入操作者未曾预料的系统。

如果类似网络攻击发生在军事网络行动中，后果可能截然不同。试想，如果一次针对军事目标的网络行动意外波及民用电力、医疗系统等关键设施，遭受攻击的一方可能难以在短时间内判断这究竟是有意攻击、技术故障，还是AI自主行动产生的结果。在战略互信不足的情况下，这种不确定性极易被解读为敌对意图，进而引发误判和危机升级。由此可见，人工智能安全、网络安全与战略稳定，正在成为相互交织的重大国际安全问题。

中国高度重视这一技术发展趋势及其潜在风险。今年9月14日发布的《人工智能安全治理框架3.0》进一步将智能体自主行动、失控风险和AI赋能网络攻击纳入治理视野，并特别关注自主化网络攻击及溯源追责困难等问题。这说明，随着人工智能从“回答问题”走向“执行任务”，安全治理也必须进一步转向关注智能体能够采取什么行动，以及如何确保其始终处于人类有效控制之下。

面对新兴技术军事应用带来的挑战，国际社会不能坐等一场重大危机发生之后再寻求规则。当前技术发展迅速，各国战略分歧较大，但越是在战略互信不足的情况下，越有必要首先建立少数清晰、具体、可操作的安全红线。

▲XQ-58A无人机与美国F-22、F-35战斗机进行编队测试的资料画面。（图源：新华社）

值得注意的是，Anthropic公司首席执行官近日发文呼吁放慢前沿人工智能发展速度，但同时声称任何放慢速度的措施都必须有所限制，“以免让中国实现赶超”，这不禁让人们对其真实用意产生怀疑。AI的安全合作必须建立在公平、平等的基础之上。如果一方面要求中国参与风险管控，另一方面又主张限制中国人工智能发展，将保持技术领先作为合作的前提，那么很难不让人猜想，所谓的“安全治理”是否只是维护竞争优势的幌子。

真正的人工智能安全合作，不应成为限制其他国家正当发展权利的理由，更不能只局限于所谓“志同道合国家”“民主国家”之间。无论是AI失控、网络攻击还是军事误判，其后果都不会按照地缘政治阵营划分。排除重要参与方，或是将AI生态人为地分割为两个体系，只会削弱全球共同应对风险的能力。

人工智能领域的竞争或将长期存在，但竞争不应突破安全底线，更不应阻碍国际合作。各国应在相互尊重、平等互利的基础上，加强对话沟通，建立必要的安全红线和危机管控机制，共同防范人工智能军事应用带来的风险，避免技术竞争演变为危及国际和平与安全的重大危机。

原文标题《肖茜：AI升级网攻，安全红线亟待建立》，本文2026年9月22日首发于《环球时报》-环球网，转载自公众号“清华大学战略与安全研究中心”，作者肖茜，清华大学战略与安全研究中心副主任，人工智能国际治理研究院副院长。

高端访谈

更多访谈（下滑查看）

中美聚焦网｜中美交流基金会