如何利用人工智能强化网络防御？《让人工智能为网络防御服务：强化网络安全战略》解读

近日，美国战略与国际问题研究中心（CSIS）发布报告《让人工智能为网络防御服务：强化网络安全战略》（Making AI Work for Cyber Defenders: A Strategy for Strengthening U.S. Cybersecurity，以下简称“报告”）。报告指出，随着前沿人工智能模型快速发展，人工智能正在改变网络攻击与防御的基本模式。过去依赖人工分析、发现漏洞和响应攻击的网络安全体系，正在面临新的挑战。

报告认为，当前最重要的问题已经不是人工智能是否会影响网络安全，而是防御者能否快速利用人工智能提升网络防御能力。如果不能及时部署人工智能辅助防御工具，攻击者可能会利用人工智能更快发现漏洞、发动攻击，而防御者仍然依赖传统流程，导致攻防双方速度差距进一步扩大。网络安全体系需要转向更加主动的防御模式，即利用人工智能持续发现漏洞、监测攻击并快速修复风险，使人工智能成为网络防御体系的重要组成部分。

人工智能正在改变网络攻击方式，网络安全进入新阶段

报告指出，前沿人工智能模型已经展现出发现软件漏洞的新能力。一些先进模型能够识别此前未被发现的软件漏洞，并完成过去只有高水平人工专家才能完成的网络相关任务。人工智能的发展正在改变网络攻击的速度、规模和方式：

• 一方面，人工智能降低了网络攻击的技术门槛。技术能力较弱的攻击者也可能借助大型语言模型提升攻击能力，包括改进恶意软件开发、获取网络初始访问权限，以及发现并利用系统漏洞；

• 另一方面，具有较强技术能力的攻击者可能利用人工智能开展更加自动化的攻击活动。高级威胁行为者可能通过大型语言模型协调人工智能代理，实现复杂的自动化或半自动化攻击，使攻击活动能够同时针对全球多个目标展开。

除了提升传统网络攻击能力外，人工智能也正在带来新的攻击方式。人工智能已经改变了一些传统攻击模式，例如通过更有效的钓鱼攻击、诱导攻击以及深度伪造技术，诱骗用户泄露账户信息。同时，攻击者也可能针对人工智能系统本身发动攻击。例如，通过设计特殊提示词，诱导人工智能防御系统泄露敏感信息，甚至反过来协助攻击者完成入侵。此外，攻击者还可能通过污染训练数据等方式影响人工智能系统判断，使防御算法产生错误结果。因此，报告认为，未来网络安全面对的不仅是攻击数量增加，更是攻击方式发生变化。随着人工智能能力不断提升，网络攻击可能变得更加快速、自动化和复杂。

利用人工智能打造主动防御体系

面对人工智能带来的新挑战，报告提出，网络防御体系需要从传统的被动响应模式转向持续监测和快速修复模式。核心观点是，人工智能不会自动增强网络安全能力。只有政府、企业以及非营利机构采取协调行动，才能真正利用人工智能提升防御水平。未来网络防御体系应充分利用前沿人工智能模型发现漏洞，并配合技术人员快速完成修复。相比过去依靠人工发现问题、分析风险、部署补丁的流程，人工智能可以帮助防御者更快识别威胁，缩短漏洞修复时间。

报告特别强调，需要建立能够持续运行的人工智能赋能防御体系，对网络环境进行长期监测。一旦发现新的攻击方式或安全漏洞，系统能够快速采取修复措施，在攻击者利用漏洞之前降低风险。这一理念与美国国家标准与技术研究院的网络安全框架2.0相结合。人工智能可以帮助组织完成网络安全框架中的多个核心功能，包括治理、识别、保护、检测、响应以及恢复。具体来看，人工智能可以帮助网络防御人员识别攻击者的行为方式，发现异常活动，并提升威胁检测能力。同时，人工智能工具还可以辅助自动化事件响应，对低级别安全事件进行初步处理，并帮助生成事件报告。不过，报告也强调，人工监督和专业人员经验仍然不可替代。人工智能的作用主要是提升人的工作效率，而不是完全取代网络安全人员。

推动政府、企业和社会共同参与网络防御

报告认为，利用人工智能提升网络安全能力，需要建立跨部门、跨行业的合作体系。在政府层面，行政部门应发挥协调作用，帮助不同部门和行业确定网络安全重点，推动漏洞识别、修复以及最佳实践共享。政府需要与企业合作，建立更加系统的漏洞发现和修复机制。同时，应通过政策支持，提高政府网络和民用网络的整体安全水平。

报告还特别关注一些防御能力相对不足的领域，包括开源软件社区、中小企业以及关键基础设施运营者。这些领域往往缺少足够的资金、技术能力和安全资源，因此更容易成为攻击目标。政府和大型科技企业应提供技术支持、资金支持以及必要的安全工具，帮助这些领域提升防御能力。对于关键基础设施，电力系统、水务系统等使用的大量传统网络和工业控制系统，仍然存在安全挑战。由于这些系统升级成本较高，因此需要政府、企业共同推动安全能力提升。此外，应建立更加完善的网络攻击事件追踪体系。通过收集和分析网络攻击数据，可以帮助识别攻击规律、判断攻击来源，并推动不同主体共享防御经验。报告提出，可以由美国网络安全和基础设施安全局（CISA）负责相关工作，并建立新的联邦资助研发中心（FFRDC），负责数据管理和技术分析。

加强人工智能模型安全评估，防范前沿模型带来的风险

除了利用人工智能提升网络防御能力外，报告还强调，需要加强对前沿人工智能模型本身的安全评估，建立模型发布前后的审查机制。

• 在模型发布前，应开展短期安全评估，重点检查模型是否具备危险能力，例如是否能够发现并利用未知漏洞，完成针对高价值目标的网络攻击。30天左右的发布前审查周期，能够在保障技术创新速度的同时，对重大风险进行评估。发布前审查并不能解决所有问题，但可以帮助发现最严重的风险，并降低危险能力直接扩散的可能；

• 在模型发布后，应建立更加广泛的评估机制，由政府、企业、学术机构以及非政府组织共同参与。相比发布前审查，发布后评估应覆盖更广泛的问题，包括模型能力变化、安全风险以及社会影响。

报告强调，评估过程需要提高透明度，政府应尽可能公开评估标准和流程，企业也应在适当范围内加强信息共享，从而推动更完善的人工智能安全研究。

从网络安全防御走向人工智能赋能的新模式

总体来看，报告释放的核心信号是，美国正在尝试利用人工智能重新构建网络安全防御体系。未来网络安全竞争的重要方向，不只是拥有更先进的攻击工具，更重要的是能否建立更快速、更智能、更主动的防御体系。过去，网络安全更多依赖人工发现问题、分析风险以及修复漏洞。但随着人工智能能力的快速提升，攻击者可能利用人工智能提高攻击效率，传统防御方式面临越来越大的压力。因此，需要通过人工智能持续监测网络环境、快速发现漏洞、自动辅助修复，并推动政府、企业和社会力量共同参与网络安全建设。人工智能带来的变化不仅影响网络安全领域，也将推动建立更加完善的人工智能治理体系。未来，还需要进一步建设相关机构、培养技术人才，并形成政府、产业界和社会共同参与的长期机制。

报告显示，人工智能正在成为网络安全领域的重要战略工具，既可以用于提升网络防御能力，也可以应对日益复杂的网络威胁环境。对于未来网络安全发展而言，人工智能不仅可能成为攻击者的新工具，也正在成为防御者提升能力的重要手段。

免责声明：本文转自《赛博研究院》。文章内容系原作者个人观点，本公众号编译/转载仅为分享、传达不同观点，如有任何异议，欢迎联系我们！

转自丨赛博研究院

作者丨赛博研究院

研究所简介

国际技术经济研究所（IITE）成立于1985年11月，是隶属于国务院发展研究中心的非营利性研究机构，主要职能是研究我国经济、科技社会发展中的重大政策性、战略性、前瞻性问题，跟踪和分析世界科技、经济发展态势，为中央和有关部委提供决策咨询服务。“全球技术地图”为国际技术经济研究所官方微信账号，致力于向公众传递前沿技术资讯和科技创新洞见。

地址：北京市海淀区小南庄20号楼A座

电话：010-82635522

微信：iite_er