AI智能体重塑安全运营：CISO亟需布局的四大方向

摘要：人员技能重塑、治理角色新增、流程再造与护栏设立，确保SOC与AI智能体协同。

根据IDC的数据，AI智能体有望成为主流基础设施。这家分析公司预计，到2030年，45%的组织将在关键业务职能中大规模运行自主智能体。在企业SOC中，AI已经在重塑告警分类、数据丰富、数据关联、入侵指标验证和初步遏制等功能。它可能很快向上层移动，承担更复杂的任务，如事件调查、根本原因分析和响应。

AI在SOC中扮演着力量倍增器的角色，但要实现这一前景，需要组织现在投资于重新培训分析师、重新设计流程、构建新的技术角色，并建立护栏和治理框架，以确保自主AI智能体安全运行。

仅仅部署一个AI解决方案是不够的，安全从业者必须了解底层机器学习技术如何运作、它们的优势和局限是什么，以及如何评估其输出，如果没有可解释性和信任，AI风险可能加剧而非解决告警疲劳。

以下是CISO需要了解并采取行动的内容，以便为AI智能体时代的SOC做好准备。

一、将分析师重新培养为AI协作者和监督者

在SOC中，人类的角色将越来越多地从亲手执行转向监督、治理、设计和监管。随着AI智能体承担更多运营任务，分析师将需要专注于管理AI系统、解读输出以及解决机器无法处理的微妙挑战。

工作不会消失，关键在于通过持续的教育、培训和工具，确保SOC专业人员为这一转变做好准备。许多SOC领导者需要重新培训现有员工以有效管理AI，使他们能够质疑AI的推理过程，并对AI驱动的输出进行有见地的人类分析。

分析师在根据AI工具的建议采取行动时，必须理解智能体提出了哪些问题，查询了哪些数据源，以及哪些证据支持其决策。他们需要能够转向其他数据源，追踪新的痕迹，并根据需要延长调查时间线。

在未来的SOC中，分析师还必须充当AI驱动结论的对抗性评审者。这是因为AI系统可能引入幻觉、训练数据偏差和其他漏洞，同时也容易受到对抗性操纵。分析师需要识别这些风险，以确保决策保持可靠和可辩护。这意味着要理解模型的推理方式、分析偏见和数据缺口如何显现，以及如何质疑置信水平和假设。

A I智能体的智能程度取决于它们能获取的情境，没有这种情境，智能体可能错过威胁、放大噪音，或基于不完整信息触发风险行动。因此，分析师还将在将组织特定情境融入AI驱动工作流方面发挥关键作用。分析师必须学会注释身份、维护关注列表、记录重复的误报模式，并构建能强化未来调查的丰富层。

最终，目标不是超越AI，而是在AI不足的地方做得更好。

二、构建AI治理、内容与质量能力

仅提升现有分析师的技能是不够的。专家表示，随着AI智能体开始在工具间运作、在最少人工参与下做出决策和触发行动，对SOC的要求将远超传统分析师的能力范围。

例如，内容工程是一个新兴需求。在AI驱动的SOC中，检测工程师将不再只编写静态规则。他们必须设计动态内容，如智能体可用于推理、丰富数据、关联信号和自主行动的问题、提示和调查模板。这些内容工程师整理为智能体提供动力的结构化输入，包括遥测数据、威胁模型和预案。

成熟的SOC还需要明确AI治理和智能体监督的所有权。这包括负责模型风险评估、提示和策略管理、持续性能验证，甚至对智能体本身进行红队测试的角色

另一个新兴需求是具备深度数据管理流畅度的分析师。AI驱动的SOC将需要理解信息应如何分类、保护、标准化和监控以确保可靠结论的专业人士。网络安全专业人员必须精通AI和数据，对数据分类、治理和模型行为有更深入的理解。数据科学、机器学习和网络安全的交叉技能使分析师能够批判性评估AI输出，针对安全用例调整模型，并随着威胁演变调整防御。

未来的SOC不会依赖于单一平台，而是一个由SIEM、EDR、SOAR、身份、云和其他系统组成的互联生态系统，这些系统必须协同运作以支持AI驱动的、智能体的调查和自动化，在这样的环境中，专门的编排专业知识对于维持可靠的数据流和自动化逻辑将变得至关重要。

三、在需要的地方重新设计SOC流程和预案

组织需要审查和重制SOC流程和预案，以确保其AI增强的SOC保持一致、高效并持续学习。

建议SOC领导者专注于将机构知识编码为AI智能体可访问的问题和计划，将预案转化为AI智能体可重复遵循的调查计划，在智能体可能遇到障碍的情况下，建立平稳交接给人类分析师的流程，并构建持续改进的反馈循环。

SOC还需要重新思考内部的指标、问责制和文档记录。传统的绩效指标，如工单关闭率或平均解决时间，可能需要扩展到包括模型准确性、上报质量以及自动遏制行动的有效性。

可审计性也变得至关重要。从内部治理角度和外部合规要求来看，所有AI驱动的决策都应是可追溯、可解释和可审查的。

四、实施AI护栏与操作原则

在AI智能体影响决策、启动响应并帮助确定威胁优先级的SOC中，正式的护栏和操作原则将至关重要。这意味着围绕数据访问和模型行为设置明确的边界，拥有验证响应的流程，并确保在所有高影响决策中保持人在回路。

重点领域应包括：自主行动的批准阈值、明确智能体允许和禁止的行动、防范提示注入攻击、对智能体工作流进行测试和红队演练，以及确保事件响应策略针对AI驱动的行动进行更新。智能体应在最小权限身份下运作，配有明确的终止开关、变更控制边界和环境感知。关键在于确保AI永远不被允许在无人批准的情况下静默提升自身权限或修改护栏。