英伟达发布开放智能体安全平台，保障智能体从测试到部署全流程安全

智东西
作者 ZeR0
编辑 漠影

智东西9月28日报道，今日，英伟达（NVIDIA）宣布推出NVIDIA开放智能体安全平台。作为一个开放软件平台与参考系统设计，该平台旨在从智能体测试到部署的各个环节强化AI安全，并针对运行智能体的软件、硬件、计算和机器人系统，实施全栈治理与管控。

NVIDIA开放智能体安全平台软件（包括OpenShell和技能）现可通过NVIDIA开发者资源页面及GitHub获取。

NVIDIA开放智能体安全平台由NVIDIA OpenShell安全运行时开源软件和NVIDIA Sentry参考系统设计组成，可针对运行智能体的软件、硬件、计算和机器人系统，实施全栈治理与管控。各组织可根据自身需求，灵活部署该平台的相应组件。

OpenShell软件提供了一个安全的运行时边界，能追踪智能体在NVIDIA Vera CPU上运行时的所有操作并强制执行预设的安全策略，可用于管控自主AI智能体如何跨开放模型和闭源模型执行任务，既保障智能体安全运行，又能以最快的速度完成各项任务。

作为一款开源软件，OpenShell具备跨平台扩展能力，可适配包括Arm和英特尔在内的第三方计算平台。

Sentry是一个运行于NVIDIA BlueField-4 DPU的带外安全监控器，可持续监测智能体行为。对于试图越界的智能体，Sentry能在数毫秒内将其隔离并停止运行。

它融合了威胁检测、基于硬件的智能体治理与策略执行以及数据访问保护等功能，既能实现实时响应，又对智能体和攻击者不可见。

Sentry基于NVIDIA DOCA软件构建，借助该软件提供的可编程能力，可检查智能体的请求和响应，提供经过认证的遥测数据并验证智能体身份，同时对数据、工具、应用程序接口和服务实施精细化的零信任访问策略。

近期的安全事件凸显了组织配备开放、可定制工具的必要性，以加强对长时间运行的智能体的管控。这些事件均呈现出相同的模式——智能体为了完成分配的任务，绕过了应用层的安全管控。

英伟达创始人兼CEO黄仁勋谈道：“只有解决AI安全问题，AI为社会带来的非凡潜力才能得到充分释放。在不断探索AI能力边界的同时，我们必须同步加快对AI安全前沿的探索。”

他认为，安全与防护需要依靠全栈工程，NVIDIA开放智能体安全平台汇聚业界、研究人员和公共部门组织，共享最佳实践、统一评估方法，并推动国际合作。

“通过共同努力，我们能够提升全球AI安全的标准。”黄仁勋说。

来自整个AI生态系统的行业领导者正与英伟达一起，在基础设施、软件、模型和机器人的全栈体系强化各行业的AI安全。

这些企业包括Anthropic、思科、CrowdStrike、戴尔科技、Figure、HPE、Hugging Face、摩根大通、微软、Palantir、Palo Alto Networks、Perplexity、红帽、SAP、Salesforce、Scale AI、ServiceNow和SpaceXAI等。

Anthropic与英伟达合作，为智能体技术栈增加了多层安全与管控机制。Claude Managed Agents将智能体循环部署在独立服务器上，并与执行智能体任务的沙盒相隔离，从而建立安全边界。通过与OpenShell和BlueField集成，企业能够通过这些沙盒对智能体的访问实施严格管控。

Anthropic首席商务官Paul Smith说：“Claude Managed Agents让企业能够清晰掌握每个智能体的工作情况，而英伟达的平台则进一步在硬件和软件层面强化治理与管控。”

SpaceXAI正将NVIDIA开放智能体安全平台用于Cursor编程智能体和Grok模型；Scale AI正与英伟达合作，将NVIDIA开放智能体安全平台技术集成至Scale GenAI Portfolio的智能体基础设施层。

Salesforce与英伟达已将OpenShell集成至Slack，使团队能够直接在Slack中管理OpenShell智能体活动，包括查看智能体活动和审计事件，以及批准或拒绝智能体提出的额外权限请求，从而在智能体执行任务期间获得更高的可见性与人工监督能力。

SAP正将OpenShell嵌入SAP Business AI Platform的Joule Studio运行时，以兼顾业务监督与运行时安全。该公司还为OpenShell贡献工程研发成果，并与英伟达合作通过开放安全AI联盟推动互操作性标准发展。

Figure、Gecko Robotics和Skild AI等机器人领域的领先企业，也在基于OpenShell进行开发，将智能体安全控制机制嵌入到能够在物理世界中执行操作的自主系统中。

花旗和摩根大通等金融服务行业的领先企业正与英伟达合作，共同推进共享的开源智能体安全技术的发展。

日立能源、美国电力研究协会（EPRI）、新纪元能源、Quanta Services、SPP、施耐德电气、西门子能源和Worley等能源行业领先企业，作为关键基础设施提供商，也正采用NVIDIA开放智能体安全平台技术。

基础设施软件领域的领先企业Canonical、SUSE和红帽也正将NVIDIA开放智能体安全平台集成至广泛使用的操作系统软件中。

红帽在其与英伟达共同研发的企业级AI解决方案上运行OpenShell和DOCA，二者均属于NVIDIA开放智能体安全平台。其企业级AI解决方案，可用于在混合云环境中大规模构建、部署和管理AI。

英伟达合作伙伴包括Baseten、思科、CoreWeave、戴尔科技、GMI Cloud、HPE、惠普公司、Irregular、联想、微软、Nebius、Oracle Cloud Infrastructure、Supermicro和Together AI等，正在提供采用并支持NVIDIA开放智能体安全平台技术的AI基础设施解决方案，助力客户更安全地运行AI智能体。