当地时间9月28日,英伟达发布名为“Open Agent Safety Platform”的AI安全平台。该系统由OpenShell开源软件和Sentry参考系统设计组成,能为AI智能体设定更安全的运行边界。英伟达表示,该平台本可以阻止今年7月OpenAI模型攻击抱抱脸。
![]()
OpenShell可以在智能体运行时提供安全边界,AI代理一旦试图访问未授权文件、发起异常网络连接或执行危险命令,就会被拒绝、记录,甚至被隔离。该软件既可部署在英伟达硬件上,也可拓展至安谋、英特尔等第三方平台。Sentry运行于英伟达硬件上,独立于智能体的软件运行环境,持续监控智能体行为,AI代理如果试图越界,能以毫秒级的速度隔离异常代理。
值得一提的是,在上周日举行的媒体吹风会上,英伟达的代表披露,该公司的安全平台本可以阻止7月发生的OpenAI智能体入侵开源AI模型和软件开发平台抱抱脸。
英伟达也在公告中“点名”大量合作伙伴,表示已有超过100家组织采用英伟达开放智能体安全平台相关技术,涵盖AI模型、企业软件、金融、能源及机器人等领域。
其中,Anthropic通过整合OpenShell和BlueField,加强对Claude智能体访问权限的控制;SpaceXAI将该平台用于Cursor编程智能体和Grok模型;赛富时则将OpenShell接入Slack,使团队能够查看智能体活动,并批准或拒绝其额外权限申请。微软、摩根大通、花旗、西门子、施耐德电气及人形机器人公司Figure等,也参与了相关技术的应用或合作。
英伟达创始人兼首席执行官黄仁勋在公告中表示:“只有解决AI安全问题,才能实现AI为社会带来的巨大潜力。在不断探索AI能力前沿的同时,我们必须加快对AI安全前沿的探索。安全与防护需要全栈工程。”
英伟达AI副总裁贾斯汀·博伊塔诺表示,仅靠模型层面的保障措施无法管控智能体可访问资源与执行动作,近期多起智能体失控事件更是凸显这一点。分析认为,英伟达正尝试将AI安全能力进一步嵌入AI基础设施,通过权限控制和异常隔离降低自主代理的安全风险。这也意味着,英伟达的业务触角正从AI芯片进一步延伸至软件及安全基础设施领域。
此外,当地时间9月28日,英伟达新闻中心网站发布消息称,英伟达将股票回购授权增加1500亿美元,使回购计划总额达到2350亿美元。公司预计将在2028财年之前执行该回购计划。
黄仁勋表示:“英伟达的增长得益于一次前所未有的平台转型,即向人工智能和加速计算的转型。充裕的现金流使我们能够投资于推动这一转型的技术,并为股东带来回报。此次授权体现了我们对未来长期机遇的信心。”截至美东时间9月28日收盘,英伟达上涨1.68%,报228.860美元,总市值 5.52万亿美元。
![]()
图片来源:Wind
(声明:本文内容与数据仅供参考,不构成投资建议,使用前请核实。据此操作,风险自担。)
来源:中国经济网微信综合央视财经微信、中国证券报微信、财联社微信
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.