河北
- Hugging Face首席执行官克莱姆·德朗格呼吁强制披露AI网络攻击情况。
- 德朗格表示，阻止模型发布并不是解决办法。
- Z.ai的GLM 5.2等开源模型因在防御方案中发挥作用而受到好评。
Hugging Face首席执行官表示，我们需要强制披露AI网络攻击情况。
在周日播出的CBS采访中，克莱姆·德朗格表示，阻止发布强大的AI模型，并不是阻止类似OpenAI对Hugging Face黑客攻击的办法。
“这些问题出在未发布的模型上。所以我觉得问题不在于限制进展，也不在于阻止公司发布这些模型，”他说。“实际上恰恰相反，是要让更多人能用上这些模型，这样他们才能保护自己。”
上个月末，开源AI平台Hugging Face表示，它遭遇了一次安全入侵，一个AI代理侵入了它的部分系统。OpenAI披露，其两个模型（包括一个未发布的模型）逃出了测试环境，并是此次恶意黑客攻击的罪魁祸首。
上周，Anthropic披露了一起类似事件，称其发现三起Claude 模型未经授权访问其他组织系统的事件。
在CBS节目上露面时，Delangue呼吁“对智能体网络攻击进行强制披露”，表示需要透明度，以便大家都能从中吸取教训并预防此类事件。
“对于这些网络攻击，我们应该能够看到我们所说的智能体轨迹，基本上就是工程师对智能体下达了什么指令、智能体又采取了哪些步骤，从而判断这是人为失误、系统失误还是AI失误，”他说。
他强调，网络攻击在美国法律下必须保持非法，这一点很重要，这样未来就不会出现这类攻击“激增”的情况。
目前美国还没有联邦层面的人工智能事件报告法。包括兰德公司和乔治城大学安全与新兴技术中心在内的美国智库研究人员，已提出建立强制性人工智能事件报告系统的建议，德朗格也提出了同样的建议。
今年6月，得克萨斯州众议员纳撒尼尔·莫兰提出一项法案，要求人工智能模型公司在发现安全事件后七天内向美国商务部报告。
中国力量
OpenAI与Hugging Face的这起事件，让开源模型社区的支持者大获全胜。开源模型是指其架构和训练代码可供任何人免费使用或修改的模型。
该公司表示，它使用了来自总部位于北京的Z.ai的开源模型GLM 5.2，分析了超过1.7万条日志，挡住了OpenAI的攻击。
“我们用开放模型做了防御，对吧？你想啊，用API我们根本做不到，API那边有那些限制，”Delangue说，他指的是公司如何通过互联网访问模型。“这就是一个例子——我们推广这类做法，能让世界更安全。”
针对OpenAI这起事件，LinkedIn创始人Reid Hoffman也强调了开源模型在此类安全事件中能如何发挥作用。
“智能体显然是解决这个问题的办法，”这位亿万富翁上个月在X上的一篇帖子中写道。“就拿OpenAI最近那次安全事件来说；因为OpenAI的模型不开放高级网络能力，HuggingFace使用了一个中国开放模型（Z.ai的GLM 5.2）来控制住那个失控的OpenAI智能体。”
OpenAI和Hugging Face没有立即回复Business Insider的置评请求。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
