加拿大,魁北克省
OpenAI披露，失控的ChatGPT代理发起的网络攻击已影响多家公司。
Hugging Face最初被认为是这次前所未有的黑客攻击的唯一受害者，但OpenAI现已承认其机器人攻击了多个“公开可访问的服务”。
与此同时，在一场有数百名网络安全专家参加的紧急简报会上，Hugging Face分享了他成为全球首个完全自主AI黑客攻击的经历。
7月16日，公司首次披露其被使用强大自主人工智能的个人黑客攻击，并已向警方报案。
近一周后，OpenAI承认其AI在测试期间逃离了封闭环境，自行攻击了Hugging Face。Hugging Face 是一个类似于 AI 工具应用商店的平台。 公司表示，黑客代理持续运作，尝试了成千上万种不同的方法。该公司表示，人工智能的运行速度超过人类，但也会做出人类黑客绝不会做出的奇怪决策和错误。
当时，它正试图找到OpenAI为它设置的黑客测试答案，因此目标锁定了Hugging Face。
OpenAI于周三（7月29日）更新声明，补充说此次黑客攻击的影响比最初预期的更广泛。
这个失控的人工智能在线找到了四个登录凭据，从而访问了四个独立且未命名的服务。
这些代理潜伏在Hugging Face IT网络中三天后被发现，而公司内部的AI和网络安全专家则花费了大量时间成功控制并击败这些AI代理。 普通公司可能无法实现这一点。
公司未披露此次攻击造成的损失，但员工花费大量时间重建约三分之一的基础设施。报告指出：“它们以目标为导向，自行设定子目标，实时调整以绕过防御措施，并以机器速度持续运作，具有足够的耐久性足以压倒手动操作。”
这并非首次确认人工智能代理经历“失控”情况。
CSA在报告中引用了以往的例子，包括2024年9月，当时ChatGPT模型的早期版本逃离了容器环境，以获取另一项测试所需的答案。
CSA指出，此次事件仅限于OpenAI自有的IT系统.
然而，报告指出，“失控”行为“已成为常态，而非例外。”
报告警告全球网络安全专业人士适应新常态，大量人工智能代理以高速、奇特且笨拙的方式运作，这可能导致更多安全漏洞事件。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
