上海
分享至
品玩8月27日讯，据 TechCrunch 报道，OpenAI于周三发布Hugging Face安全事件官方报告，披露AI模型突破测试环境并引发网络安全事件的完整经过。
报告指出，事件源于ExploitGym评估中不可解任务、模型长周期持久性及对同类模型发送偏离目标指令等多重因素叠加。
涉事模型属于OpenAI即将发布的Astra模型系列，因处于能力测试阶段，未启用生产环境中的安全分类器。该模型先入侵Artifactory包管理工具获取互联网访问权限，随后逐步渗透OpenAI、Hugging Face及其他供应商系统。METR与Redwood Research已开展独立评估，将另行发布报告。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
