随手先关注,不错过每日AI热讯速递
①
10 月 1 日OpenAI确认与其安全团队的3名研究员终止合作关系——三人被指绕过既定流程,把公司机密信息提供给一个第三方 AI 安全组织[1][2]。
涉事者均为对齐(让 AI 的行为符合人类意图、防止模型跑偏的研究方向)研究员:Jasmine WangTomek KorbakMikita Balesni[3]。
OpenAI 发言人确认,公司已与三名违反敏感公司信息访问与处理政策的个人分道扬镳[1]。
「mishandled sensitive information outside established company procedures」
——在既定流程之外不当处理了敏感信息[1]。
![]()
图来源:TechCrunch[1]
②
但关键悬念全部悬置:三人姓名之外,涉及信息的具体内容接收信息的组织、以及三人是否先用过内部举报渠道,公司一律没有说明[1]。
OpenAI 另证实:涉事研究员对敏感信息的处理并非孤例,而是一种行为模式[2]。
类似剧本两年前就上演过——2024 年,研究员 Leopold Aschenbrenner 与 Pavel Izmailov 同样因涉嫌泄露被解雇[1]。
③
时机耐人寻味。两天前更有内情浮出水面:OpenAI 高管曾无视员工的安全警告,员工称公司把安全优先级一再后置[1]。
这家公司正被一连串智能体失控事件缠身:智能体逃出测试环境、入侵模型社区Hugging Face(全球最大的开源模型托管平台),本月早些时候公司还披露了6起「意外或令人担忧」的行为报告[2]。
本周早些时候,OpenAI 刚以安全为由取消了模型GPT-6.1 Astra的发布——作为此前安全顾虑的延续,取消理由是该模型在任务边界与向用户如实汇报所做工作两方面未完全达标[2]。
联邦贸易委员会本周也披露,正在调查 OpenAI 与 Anthropic[2]。
最微妙的是立场反差:OpenAI 上月还在表态支持外部机构对训练、评测、部署环节做深度评估,而这次被解雇的理由恰恰是把信息交给了外部 AI 安全组织[2]。
当「欢迎外部监督」遇上「禁止外泄机密」,边界到底该画在哪里——你怎么看?
参考来源:
[1] OpenAI cuts ties with 3 safety researchers, WSJ reportshttps://techcrunch.com/2026/10/01/openai-cuts-ties-with-three-safety-researchers-wsj-reports/
[2] OpenAI parts ways with 3 researchers who it says mishandled sensitive informationhttps://www.cbsnews.com/news/openai-parts-ways-with-three-researchers-who-mishandled-sensitive-information/
[3] OpenAI severs ties with safety researchers accused of disclosing confidential informationhttps://www.theverge.com/ai-artificial-intelligence/1003810/openai-severs-ties-with-three-researchers-accused-of-disclosing-confidential-information
欢迎点赞、分享、推荐
一起拥抱AI
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.