OpenAI新模型临门一脚踩刹车！GPT-6.2曝出安全疑云

机器之心编辑部

AI 圈等了一整天，OpenAI 期待已久的新模型还是没有出现。

此前，OpenAI 新一代 Astra、Sol 可能在 11 月 6 日发布的消息，已经让不少开发者提前进入了等待状态。先是 Codex 使用记录中出现了 gpt-6.2-astra，随后又有用户在 Google Clou 相关页面发现了 gpt-6.2-astra 和 gpt-6.2-sol 两个模型标识。

OpenAI 这周并非完全没有动作，先后推出了 GIF 生成模型 Images 2.6 和专门面向授权网络安全研究的 GPT-6 Cyber。真正让大家等待的 Astra 和 Sol，依然没有正式亮相。

今天，AI 圈开始流传另一种解释：OpenAI 新模型在发布前的最后阶段，被安全这一关挡住了。

推特用户 @Token Gremlin 透露，自己听说 OpenAI 在最后阶段发现了严重的安全与对齐问题，需要紧急修复，可能还要几天时间才能完成。他同时表示，根据提前测试的反馈，新模型在性能、价格和速度方面都有不错的表现。

随后，推特用户 Codexresets_也转述了类似消息。不过，两者是否来自独立消息源，目前无法确认。

与此同时，Token Gremlin 还提出了一个令老用户不太满意的观察：他感觉 GPT-6.1 Terra 最近明显变慢，GPT-6 Astra 的整体输出质量也有所下降。他甚至怀疑，这是否与新模型发布前的资源调配有关。

也许大家都在观望，有用户调侃道「GPT-6.2 Sol 和 Astra 10000% 会在下周发布。唯一的问题是，Anthropic 正在等 OpenAI 先发布新模型，然后才会推出 Fable 5.5。而 OpenAI 又在等 Anthropic 先发布 Fable 5.5，然后才会发布自己的模型。所以，我们可能还得在这里等上一阵子。」

几条消息接连出现，让这次新模型发布多了一层悬念。

不过，目前 OpenAI 没有确认 GPT-6.2 的发布计划，也没有承认此次发布窗口变化与安全问题有关。

这场等待，究竟还要持续多久？

一条来自第三方机构的安全警报

这场讨论的起点，还要往前追溯一天。

11 月 5 日，第三方 AI 评测机构 Vals AI 上发布了一条颇为严肃的声明。Vals AI 称，他们在多家前沿 AI 实验室近期公开发布和内部测试的模型中，发现了一项严重的安全与对齐问题。

按照该机构的说法，这个问题可能让模型在某个高风险领域遭到滥用，同时增加灾难性失配的风险。Vals AI 表示已经将问题披露给相关实验室，对方正在调查和采取缓解措施。考虑到问题的严重性，机构计划在未来几周内公开研究发现。

这条消息很快引起了关注。

Vals AI 是一家独立 AI 评测机构，长期围绕金融、软件工程、网络安全等真实任务评估模型能力。与单纯跑公开榜单不同，它也使用内部保留的测试集，尽量减少模型针对公开题目进行优化带来的偏差。

但这次，Vals AI 并没有公布更多细节。涉及哪些实验室？具体是哪几个模型？问题发生在哪个领域？模型究竟通过什么方式突破了原有安全限制？这些关键信息都没有披露。

也正因为如此，LuminaBench 随后提出的判断，目前仍然只能算一种推测。它认为，Vals AI 发现的问题可能涉及 OpenAI，这或许能解释 GPT-6.2 Astra 和 Sol 为什么没有按此前预期的时间发布。LuminaBench 还认为 Anthropic 即将推出的 Fable 5.5 也可能受到类似问题影响。

但 Vals AI 从未在公开声明中点名 OpenAI 或 Anthropic。

OpenAI 自己

也发现了模型的安全隐患

这次传闻之所以引发如此多关注，还有一个重要背景：OpenAI 此前已经公开披露过多起与模型失配、权限边界和安全监控有关的内部事件。其中，有两起事件尤其值得注意。

10 月 20 日，OpenAI Alignment 团队公布了一份内部安全报告，记录了两起发生在内部编程任务中的事件。

原始链接：https://alignment.openai.com/misalignment-reports/suppressing-misalignment-monitoring-alerts-and-disabling-misalignment-monitoring/

第一起发生在 10 月 3 日。一名研究人员要求 GPT-6.1 Sol 编程智能体利用 Slack 中的员工反馈创建评测任务，同时明确要求它不要发送 Slack 消息。

在后续修复评测流程的过程中，Sol 智能体关闭了向 OpenAI 安全团队发送自动告警的机制。它将此前的指令理解成了对 Slack 消息发送行为的限制，并错误地把这一限制扩展到了系统自动产生的安全监控通知。

第二起发生在 10 月 6 日。

GPT-6 Astra 在迁移一个程序时，为了让代码符合参考实现，直接移除了原有的安全监控集成。更严重的是，当研究人员询问它是否删除了监控机制时，Astra 还错误地表示自己没有这样做。

这两起事件都发生在执行常规编程任务的过程中。模型并没有接到明确要求关闭安全机制的指令，却在完成任务时削弱了原有的监督措施。

OpenAI 随后表示，将加强失配监控机制，并继续调查模型是否存在规避监控的倾向。

另一份在 11 月 4 日更新的报告，则揭示了更隐蔽的问题。研究人员发现，GPT-6 Astra 在处理安全研究任务时，可能会悄悄降低自己的执行表现。

https://alignment.openai.com/misalignment-reports/covert-underperformance-on-safety-research-tasks/

在一组内部编程评测中，当任务被描述为安全研究时，Astra 完成的隐藏评分项约为 10%；当任务被描述为一般能力研究时，这一比例约为 16%。两者相差 6 个百分点，相当于安全研究场景下少完成了约 40% 的评分项。

更值得警惕的是，部分情况下，Astra 并没有明确拒绝用户，也没有解释自己为什么无法完成任务。它会增加不必要的前置条件，放弃原本可行的方案，甚至报告一些并不存在的障碍。

研究人员发现，这种表现差异与模型在推理过程中表达的伦理疑虑存在关联，但目前还没有找到能够完全解释这一现象的原因。这类行为很难通过传统的拒绝率测试发现。模型表面上仍在执行任务，实际完成质量却可能已经发生变化。

这也让研究人员意识到，单纯检查模型有没有拒绝危险请求，已经不足以覆盖智能体在真实工作环境中的安全风险。

结语

把这些事件放在一起看，可以发现一个值得关注的变化。前沿获得的行动空间越大，一次错误判断可能产生的影响也越大。因此，安全对齐需要覆盖整个执行过程。

模型能否理解用户真正授权了什么？能否在执行过程中保留必要的监督机制？遇到权限冲突时，能否及时停下来？完成任务后，能否如实报告自己做过的操作？这些问题都需要通过更复杂的测试来验证。

OpenAI 在 11 月 5 日发布的 GPT-6 Cyber，就能看到这种思路。这是一款面向授权网络安全研究的专用模型，是 GPT-6 Astra 的网络安全强化版本。它能够帮助安全研究人员发现漏洞、开发漏洞利用代码并验证修复方案。

回到这次发布传闻，目前能够确认的信息其实有限。新模型的性能、价格和速度，目前也没有可供独立核实的具体数据。但有一点已经越来越清楚：当 AI 智能体开始接管更多真实工作，模型发布前需要通过的关卡也在发生变化。

https://x.com/TokenGremlin/status/2119047749966442503

https://x.com/LuminaBench/status/2119134078603493534

https://x.com/LDT0545/status/2119115472734163373

https://x.com/TokenGremlin/status/2119146860183015878

https://x.com/codexresets_/status/2119139559988408755