北京
OpenAI首席科学家雅库布·帕乔基（Jakub Pachocki）昨天在X平台发了一条推文，语气带着点无奈。他试图平息一场由媒体报道引发的恐慌——外界担心OpenAI正在研发的新技术会让AI的推理过程变得完全不可监控，甚至“失控”。
事情的起因是科技媒体The Information的一篇深度报道。报道称，OpenAI正在测试一种名为“深度循环”（recurrent depth）的技术。简单说，这种技术让模型重复调用同一组网络层，持续更新内部表征，而不是像传统模型那样按线性步骤处理信息。问题在于，这种方式可能让模型的推理更多停留在难以直接阅读的内部状态中，研究人员想通过“思维链”（Chain-of-Thought）追踪决策路径，会变得更难。
报道一出，AI圈炸了锅。很多人担心，一旦这种技术落地，外部监控工具将更难摸清AI如何得出结论，模型的透明度会大打折扣。甚至有声音认为，这可能引发一场“AI冲向不可监控状态”的竞赛。
帕乔基的回应：复杂度没跳，监控还在
帕乔基的回应很直接。他先给了一个关键数据：包括Astra在内的前沿模型，计算图深度与GPT-4相比，差距不到两倍。计算图深度是衡量神经网络架构复杂度的核心指标，指模型内部从输入到输出需要依次执行的计算层级数量。这个数字意味着，架构并没有出现外界担忧的“跳跃式复杂度增长”。
他特别强调，发这条声明是为了避免“因为混乱的媒体报道，而引发AI冲向不可监控状态竞赛的局面”。言下之意：你们担心的那种失控，并没有发生。
思维链监控：OpenAI的老本行
帕乔基还提到，自OpenAI推出首个推理模型以来，团队一直在维护和利用思维链监控。他称这项技术“非常重要”，因为它能帮助研究人员了解模型对齐如何从其训练分布中泛化。换句话说，监控不是新话题，而是OpenAI一直以来的核心工作。
不过，他也承认现状并不乐观。思维链监控“目前还很脆弱”，并且正朝着不利的方向发展。但他强调，这“与架构变更无关”，具体原因他稍后会详细阐述。OpenAI已经计划为Astra部署额外的思维链监控，加强监控仍是当前研究的核心目标。
技术路线之争：线性vs循环
要理解这场争议，得先看清技术路线的分野。目前主流的ChatGPT、Claude和Gemini等模型，大多基于Transformer架构，按线性步骤处理信息，部分场景下能用自然语言输出推理过程——但注意，这不代表输出内容准确反映了模型内部计算。
而“深度循环”走的是另一条路：重复调用同一组网络层，持续更新内部表征。好处可能是更强的计算能力，代价是推理过程更难被外部工具追踪。这正是争议的核心——当模型越来越聪明，我们还能不能看懂它在想什么？
帕乔基的回应没有完全打消疑虑，但至少给出了一个明确的信号：OpenAI没有放弃监控，也没有让模型复杂度失控。至于思维链监控能否跟上模型进化的速度，恐怕还得看后续研究进展。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
