你肯定见过那句提示:"Selected model is at capacity. Please try a different model"。选好的模型突然告诉你容量满了,让你换一个。换完之后对话断了,上下文丢了,只能重来。这个体验有多烦,看数据就知道——OpenAI 这条公告发出后,浏览量冲到了 211.3K。
OpenAI 在公告里说得很直接:他们上线了一系列改动,并投入了更多算力,目标是"非常显著地减少"这个中断提示的出现频率。注意用词,不是彻底消灭,是"非常显著地减少"。
不只是少弹窗,还要能自己接上
更值得关注的是后半句。OpenAI 表示,当这个提示真的还是出现时,系统"最终应该会自动继续",而不是卡在那里干等。这句话的分量比前半句更重。
过去的逻辑是:容量满了,弹窗,用户自己想办法。现在的逻辑变成:容量满了,系统自己扛过去,用户不用做任何操作。从"让用户换模型"到"系统自己续上",这是处理思路的转变。
OpenAI 在公告末尾还留了一句:如果用户在实际使用中仍然遇到这个问题,可以反馈,他们会去看。这句话说明改动是渐进的,不是一次性关掉开关。
算力是硬约束,但体验可以软着陆
容量不足本质上是算力供需的问题。模型再强,同时涌入的请求超过承载上限,就得有人排队或者被拒。OpenAI 这次的做法是两条腿走路:一边加算力,一边改调度逻辑。
加算力解决的是"能不能接住"的问题,改逻辑解决的是"接不住的时候怎么办"的问题。后者往往被忽视,但对用户体验的影响更直接——用户不关心后台是扩容了还是排队了,只关心自己那句话有没有发出去、回答有没有断。
公告里没有给出具体的容量提升数字,也没有说明改动涉及哪些模型或哪些区域。从"a series of changes"这个表述看,这是一组组合调整,不是单点修复。
对于每天依赖这些模型干活的人来说,这条公告的价值不在于技术细节,而在于一个信号:那个反复打断工作流的弹窗,终于被当成一个需要认真解决的问题来对待了。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.