北京
“MAI-Base-2 trained perfectly cleanly over the full run”——这句话来自一条公开发布的动态，说的是微软的MAI-Base-2在整个训练过程中跑得干干净净，没有出现中途翻车的情况。
发布者把原因归给了两件事：careful scaling ladders（细致的规模阶梯）和steady refinement of the recipe（对训练配方的持续打磨）。
“规模阶梯”和“配方”分别指什么
在模型训练的语境里，scaling ladders通常指按部就班地放大模型规模或算力规模，而不是一步到位。配方（recipe）则涵盖数据配比、超参数、训练策略这一整套组合。
这条动态没有展开这两项具体怎么做的，只给出了结论：正是这两件事，让整个训练过程保持了稳定。
“全程稳定”为什么值得单独说
大模型训练跑到中途出现损失尖峰、梯度异常甚至需要回滚重跑，是行业里并不罕见的情况。一次完整训练能“perfectly cleanly”跑完，本身就是发布者愿意拿出来讲的一个点。
这条动态配了一段GIF，发布时间为10月15日下午4:16，目前显示1,366次浏览。除此之外，没有更多关于模型参数、训练数据或具体方法的说明。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
