随手先关注,不错过每日AI热讯速递
①
9 月 19 日,亚马逊云科技在官方博客宣布,月之暗面的Kimi K3Amazon Bedrock正式可用[1]。
按官方表述,K3 是首个参数规模达到2.8 万亿的开源模型;上架 Bedrock 意味着开发者不必自建 GPU 集群,按托管服务直接调用[1]。
它原生支持视觉,上下文窗口(模型一次能读入的最大文本长度)为100 万 token,相对上一代 Kimi K2 的扩展效率提升约2.5 倍[1][2]。
月之暗面把 K3 定位为「开放前沿智能」,同时写明整体性能仍落后于Claude Fable 5GPT 5.6 Sol两个闭源模型[2]。
![]()
图来源:月之暗面 Kimi 官方博客[2]
②
架构上,K3 用稀疏混合专家(每次计算只调用一部分参数、其余参数保持静默的结构):896 个专家中每个 token 只激活16 个,配合自研的Stable LatentMoE框架[2]。
注意力层换成Kimi Delta AttentionAttention Residuals两项改动,官方给出的结果是约 2.5 倍扩展效率提升——同样的能力,训练侧算力开销更低[2]。
落到调用这一侧,最有辨识度的是缓存:K3 是 Bedrock 上首个支持显式提示缓存的开源权重模型[1]。
用法是在可复用的提示前缀后打一个缓存断点,前缀至少1024 token,写入缓存后至少保留 30 分钟,命中之后的输入 token 按折扣计费[1]。
月之暗面官方 API 的定价是:缓存命中输入0.30 美元/百万 token、未命中3.00 美元、输出15.00 美元[2]。
![]()
图来源:亚马逊云科技官方博客[1]
③
Bedrock 的开放节奏也在加快:自2025 年以来,这一平台陆续上架了DeepSeekGoogleMiniMaxMistral AI、月之暗面、NVIDIAOpenAIQwen等多家开源权重模型[1]。
平台能力同样按年迭代——2026 年加入工具调用、结构化输出、推理与响应流式,且这些能力与具体模型解耦,新模型上架即可继承[1]。
调用方式给了两条路:面向无地区限制的场景用 `global.moonshotai.kimi-k3` 全局跨区域配置,官方称比地理配置便宜约 10%;有数据驻留要求的用美国地理配置[1]。
采购方更在意的可能是安全口径:客户数据在 AWS 数据边界内处理,不共享给模型方、不用于训练底层模型,推理请求默认零数据保留,零操作员访问则避免 AWS 运维人员接触提示词与补全内容[1]。
④
「2.5 倍扩展效率」出自月之暗面自身口径,目前没有第三方独立复现结果[2]。
月之暗面在同一篇博客里列了使用边界:模型在保留思考历史的模式下训练,若智能体框架不回传历史思考内容,生成质量可能不稳定[2]。
长程任务导向也带来另一面——指令含糊时,模型可能做出用户预期之外的决策,官方建议在系统提示里写更明确的行为约束[2]。
缓存这条能力也不是白来的:KDA 架构对传统前缀缓存提出新挑战,团队为此向vLLM社区提交了对应实现,随模型一同释放[2]。
K3 本身并不是新模型。它7 月已通过月之暗面自有应用与 API 发布,官方承诺的权重在7 月 27 日前释放[2]。
这次变化发生在分发渠道上:从厂商自有接口,转为全球最大云平台的托管调用。你会为「上云」这件事改变模型选型吗?欢迎在评论区聊聊。
参考来源:
[1] Introducing Kimi K3 on Amazon Bedrockhttps://aws.amazon.com/blogs/machine-learning/introducing-kimi-k3-on-amazon-bedrock/
[2] Kimi K3: Open Frontier Intelligencehttps://www.kimi.com/blog/kimi-k3
欢迎点赞、分享、推荐
一起拥抱AI
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.