终于,Kimi K3正式开放权重下载了,接下来的难题是,你用什么来设备来跑。
2.8T的权重,不是一般硬件能扛得动的。
解法立刻就有了↓
阿里云宣布:真武M890超节点同步完成Day 0适配!
![]()
这是国内首次用国产超节点跑通近3万亿参数模型。
Kimi K3是目前业界参数规模最大的开源模型,已经超越了普通8卡机的能力(即便勉强装下权重,也没有空间留给模型运行和长上下文),因此官方建议使用64张以上加速卡组成的超节点。
阿里云真武超节点解决的,就是这个难题↓
它用ICN Switch高速互联芯片,把64张平头哥真武M890连接成一个整体,卡间通信带宽达到800GB/s,总显存约9TB,轻松吃下权重,并有富裕的空间来支撑模型运行与超长上下文。
(ICN Switch是阿里自研的Scale-up互联芯片,兼容UALink)
![]()
硬件能扛住只是第一步。
阿里云、平头哥和Kimi团队早已“暗通款曲”:三方针对Kimi K3联合优化了软件栈和核心算子,让模型更适合在真武芯片上运行。
测试显示,完成适配后,TTFT降低约35%,单卡Decode速度提升至原来的1.8倍,稳定处理1M长上下文。
据了解,阿里云与Kimi将继续推进国产算力合作,千问AI平台和阿里云百炼也将提供Kimi K3模型API。
开发者无需自己购买和连接几十张算力卡,通过云服务就能直接使用这款近3万亿参数网红模型。
此前,真武超节点已经适配了阿里Qwen3.8。
国产超节点×国产优质模型,这对CP可以嗑起来了。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.