北京
一个763B参数的开源模型，检查点原本510GB，社区把它压到了113.6GB。这个体积刚好能放进单张128GB的 DGX Spark。DeepSeek 这次放出的更新版开源权重模型采用 MIT 许可，量化动作来自社区，不是官方。
压缩的幅度接近四倍半。对跑推理的人来说，这意味着原本需要多卡分摊的权重，现在有了单机单卡装下的可能。DGX Spark 的 128GB 显存上限，成了这次量化尺寸的参照坐标——113.6GB 卡在这个数字之下，留出的余量并不宽裕。
DeepSeek 自己给出的基准测试里，1017 版本在三个编码相关项目上压过了 GPT-5.6 Sol：
- DeepSWE：77.073.0
- Automation-Bench：60.545.8
- Terminal-Bench 4.0：42.339.9
三项里差距最大的是 Automation-Bench，接近 15 分。DeepSWE 和 Terminal-Bench 4.0 的领先幅度则收窄到个位数。这些数字出自 DeepSeek 自身的测试口径，不是第三方复现结果。
量化版本能不能在 Spark 硬件上跑出对应表现，目前还没有基准测试数据。体积装得下，和实际跑得动、跑得快，是两件事。显存占用只是推理链条上的一环，带宽、算力调度、批处理规模都会影响最终吞吐。
另一个现实约束在软件栈。主线 llama.cpp 尚不支持 V4.1，想直接上手这套权重的人，得先确认自己的推理框架版本是否跟得上。社区把模型压小了，工具链的适配还没同步到位。
从算力视角看，这条路径的吸引力在于把大模型的部署门槛从多卡集群拉回到单机。510GB 到 113.6GB 的压缩比，决定了同样一张卡能承载多大的模型；而基准测试里的分数差，决定了压完之后还剩下多少能力。两个数字放在一起看，才是这次量化真正的分量。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
