北京
分享至
前沿AI模型越来越多以开放权重形式放出，但规模摆在那里——想在自己机器上跑，往往得配一整套数据中心级的推理基础设施。这个门槛，把绝大多数人挡在了门外。
一款名为Strata的AI执行应用给出了另一种可能：它能让1250亿参数的Qwen3.8-Flash-Next的量子化版本，在相对容易入手的高端游戏PC上运行起来。
关键在"量子化"三个字
原始规模的模型对显存和算力的胃口极大，普通设备根本喂不饱。Strata的路径是先对模型做量子化压缩，再交给游戏PC执行——把原本需要数据中心级基础设施才能承载的体量，压到消费级硬件能接住的范围内。
它瞄准的硬件不是服务器，而是"比较easily入手的高端游戏PC"这一档。对想在本机折腾大模型、又不想搭机房的开发者来说，这个定位本身就说明了它的取舍。
目前披露的信息集中在能力描述上：1250亿参数、量子化版本、游戏PC本地执行。至于具体支持哪些显卡、跑起来多快、量化到什么精度，还没有更多细节。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
