网易首页 > 网易号 > 正文 申请入驻

Strata+5090:刚被统一内存逼到墙角,传统显卡又杀回来了!

0
分享至

AI 硬件市场,可能又要迎来一次大反转了。

过去一年,英伟达和 AMD 都在力推大容量统一内存设备。从 DGX Spark、RTX Spark,到 AMD Ryzen AI Max+ 395、495,128GB 甚至更大容量的统一内存,几乎成了桌面 AI 工作站最受关注的卖点之一。我们至顶 AI 实验室也陆续评测了这些机器。

市场的反应相当直接。DGX Spark 在海外一度卖断货,部分渠道出现明显溢价,甚至有报价达到 8499 美元,而它的起售价只有 3999 美元。


为什么这么多人愿意买单?

答案很简单:128GB 统一内存意味着,一台桌面大小的机器,就有机会装下并运行千亿参数级的大模型。而传统游戏显卡,即便是售价不菲的 RTX 5090,也只有 32GB 显存。面对动辄数十 GB、上百 GB 的模型权重,显存容量很快就成了瓶颈。

一时间,统一内存似乎已经拿到了本地大模型时代的入场券,传统显卡则显得有些尴尬。

然而,就在大容量统一内存设备风头正盛的时候,一个叫 Strata 的开源项目突然杀了出来。

它让一张只有 32GB 显存的 RTX 5090,也能运行总参数量高达 1250 亿的大模型。Strata 通过显存、系统内存乃至磁盘之间的数据调度,突破了模型必须全部装进显存的限制。项目在 GitHub 上已经获得超过 2.7 万颗 Star。

今天不说模型具体怎么启动,我们来看一个真实的测试,通过Strata启动模型,干活是什么感觉。

视频博主Bijan Bowen 组装了一台华硕提供的电脑,先让较小的 Qwen3.8-27B 制作赛车游戏,再用 Strata 运行 Flash-Next 完成同一道题,最后与 Claude Opus 4.6 的结果对照。三轮测试既展示了本地模型的进步,也留下了不少需要人来发现和反馈的问题。

测试电脑使用华硕 ROG Astral RTX 5090,这张卡配有32GB GDDR7 显存。显存决定了能放入多少模型权重和运行数据;带宽则影响模型读取这些数据的速度。Bowen也说了,这是一台厂商提供的机器,看结果时需要记住它的硬件条件。

先用 Qwen3.8-27B 打个样,游戏能跑,但仍需云端模型救场

第一轮上场的是Qwen3.8-27B。这是 Qwen 发布的 270 亿参数稠密模型;所谓“稠密”,可以简单理解为生成内容时,模型的大部分参数都会参与计算。Bowen使用 Q4_K_M 四位量化版本,把权重文件压到约 17—18GB,并把上下文长度设在约 26.2 万 token。量化是用较低精度保存权重,换取更小的内存占用;上下文越长,运行时预留的空间通常也越多。因此博主判断,若把上下文缩短到 32K,这个版本有机会在 24GB 显存的卡上运行,但视频没有实际验证这一配置。

任务并不简单:做一款 F1 风格小游戏,要有赛道、车辆与车手选择、至少六名电脑对手、驾驶舱和追车视角,还要有音效。模型通过 Blender 制作三维素材,再用 Godot 搭建游戏。跑出来的版本已经有可移动的对手、迷你地图和圈数显示,但整体较简陋,部分选择流程也不顺畅。博主估计,约 95% 的工作由本地模型完成;遇到卡住的环节,他曾借助更强的云端模型给出提示。这是一个能玩的结果,却不是完全独立完成的结果。

Strata 登场,1250 亿参数模型启动

接下来才是 Strata 的关键一轮。Qwen3.8-Flash-Next与前面的 27B 稠密模型结构不同:它是总参数量约 1250 亿的混合专家模型,每次生成只调用其中一部分参数。Strata 把运行所需的数据分配到显存、系统内存,必要时也利用磁盘,让整套权重不必全部塞进显卡。项目说明给出的基础门槛包括至少 12GB 显存的受支持显卡;12GB 显存只是“能启动”的门槛。视频中的速度来自 RTX 5090,换成普通显卡后,等待时间可能完全不是一回事。


每秒 170 Token,本地模型修BUG

博主选用约三位精度的 IQ3_S 量化版本,仍给它同一道赛车游戏题。此前一次 BMX 游戏试做曾出现角色反复从半空坠落的故障;这回赛车项目的开场画面和 Blender 场景明显更丰富,能看到赛车、维修区、看台和树木。但按下车手与车辆选择后,画面一度只剩浅蓝色。博主把现象反馈给模型,模型重新检查并修好入口;随后它又根据反馈修正了车轮转动方向。实际游玩仍有方向控制反转、地图形状异常等问题。视频显示,生成速度在相关阶段约为每秒 160—170 token;这个数字描述的是输出速度,不能单独代表游戏质量。


对阵 Claude Opus 4.6,本地方案意外占了上风

为了找参照,博主又让Claude Opus 4.6用相同提示词制作游戏。他选择中等推理强度,通过 API 付费调用。Opus 4.6 是 Anthropic 于 2026 年 2 月发布的模型;其标准 API 标价为每百万输入 token 5 美元、输出 token 25 美元。视频里首次生成花了约 2 美元,继续排查故障后累计接近 4.5 美元。这个版本也遇到选择车辆后卡住、赛道上疑似有隐形碰撞体等问题,博主认为完成度不如 Strata 那一轮。

单从这次测试看,1250 亿参数的本地模型意外地击败了 Opus 4.6。当然,模型对比不算严格,因为模型、量化精度和推理设置都不一致,过程中还有人工反馈。不能说明本地模型普遍强于云端模型。

最重要的点是本地模型已经走到了可以调用 Blender、Godot,反复修改一个可运行项目的阶段。对 Strata 来说,这已经是一个足够值得关注的信号。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
广东大胜广厦止连败!1人打成核心,教练变阵救赎,首发该调整了

广东大胜广厦止连败!1人打成核心,教练变阵救赎,首发该调整了

董说体育
2026-10-22 22:00:33
“爷爷黄毛,奶奶满背!”一家五口火了,网友:孩子小学毕业就算高学历!

“爷爷黄毛,奶奶满背!”一家五口火了,网友:孩子小学毕业就算高学历!

林林先生
2026-09-12 12:25:03
赶紧加油,下周【油价或大涨】,全国92,95汽油预涨“升至”2.5毛/升,2026年第14次上涨,10月29日调价“或大涨”!

赶紧加油,下周【油价或大涨】,全国92,95汽油预涨“升至”2.5毛/升,2026年第14次上涨,10月29日调价“或大涨”!

猪友巴巴
2026-10-22 14:45:06
50岁贝克汉姆剪短发现身温网,封爵喜事挂脸上,网友:布鲁克林那点事真没影响他心情

50岁贝克汉姆剪短发现身温网,封爵喜事挂脸上,网友:布鲁克林那点事真没影响他心情

手工制作阿歼
2026-10-21 01:27:51
蓉城本轮主场与大连英博比赛还没开打!球队就有可能等来久违强援复出

蓉城本轮主场与大连英博比赛还没开打!球队就有可能等来久违强援复出

振刚说足球
2026-10-23 08:25:17
西安6岁女童被拐9年,每天隐忍不发背家庭地址,最终找到父母并将人贩子送进监狱

西安6岁女童被拐9年,每天隐忍不发背家庭地址,最终找到父母并将人贩子送进监狱

磊子讲史
2026-10-20 15:39:41
人民币升值将引爆财富增长:人民币越值钱,你的工资房子越值钱

人民币升值将引爆财富增长:人民币越值钱,你的工资房子越值钱

兴趣知识
2026-10-11 01:12:39
3-1到3-3!中国男足无缘三连胜,2人同时被罚下,仍基本晋级四强

3-1到3-3!中国男足无缘三连胜,2人同时被罚下,仍基本晋级四强

侃球熊弟
2026-10-23 07:29:23
孙坚自曝被家人当提款机,姐姐月子中心15万记他账上,养家又还债

孙坚自曝被家人当提款机,姐姐月子中心15万记他账上,养家又还债

观鱼听雨
2026-10-22 21:23:49
上海这一夜,章子怡变样了,王楚然美了,郭晶晶的生图成全场焦点

上海这一夜,章子怡变样了,王楚然美了,郭晶晶的生图成全场焦点

糊咖娱评
2026-10-22 22:14:25
陕西女子入住韩国济州岛民宿,在床缝捡到中国人遗失的苹果手机,发帖寻人恰被江苏失主刷到,当事人:回国后将邮寄归还

陕西女子入住韩国济州岛民宿,在床缝捡到中国人遗失的苹果手机,发帖寻人恰被江苏失主刷到,当事人:回国后将邮寄归还

大爱三湘
2026-10-22 21:50:10
提醒:今年冬天可能是50年以来少见的反常冬天,有5大特点

提醒:今年冬天可能是50年以来少见的反常冬天,有5大特点

今日养生之道
2026-10-22 06:31:39
一个扫码弹窗广告搞瘫一整个停车场惹众怒!网友:这是纯坏……

一个扫码弹窗广告搞瘫一整个停车场惹众怒!网友:这是纯坏……

柴狗夫斯基
2026-10-23 08:18:31
泽连斯基:我只是特朗普中期选举前的“替罪羊”,此前特朗普称乌打击俄炼油厂是在给世界和美国制造麻烦

泽连斯基:我只是特朗普中期选举前的“替罪羊”,此前特朗普称乌打击俄炼油厂是在给世界和美国制造麻烦

极目新闻
2026-10-17 10:20:08
许尔策勒:我们没有发挥出最高水平,传中精度和进攻站位不好

许尔策勒:我们没有发挥出最高水平,传中精度和进攻站位不好

懂球帝
2026-10-23 03:28:16
毛不易在好友婚礼上发言,一句“结婚对咱们这个年龄来说,越来越不意味着什么”引争议

毛不易在好友婚礼上发言,一句“结婚对咱们这个年龄来说,越来越不意味着什么”引争议

韩小娱
2026-10-22 08:39:12
我国越来越多的人患脑梗?建议:停止食用“4物”,保护大脑

我国越来越多的人患脑梗?建议:停止食用“4物”,保护大脑

任医生聊健康
2026-09-17 13:15:13
1999年,一江西妇女到北京找知青丈夫,首长听到此事后深思了起来

1999年,一江西妇女到北京找知青丈夫,首长听到此事后深思了起来

牛魔王与芭蕉扇
2025-04-15 16:26:10
富豪补税带崩港股?

富豪补税带崩港股?

25号观察
2026-10-22 16:20:32
CBA上海男篮赛季首败,赛后球迷怒喷3人,外援问题开始暴露了

CBA上海男篮赛季首败,赛后球迷怒喷3人,外援问题开始暴露了

南海浪花
2026-10-23 07:34:46
2026-10-23 09:31:00
至顶AI实验室 incentive-icons
至顶AI实验室
一个专注于探索生成式AI前沿技术及其应用的实验室。
3534文章数 186关注度
往期回顾 全部

数码要闻

索尼日本停产最后一款独立4K蓝光机 普通蓝光播放器仍在售

头条要闻

牛弹琴:普京最新表态砍出五刀 一刀更比一刀狠

头条要闻

牛弹琴:普京最新表态砍出五刀 一刀更比一刀狠

体育要闻

卢卡:伦德伯格,欢迎来到NBA

娱乐要闻

芭莎盛典,张小斐因救场实现口碑暴涨

财经要闻

娃哈哈集团董事长许思敏离职

科技要闻

OpenAI估值打折,AI还在吸金,投资人不上头了

汽车要闻

搭城市NOA/续航555KM 捷达M6上市售7.98万起

态度原创

数码
游戏
时尚
本地
手机

数码要闻

Durabook推出R12三防平板:至高酷睿Ultra 7 366H处理器、RTX 2000 Ada显卡

哈兰德自曝玩《使命召唤:现代战争4》时偏爱蹲点

“风衣+裙子”才是今年秋天绝美搭配,这样搭显瘦还时髦

本地新闻

一场垂直登高赛跑出了"山城"的真正内核

手机要闻

iPhone Duo首销在即:苹果零售店门前立起巨型模型 场面壮观

无障碍浏览 进入关怀版