网易首页 > 网易号 > 正文 申请入驻

Strata+5090:刚被统一内存逼到墙角,传统显卡又杀回来了!

0
分享至

AI 硬件市场,可能又要迎来一次大反转了。

过去一年,英伟达和 AMD 都在力推大容量统一内存设备。从 DGX Spark、RTX Spark,到 AMD Ryzen AI Max+ 395、495,128GB 甚至更大容量的统一内存,几乎成了桌面 AI 工作站最受关注的卖点之一。我们至顶 AI 实验室也陆续评测了这些机器。

市场的反应相当直接。DGX Spark 在海外一度卖断货,部分渠道出现明显溢价,甚至有报价达到 8499 美元,而它的起售价只有 3999 美元。


为什么这么多人愿意买单?

答案很简单:128GB 统一内存意味着,一台桌面大小的机器,就有机会装下并运行千亿参数级的大模型。而传统游戏显卡,即便是售价不菲的 RTX 5090,也只有 32GB 显存。面对动辄数十 GB、上百 GB 的模型权重,显存容量很快就成了瓶颈。

一时间,统一内存似乎已经拿到了本地大模型时代的入场券,传统显卡则显得有些尴尬。

然而,就在大容量统一内存设备风头正盛的时候,一个叫 Strata 的开源项目突然杀了出来。

它让一张只有 32GB 显存的 RTX 5090,也能运行总参数量高达 1250 亿的大模型。Strata 通过显存、系统内存乃至磁盘之间的数据调度,突破了模型必须全部装进显存的限制。项目在 GitHub 上已经获得超过 2.7 万颗 Star。

今天不说模型具体怎么启动,我们来看一个真实的测试,通过Strata启动模型,干活是什么感觉。

视频博主Bijan Bowen 组装了一台华硕提供的电脑,先让较小的 Qwen3.8-27B 制作赛车游戏,再用 Strata 运行 Flash-Next 完成同一道题,最后与 Claude Opus 4.6 的结果对照。三轮测试既展示了本地模型的进步,也留下了不少需要人来发现和反馈的问题。

测试电脑使用华硕 ROG Astral RTX 5090,这张卡配有32GB GDDR7 显存。显存决定了能放入多少模型权重和运行数据;带宽则影响模型读取这些数据的速度。Bowen也说了,这是一台厂商提供的机器,看结果时需要记住它的硬件条件。

先用 Qwen3.8-27B 打个样,游戏能跑,但仍需云端模型救场

第一轮上场的是Qwen3.8-27B。这是 Qwen 发布的 270 亿参数稠密模型;所谓“稠密”,可以简单理解为生成内容时,模型的大部分参数都会参与计算。Bowen使用 Q4_K_M 四位量化版本,把权重文件压到约 17—18GB,并把上下文长度设在约 26.2 万 token。量化是用较低精度保存权重,换取更小的内存占用;上下文越长,运行时预留的空间通常也越多。因此博主判断,若把上下文缩短到 32K,这个版本有机会在 24GB 显存的卡上运行,但视频没有实际验证这一配置。

任务并不简单:做一款 F1 风格小游戏,要有赛道、车辆与车手选择、至少六名电脑对手、驾驶舱和追车视角,还要有音效。模型通过 Blender 制作三维素材,再用 Godot 搭建游戏。跑出来的版本已经有可移动的对手、迷你地图和圈数显示,但整体较简陋,部分选择流程也不顺畅。博主估计,约 95% 的工作由本地模型完成;遇到卡住的环节,他曾借助更强的云端模型给出提示。这是一个能玩的结果,却不是完全独立完成的结果。

Strata 登场,1250 亿参数模型启动

接下来才是 Strata 的关键一轮。Qwen3.8-Flash-Next与前面的 27B 稠密模型结构不同:它是总参数量约 1250 亿的混合专家模型,每次生成只调用其中一部分参数。Strata 把运行所需的数据分配到显存、系统内存,必要时也利用磁盘,让整套权重不必全部塞进显卡。项目说明给出的基础门槛包括至少 12GB 显存的受支持显卡;12GB 显存只是“能启动”的门槛。视频中的速度来自 RTX 5090,换成普通显卡后,等待时间可能完全不是一回事。


每秒 170 Token,本地模型修BUG

博主选用约三位精度的 IQ3_S 量化版本,仍给它同一道赛车游戏题。此前一次 BMX 游戏试做曾出现角色反复从半空坠落的故障;这回赛车项目的开场画面和 Blender 场景明显更丰富,能看到赛车、维修区、看台和树木。但按下车手与车辆选择后,画面一度只剩浅蓝色。博主把现象反馈给模型,模型重新检查并修好入口;随后它又根据反馈修正了车轮转动方向。实际游玩仍有方向控制反转、地图形状异常等问题。视频显示,生成速度在相关阶段约为每秒 160—170 token;这个数字描述的是输出速度,不能单独代表游戏质量。


对阵 Claude Opus 4.6,本地方案意外占了上风

为了找参照,博主又让Claude Opus 4.6用相同提示词制作游戏。他选择中等推理强度,通过 API 付费调用。Opus 4.6 是 Anthropic 于 2026 年 2 月发布的模型;其标准 API 标价为每百万输入 token 5 美元、输出 token 25 美元。视频里首次生成花了约 2 美元,继续排查故障后累计接近 4.5 美元。这个版本也遇到选择车辆后卡住、赛道上疑似有隐形碰撞体等问题,博主认为完成度不如 Strata 那一轮。

单从这次测试看,1250 亿参数的本地模型意外地击败了 Opus 4.6。当然,模型对比不算严格,因为模型、量化精度和推理设置都不一致,过程中还有人工反馈。不能说明本地模型普遍强于云端模型。

最重要的点是本地模型已经走到了可以调用 Blender、Godot,反复修改一个可运行项目的阶段。对 Strata 来说,这已经是一个足够值得关注的信号。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
女子花100多元买了件“骆驼”冲锋衣 logo竟是一头咧着嘴笑的驴

女子花100多元买了件“骆驼”冲锋衣 logo竟是一头咧着嘴笑的驴

闪电新闻
2026-10-22 19:26:26
重大调整!两年来唯一获批地铁规划,终于要开工了

重大调整!两年来唯一获批地铁规划,终于要开工了

西部城市
2026-10-22 20:41:45
亚锦赛女团决赛国乒变阵!陈熠0-3桥本帆乃香,王艺迪PK张本美和

亚锦赛女团决赛国乒变阵!陈熠0-3桥本帆乃香,王艺迪PK张本美和

漫川舟船
2026-10-23 05:26:25
台风“蔷琵”影响时段已定!申城明夜暴雨、下周降温“齐上线”→

台风“蔷琵”影响时段已定!申城明夜暴雨、下周降温“齐上线”→

上海徐汇
2026-10-23 01:23:58
陆毅女儿贝儿18岁成人礼,一袭粉裙惊艳亮相,完美继承父母高颜值

陆毅女儿贝儿18岁成人礼,一袭粉裙惊艳亮相,完美继承父母高颜值

娱你同欢
2026-10-22 20:19:37
比砒霜毒 68 倍!冰箱里这 3 样东西,开水煮不死、油炸不掉,赶紧扔

比砒霜毒 68 倍!冰箱里这 3 样东西,开水煮不死、油炸不掉,赶紧扔

时尚的弄潮
2026-10-20 03:53:03
很多人都认错了!抗战牺牲最高级别将领,比左权高半级,少为人知

很多人都认错了!抗战牺牲最高级别将领,比左权高半级,少为人知

纪史行者
2026-10-22 06:25:03
1995年,卡塔尔国王外出度假,王储哈马德趁机将国王踹下王位,顺利登基,反手冻结父亲的所有财产,度假的老国王直接傻眼了

1995年,卡塔尔国王外出度假,王储哈马德趁机将国王踹下王位,顺利登基,反手冻结父亲的所有财产,度假的老国王直接傻眼了

扶苏聊历史
2026-10-22 18:18:05
又一个被抓到缅甸,重庆24岁的郑凡,去西双版纳散心,人没回来

又一个被抓到缅甸,重庆24岁的郑凡,去西双版纳散心,人没回来

蹲坑看世界
2026-10-17 19:28:40
正负值-45分历史最差处子秀,但请别嘲笑威尔逊,猛龙这阵容谁来都不好对付

正负值-45分历史最差处子秀,但请别嘲笑威尔逊,猛龙这阵容谁来都不好对付

兵哥篮球故事
2026-10-22 15:18:46
问界被曝采用博世智驾!

问界被曝采用博世智驾!

电动内参
2026-10-20 22:57:48
证监会拟奖励17起案件“吹哨人”,华微电子案关键当事人仍羁押

证监会拟奖励17起案件“吹哨人”,华微电子案关键当事人仍羁押

财通社
2026-10-22 20:04:54
中方澄清:所谓“胡塞武装使用中国零件制造导弹”是抹黑造谣,如也方提供材料,中方愿认真调查

中方澄清:所谓“胡塞武装使用中国零件制造导弹”是抹黑造谣,如也方提供材料,中方愿认真调查

每日经济新闻
2026-10-22 16:27:41
巴萨2比4重创巴黎?K77重伤预计赛季报销,欧冠三连悬了

巴萨2比4重创巴黎?K77重伤预计赛季报销,欧冠三连悬了

南方都市报
2026-10-22 11:56:29
37岁窦骁宣布喜讯

37岁窦骁宣布喜讯

背包旅行
2026-10-20 19:12:47
山东省烟草专卖局(公司)、山东中烟工业有限责任公司招聘248人

山东省烟草专卖局(公司)、山东中烟工业有限责任公司招聘248人

音乐时光的娱乐
2026-10-22 05:55:30
和卡里克一起走人!曼联灾难水货该清理!8000 万豪砸彻底打水漂

和卡里克一起走人!曼联灾难水货该清理!8000 万豪砸彻底打水漂

澜归序
2026-10-22 09:30:25
大明星赵薇的前夫,判了!

大明星赵薇的前夫,判了!

微微热评
2026-07-29 12:12:29
前TVB花旦一个月痛失两位挚友,沉重发文哀悼:有一天,那边再见!

前TVB花旦一个月痛失两位挚友,沉重发文哀悼:有一天,那边再见!

广州笋嘢益街坊
2026-10-21 22:20:29
“我从睡梦中惊醒,听机组人员说有飞鸟碰破飞机前面玻璃”,桂林航空一航班紧急返航,客服称系机械故障,已更换飞机再次起飞

“我从睡梦中惊醒,听机组人员说有飞鸟碰破飞机前面玻璃”,桂林航空一航班紧急返航,客服称系机械故障,已更换飞机再次起飞

南方都市报
2026-10-22 16:48:44
2026-10-23 06:04:49
至顶AI实验室 incentive-icons
至顶AI实验室
一个专注于探索生成式AI前沿技术及其应用的实验室。
3534文章数 186关注度
往期回顾 全部

数码要闻

索尼日本停产最后一款独立4K蓝光机 普通蓝光播放器仍在售

头条要闻

西藏那曲7.0级地震已造成16人遇难32人受伤

头条要闻

西藏那曲7.0级地震已造成16人遇难32人受伤

体育要闻

卢卡:伦德伯格,欢迎来到NBA

娱乐要闻

芭莎盛典,张小斐因救场实现口碑暴涨

财经要闻

宁德,跌成了一只红利股?

科技要闻

腾讯云谷歌紧急行动!互联网安全出大事

汽车要闻

搭城市NOA/续航555KM 捷达M6上市售7.98万起

态度原创

艺术
本地
教育
数码
公开课

艺术要闻

故宫藏一幅特殊古画:饱经起落的帝王画钟馗,不是吓人,是送整年好运

本地新闻

一场垂直登高赛跑出了"山城"的真正内核

教育要闻

研三秋招找工作才发现:有没有论文不重要,重要的是英语六级不能少,好多国央企都卡六级

数码要闻

黑峡谷推出WEEK系列全铝三模矮轴机械键盘:84/100双版本,539元起

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版