网易首页 > 网易号 > 正文 申请入驻

黄仁勋惨了!英伟达被抓包恶意劣化显卡性能!AI限速近10倍

0
分享至


图片

「

黄圣变黄贼

」

之前AI芯片Jalapeño发布时,OpenAI科学家曾指控:英伟达GPU沉迷跑分参数,让超90%硬件性能白白浪费!

现在,借助AI Coding技术,老黄的骚操作被网友扒出来!

事情是这样的,最近开源AI推理引擎Strata以极限榨干硬件性能在全球科技圈大火,动辄在个人电脑上跑出赶超云端大模型的输出token速度!

海外社交媒体X上,一群技术大拿开始自发将Strata适配到不同硬件上,然后大家惊讶地发现,英伟达竟然故意大幅限制自家显卡的AI性能近十倍!

具体操作是:

英伟达人为将20~50系列显卡的AI专用矩阵乘法运算速度,降低50~80%!

除此之外,故意让大模型每次运算时,通过闪存重新加载验证部分参数,造成大模型输出速度降低近90%!

X用户@tvytlx总结得很清楚:RTX 3090 Ti和A6000其实是同一块GA102硅片。区别不在核心数量、不在显存,甚至不在功耗墙,而在于一个标志位——一个写着FULL_SPEED,一个写着HALF_SPEED。

Reddit上有人翻了大量代码后还原了事情真相:从20系到50系的消费级游戏卡,NVIDIA在FP16、BF16做矩阵乘再累加到FP32这条路径上,故意把指令发射速率砍掉一半。40系和50系连FP8也砍了。专业卡和数据中心卡则是全速。

被砍的,恰好是AI最吃算力的那几块:

  • 训练、微调LoRA
  • 文生图、文生视频这类扩散模型
  • 大模型的prefill(读长prompt那一步)

一个人跟模型聊天、一个字一个字往外吐,基本没影响——那一步主要卡显存带宽。

有人实测,自己的RTX 6000 PRO核心数只比5090多10-15%,prefill却快了70%左右。差距就在这里。

GitHub上已经有开源项目gpu-unlock(Zagitta维护),用一个Linux内核模块,在NVIDIA驱动接管之前抢先把速度选择器改掉。不需要刷vBIOS,也不需要每次驱动更新后重新打补丁。

3090 Ti实测数据相当夸张:

  • BF16:87.5 → 157.4 TFLOPS(约+80%)
  • TF32:42.6 → 82.6 TFLOPS(接近翻倍)
  • FP16也有明显提升

社区反馈里,3080、3070、3060 12GB等卡也有60-80%的矩阵乘收益。vLLM长上下文prefill能快14-36%,ComfyUI生图大概快47-59%。token生成(decode)基本不变,因为那是带宽瓶颈。

40系已经有人在Windows上跑通AD103,并开始往其他型号移植;50系更难,NVIDIA加了熔丝专门读这个标志位。有意思的是,50系的FP4似乎没被砍。

仅仅过了一天,又有大神发现英伟达的另一项人为性能限制!

X用户@MinLiBuilds发布推文,揭露了自己仅改造英伟达显卡底层软件两行代码,就直接突破了官方的性能限制!

一张魔改RTX 4090 48GB,跑DeepSeek-V4.1-Flash(ISTA GSQ-RCO IQ2_XXS,2.00 bpw),用Strata官方引擎。默认配置下生成速度只有5.35 tok/s,首Token等待动辄三十多秒,长提示词甚至超过100秒。折腾一上午查日志,发现真正的瓶颈居然是SATA SSD。

专家缓存命中率明明已经89.4%,但每生成一个Token,系统仍要从SSD读取约77.7 MB专家数据。SATA盘带宽就那么点,天花板自然卡在6 tok/s左右。机器有256GB内存,作者只改了两个参数:

--ssd-cache 0 --mmap-experts off

把约91.7GB的CPU专家完整驻留进内存,不再频繁读盘。

结果直接起飞:

  • 生成速度 5.35 → 42.64 tok/s(约8倍)
  • 首Token等待 33.36 → 0.66秒
  • 长提示词首Token 102.69 → 11.79秒

冷启动加载时间翻倍(约552秒),但日常使用体验完全变了。

这不是玄学超频,也不是改模型精度,纯粹是把专家权重从“磁盘流式”改成“内存驻留”。MoE模型的特性决定了:总参数巨大,但每个Token只激活少量专家。Strata这类引擎会把专家分层放在GPU缓存、系统RAM、甚至SSD上。默认配置在内存充足时仍可能走mmap/低RAM路径,导致即使命中率高,依然有大量磁盘I/O拖后腿。

内存对MoE真的太重要了。作者自己的总结很实在:这速度和首Token延迟目前还没到“生产可用”的128K/256K长上下文级别,但已经证明单卡4090 48GB的潜力远没挖完。接下来他计划继续压榨单卡极限、研究草稿模型加速、开大KV Cache、以及多卡测试。

你觉得这是英伟达为了保护硬件,而“不得不”写下的保护机制?

NO!

对GPU寿命有影响吗?

几乎没有额外伤害,甚至更友好。

改动主要发生在CPU/内存与SSD之间,GPU侧还是正常的推理计算。速度从5 tok/s拉到42 tok/s,意味着显卡更“忙”、单位时间做更多有效计算,但并不是超频或违规操作,只是去掉了空等磁盘的浪费。

真正伤显卡的是长期高温满载、散热不良、电源不稳。只要温度控制在合理范围,这种优化属于正常推理负载。反过来,之前每Token狂读SATA SSD,对硬盘寿命反而不利。现在几乎不读盘了,SSD更轻松。

会引发安全问题或严重错误率吗?

不会。

这只是权重存放位置和加载方式的变化,计算逻辑、量化精度、激活专家的路径完全一致。没有剪枝、没有专家替换、没有降低精度。正确加载到内存后,输出结果与全内存模式一致,不会引入额外幻觉或数值错误。

唯一要注意的实际风险是内存占用大幅上升。如果机器内存不够,会出现OOM或严重换页,反而更慢甚至崩溃。作者有256GB,所以没问题。长上下文时KV Cache也会继续吃内存/显存,需要再调。

老黄真是太狠了!️

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
安哥拉接连发生抢劫案件,被抢中国公民中疑有一人被员工杀害,中使馆发布提醒

安哥拉接连发生抢劫案件,被抢中国公民中疑有一人被员工杀害,中使馆发布提醒

界面新闻
2026-10-27 13:36:25
一场血流成河的战斗即将打响!马科斯下死命令,三大部门争着立功

一场血流成河的战斗即将打响!马科斯下死命令,三大部门争着立功

呼呼历史论
2026-10-27 06:50:26
不得不说蔚来老板娘确实漂亮,我一个女都要看多两眼

不得不说蔚来老板娘确实漂亮,我一个女都要看多两眼

东方不败然多多
2026-10-27 15:18:53
卢拉对手拒绝承认败选:我绝不接受在最后一刻更改游戏规则,这在巴西历史上前所未有;选举律师:延长时间的决定过于仓促,投票结果或无效

卢拉对手拒绝承认败选:我绝不接受在最后一刻更改游戏规则,这在巴西历史上前所未有;选举律师:延长时间的决定过于仓促,投票结果或无效

极目新闻
2026-10-26 11:46:08
宪法规定:中国公民享有人身自由权利。

宪法规定:中国公民享有人身自由权利。

abc350514
2026-09-13 16:14:58
马斯克同情俄军义务兵!俄罗斯“叛徒”助力乌克兰,消灭超三百名俄军

马斯克同情俄军义务兵!俄罗斯“叛徒”助力乌克兰,消灭超三百名俄军

鹰眼Defence
2026-10-27 16:57:22
一句“老登”,让小鹏的新车发布会变成了全网争论

一句“老登”,让小鹏的新车发布会变成了全网争论

半耳聆
2026-10-25 11:21:49
黑龙江一婚宴吃外卖?宾客称想吃什么点什么,新娘:朋友提的建议,每人100餐标,不必拘泥传统

黑龙江一婚宴吃外卖?宾客称想吃什么点什么,新娘:朋友提的建议,每人100餐标,不必拘泥传统

极目新闻
2026-10-27 12:38:17
纪委朋友酒后吐真言:被围猎的干部,基本都栽在这三个“第一次”

纪委朋友酒后吐真言:被围猎的干部,基本都栽在这三个“第一次”

千秋文化
2026-09-20 19:57:40
随着勇士134-114,雷霆125-114,火箭120-110,NBA最新积分榜出炉

随着勇士134-114,雷霆125-114,火箭120-110,NBA最新积分榜出炉

侧身凌空斩
2026-10-27 12:35:16
没有水货!皇马3大新援闪耀国家德比 穆帅买人眼光获认可

没有水货!皇马3大新援闪耀国家德比 穆帅买人眼光获认可

球事百科吖
2026-10-27 05:58:04
靳伟跨省履新,任湖南省委副书记!谭明鹤,任广州市委常委、秘书长!

靳伟跨省履新,任湖南省委副书记!谭明鹤,任广州市委常委、秘书长!

起喜电影
2026-10-27 08:36:52
暴降!冷冷冷!天津冲上全国第一!

暴降!冷冷冷!天津冲上全国第一!

天津生活通
2026-10-27 13:51:40
最佳血压是多少?医生建议:过60岁以后,血压最好保持这标准

最佳血压是多少?医生建议:过60岁以后,血压最好保持这标准

健康科普365
2026-10-27 11:35:14
“我们自愿有何罪”?三男三女聚众淫乱,三亚高知换妻游戏案始末

“我们自愿有何罪”?三男三女聚众淫乱,三亚高知换妻游戏案始末

易玄
2026-09-13 11:43:30
云南这则新闻,难道代价就只能落到老百姓头上?

云南这则新闻,难道代价就只能落到老百姓头上?

胖胖说他不胖
2026-09-29 10:00:34
刘涛晚宴抓拍曝光:笑容僵硬、眼神躲闪,明星的酒局有多难熬?

刘涛晚宴抓拍曝光:笑容僵硬、眼神躲闪,明星的酒局有多难熬?

做一个合格的吃瓜群众
2026-10-25 11:35:56
巴西最高法院禁止弗拉维奥·博索纳罗离境,责令其24小时内上交护照,前一天他拒绝承认败选,寻求废除选举结果

巴西最高法院禁止弗拉维奥·博索纳罗离境,责令其24小时内上交护照,前一天他拒绝承认败选,寻求废除选举结果

政知新媒体
2026-10-27 11:12:59
从4万2跌剩1万3!广州南沙神话破灭,掏空家底的中产全亏懵

从4万2跌剩1万3!广州南沙神话破灭,掏空家底的中产全亏懵

说故事的阿袭
2026-10-27 09:29:42
两台冰柜被平台“仅退款”后,买家称已销毁,商家跨省赶到上海维权,发现冰柜正插着电在使用!律师:可能涉嫌诈骗罪

两台冰柜被平台“仅退款”后,买家称已销毁,商家跨省赶到上海维权,发现冰柜正插着电在使用!律师:可能涉嫌诈骗罪

扬子晚报
2026-10-26 16:19:44
2026-10-27 20:11:00
AI顿悟涌现时
AI顿悟涌现时
零门槛AI大模型前沿科普,带你走近本地端侧AI智能体时代
21文章数 3关注度
往期回顾 全部

科技要闻

Anthropic最硬气招股书,先把丑话说在前头

头条要闻

家长月均花约3000元住酒店陪读:综合下来比租房划算

头条要闻

家长月均花约3000元住酒店陪读:综合下来比租房划算

体育要闻

世界上最无趣的前锋,拿下了金球奖

娱乐要闻

芒果遇到厉娜和许飞笑发财了!

财经要闻

韩国芯片出口额可能下降高达1000亿美元

汽车要闻

纯电续航1003km 大五座SUV腾势N8正式开启预订

态度原创

数码
艺术
亲子
游戏
军事航空

数码要闻

为避免在韩国市场引发争议,苹果悄悄移除当地官网iPad mini(A20 Pro)海报中的手部

艺术要闻

书法“又丑又怪”的郑板桥,为何能被专家追捧,启功说了句公道话

亲子要闻

宝宝喊爸爸时声音短促响亮,喊妈妈时声音变得软糯,网友:这谁听了不心软啊

《蕾卡的移动工坊》1.0 正式版现已发售,支持简体中文,优惠价 49.4 元

军事要闻

伊总统佩泽希齐扬抵达莫斯科 俄仪仗队列队迎接

无障碍浏览 进入关怀版