北京
点击观看直播回放
当华尔街仍在为各大科技巨头每年数千亿美元的AI资本开支争论不休时，一线的企业买家们却给出了一份特殊的答案。
近日，VentureBeat调查了上百家百人以上公司的技术负责人，在未来的IT采购规划中发现一个特殊的变化：
非英伟达芯片/加速器（如AWS Trainium、Google TPU、AMD Instinct等）在企业评估列表中的比例，竟然高出英伟达下一代Blackwell（GB300）系列GPU整整14个百分点（如42%对28%）！
2023至今，“抢购英伟达GPU”一直是整个科技界唯一的口号，到了2026年风向变了？
今天我们就和你一起盘盘这场用户叛逃大戏究竟意味着什么？
“算力饥渴”背后：企业86%的GPU都在“半闲置”
在公众的认知中，算力依然是极其稀缺的资源。英伟达创始人黄仁勋反复强调“算力就是收入”，各大巨头的设备投资（CapEx）总额在2026年预计将逼近令人咋舌的6900亿美元。
然而，VentureBeat的这份企业端调查却给出了一个大相径庭的结论：
86%的企业承认，其运营的GPU实际利用率在50%或以下，更有接近一半（49%）的企业，GPU利用率甚至在25%以下，仅有12%的企业能够实现50%以上的“高效利用”。
一边是新闻天天报道算力荒，另一边却是大量芯片闲置，为什么会出现这种情况呢？
先要分清：新闻里的“算力荒”和现实中的“芯片闲置”，发生在两拨完全不同的玩家身上。
“算力荒”是云厂商的事。
每天霸占头条的“一卡难求”，主角几乎都是OpenAI、Anthropic微软、谷歌、亚马逊、Meta、xAI这些超级云厂商和模型公司。
这些AI、云计算大厂要建的是几万张甚至几十万张卡的超大规模集群，用来训练下一代前沿模型、承接爆发的推理流量。这种级别的集中采购，短期内的确供不应求。
闲置的GPU，大多来自被FOMO情绪裹挟的普通企业。
2023年以来，“不买卡就落后”的恐慌在董事会里蔓延，大量并不经营云业务、也没有AI工程能力的公司也抢着下单囤卡。
它们买到了卡，却既没有现成的数据中心、电力和冷却条件，也没有能把几千张卡跑起来的工程团队，芯片只能躺在仓库里“吃灰”。
最典型的案例是硅谷顶级风投a16z（Andreessen Horowitz）。
一家做投资的机构，本身没有任何云业务，却在2024年被曝囤积了超过2万张英伟达H100，原因只有一个：FOMO。
为了在争夺AI明星创业公司的交易中不落人后，它甚至把囤来的GPU租给被投公司换取股权，普通企业的焦虑可想而知。
这时候你肯定会好奇，既然GPU使用率并不高，大家为啥还想采购别的芯片呢？
这背后其实是另一个AI趋势。
产业逆转：当AI从“训练时代”跨入“推理时代”
前哨特训营的会员对这个趋势不会陌生，王煜全在2025年初就提醒大家：大模型正在经历从“训练”向“推理”的重心大转折。
《2025年AI产业机会在哪？》专题
简单说在大模型的早期（2021—2023年），最烧钱的动作是“训练”，也就是培养出AI的过程。
这个阶段需要几万张卡没日没夜地跑几个星期，模型训练出来，任务就结束了，开销也就停了。
到了2026年，推理（也就是用户使用大模型、调用API的阶段）已经吃掉了企业55%至80%的AI算力。
推理是一个“一旦启动，只要有用户访问就永远不会停止”的跑表游戏。
我们来算一笔账：假设一个70B（700亿参数）的中量级模型，每天有1000个活跃用户，平均每人请求1000次，每次消耗500个Token。
每天消耗的Token量就是5亿Token，如果在公有云上租用按需的H100节点（8卡 pod， CPM成本约为1.90美元/百万Token），每天计算成本就有950美元。
一年下来，仅仅这一个模型的日常推理开销就将接近35万美元，一旦AI应用投入生产，推理成本会在短短几周内彻底超越最初的训练成本。
在训练阶段，英伟达是毫无疑问的王者，因为它的CUDA生态极度成熟，超大规模集群互联网络（NVLink/InfiniBand）无人能敌。
在推理阶段，算力的胜负手彻底变了，不再是追求极端的算力峰值（FLOPS），而是追求“系统经济性”（System Economics）和“1Token的成本有多低”。
在推理阶段，AI芯片面临的物理制约正在从“计算性能”转向“内存带宽”和缓存容量（即所谓的KV Cache瓶颈）。
简单来说，生成式AI在生成每一个字（Token）时，都需要把整个模型的参数从内存里重新读取一遍。如果显存（VRAM）太小、带宽太窄，强悍的计算核心就会处于“空转”状态，干等着数据送过来。
Google Ironwood TPU技术规格对比图
在这个维度上，不少竞品都在发力，AMD的MI300X打出卖卡比英伟达便宜一半，云端租赁便宜40-60%的口号。
AWS自研的Trainium 2、谷歌的TPU Ironwood（v7）和微软的Maia 200均已大规模部署。这些定制化ASIC剥离了GPU不必要的图形处理功能，专门优化张量计算。
AWS宣称，在其云生态内使用Trainium进行推理，可实现最高50%至80%的成本节省。
云厂商和下游客户面对下一轮趋势的FOMO情绪再起，自然把企业高管的关注点换了方向
2026 AI芯片新势力版图：英伟达真的会失利吗？
AI芯片市场从英伟达的“一强独霸”走向清晰的多家共存，这个趋势最后真的会成真吗？
相信不少人这时候会拿出各家云/AI厂商的最新动态论证AI芯片格局已经改变，谷歌发布的TPUv7、亚马逊的Trainium 3 和 Inferentia 2双卡集群，还有OpenAI 联合博通最新推出的 Jalapeño推理芯片。
关于这个话题，其实王煜全在特训营里已经做过回答：英伟达真正的护城河早已不再是单颗芯片的快慢、CUDA软件生态，而是一整个全新的数据中心计算范式。
现在说英伟达会遭遇冲击还为时尚早，要明白何时产业会发生颠覆，除了AI芯片、服务器架构的技术变化，还要看懂产业格局才行。
至于这个趋势的终局判断，数据中心芯片格局的未来演化，更多内容王煜全在前哨科技特训营里已经有具体分析，未来更多重大趋势点评也会在特训营中及时分享。
如果你想第一时间了解未来产业趋势，欢迎现在加入前哨科技特训营。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
