北京
英伟达将用新的“LPU”芯片提升AI聊天机器人性能
在GTC大会上，英伟达发布了Groq 3 LPU芯片，该芯片采用了AI公司Groq授权的技术。LPU是七款即将推出的数据中心芯片之一，旨在增强人工智能的能力。
为了提升聊天机器人性能，英伟达计划推出一款新型处理器——LPU，专为运行大型语言模型（LLM）优化。
“Nvidia Groq 3 LPU”芯片是英伟达在年度GTC大会上推介的七款即将推出的芯片之一，该大会向人工智能行业介绍了为何英伟达芯片持续领先。
LPU，即语言处理单元（Language Processing Unit），源自英伟达去年12月与加州一家名为Groq的人工智能公司（不要与xAI的AI聊天机器人Grok混淆）的技术授权协议。Groq成立于2016年，推出了早期专为大型语言模型设计的LPU芯片，以实现更快的速度和能效。目标是：打造一款能替代英伟达企业级GPU的方案，使其能够应用于更广泛的AI工作负载。
英伟达现在希望将新发布的Groq 3 LPU与公司其他下一代AI芯片——被称为“Vera Rubin”平台——结合使用，其中包括即将推出的Rubin显卡和Vera CPU技术，应用于数据中心。
Groq的LPU芯片使用更快的SRAM（静态RAM），而非英伟达GPU通常采用的高带宽内存（HBM）。但缺点是，Groq的LPU只能提供“数百兆字节”的SRAM，而HBM内存每颗芯片可覆盖超过100GB甚至更多。
这也是为什么单个Groq 3 LPU仅包含500MB的SRAM，而英伟达即将推出的Rubin显卡将配备288GB的HBM4内存。为了弥补较低的内存容量，英伟达正准备大量销售LPU，以与其他数据中心芯片协同工作，为AI公司提供进一步提升性能的途径。
英伟达指出：“配备256个LPU处理器的LPX机架配备了128GB的片上SRAM和640TB/s的可扩展带宽。与Vera Rubin NVL72（服务器单元）一同部署，Rubin GPU和LPU通过联合计算每个输出令牌的AI模型每一层来提升解码能力。”
因此，数据中心可以同时利用低功率单元和英伟达的GPU，将AI工作负载分配到它们之间，以提高效率。英伟达首席执行官黄仁森表示，这种联合方法在帮助AI公司通过更长的提示提升性能方面表现出色。
根据英伟达的基准测试，LPU和Rubin显卡结合起来，在运行拥有1万亿参数的大型语言模型时，吞吐量可提升多达35倍。
黄明明说：“我们正在生产Groq芯片，”并补充说它很可能会在第三季度发货。英伟达已与三星签约制造低功率处理器。一位分析师预计英伟达将在2026年和2027年期间出货400万到500万个LPU。
新的LPU和Vera Rubin系统每颗芯片价格可能高达数万美元，消费者难以负担。相反，预计包括OpenAI、Anthropic和Meta在内的最大AI公司将采用这些技术，这些技术可能在不久的将来为你的聊天机器人查询或图像生成请求提供动力。
在GTC大会上，英伟达还提到了Vera Rubin，该公司此前曾详细介绍过它，包括今年一月的CES展会上，公司宣布Rubin芯片已进入“全面生产”阶段。英伟达计划在今年下半年发布与Vera Rubin相关的芯片，包括新的LPU芯片。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
