网易首页 > 网易号 > 正文 申请入驻

天垓300实测对标H200:国产GPU从性能追赶迈向高价值应用竞争

0
分享至

10月28日,“从模型到世界”天数智芯2026媒体开放日活动在上海举办。天垓300首次面向媒体开放实机演示,基于天垓300的AFD分离方案、IXL144超节点方案,以及天数智算软件栈、彤央端侧算力终端同台亮相,并预告标称算力达600T的下一代端侧产品。

第三方权威机构今年7月完成的第三方实测显示,在典型PD分离部署下,天垓300折算单卡整体端到端吞吐达到H200的1.05倍,这是国内首个实测性能达到H200水平的通用GPU。与此同时,软件栈展示“用AI开发AI”的新路径,彤央TY1200在实测中超越Thor T5000。



为什么要对标H200?作为大模型推理和复杂计算领域具有代表性的高水平GPU,H200水平是衡量先进AI算力的重要标杆。天垓300在真实业务测试中达到这一水平,标志着国产通用GPU迈过了一道具有重要意义的性能门槛:开始具备在复杂AI任务和高算力市场中快速发展的实力。这也意味着国产GPU正在进入新阶段——从解决“能不能用”的问题,转向比拼实际产出、运行效率和经济价值。

天数智芯将这一阶段的标准概括为高质量算力——“高效率、可预期、可持续”——相同投入能产出多少有效结果,长时间运行能否稳定,面对不同模型、业务和部署方式能否持续发挥作用。在天数智芯看来,云端生产智能,软件加速适配与优化,端侧让智能进入更多现场,形成让高质量算力持续生长的增强回路。

实测对标H200:走向复杂AI任务的性能门槛

对标H200的看点,在于测试所对应的真实业务。第三方权威机构今年7月针对四大主流模型、三类场景开展测试,在大模型典型的PD分离部署下,天垓300折算单卡整体端到端吞吐达到H200的1.05倍。这里比较的不是理论峰值,而是在特定模型和部署条件下,整条推理链路的实际输出能力。

天数智芯性能实验室的实测进一步覆盖典型业务场景:在64K长上下文下,天垓300的Attention性能为H200的1.05倍;GLM-5.3模型64K规模下,保障同等用户体验的同时,MoE吞吐为H200的1.15倍;8K至128K长上下文场景下Agent首字延迟较H200降低约10%—30%;多模态生成推理吞吐相较H200提升约2%—5%;在搜广推等在线业务中,推荐推理吞吐提升21%、轻量计算时延降低26%。活动现场开放天垓300实机演示,接受与H200在GLM5.3等大语言模型、文生图、文生视频场景的对比测试。

这些指标各自对应着用户能够感知的体验。长上下文处理关系到长文档分析和复杂Agent能否高效运行;MoE吞吐影响同等服务要求下系统承接请求的能力;首字延迟则直接关系到用户发出请求后的等待时间。此次对标说明天垓300已在多类关键负载上进入与国际主流高水平GPU直接比较的区间。



训练方面,在基于Qwen3-32B模型的8卡整机FP8精度训练演示中,天垓300每卡有效吞吐达到H100的1.33倍。目前,强化学习已成为OpenAI、Google、Meta、xAI以及DeepSeek、Qwen、Minimax、Kimi等国内外主力模型公开采用的核心后训练路线。天垓300同样胜任强化学习训练,据条件性工程估算,以1024张卡对已有预训练基座开展一次强化学习,在40B激活参数的中心情景下,约26天可完成约1T总参数MoE模型的500亿生成Token强化学习任务。

随着日均Token调用量较2024年初增长上千倍,Token工厂正成为算力规模化落地的热门形态,也是高质量算力三要素的集中检验场。各项表现显示,天垓300高度满足Token工厂对算力的各项实际要求。

首先是高效率。电力、机房和固定运维等支出难以随意压缩,单位Token成本很大程度上取决于设备投入和有效吞吐。在前述第三方测试条件下,天垓300折算单卡端到端吞吐达到H200的1.05倍,为单位时间内生产更多有效Token提供了性能基础。

其次是可预期。Token工厂不能只在短时测试中跑得快,还要在长时间满负荷运行时保持稳定。天垓300满负荷运行的步时波动为0.43%,低于对比Hopper方案的0.76%,长时间高负载不掉链子,直接保障利用率与可用率。

最后是可持续。天垓300通用架构原生支持CUDA语义,主流框架均已适配,并提供从加速卡、服务器到超节点的不同部署形态,面向多种模型与业务需求。

天垓300同时提供开放、可组合的异构计算平台解决方案。以通用GPU为底座,支持混合训练、PD分离与AFD分离等多种部署形态,可与其他厂商的加速卡、专用芯片协同。以AFD分离为例,天垓300承担Prefill全流程计算与解码阶段的Attention,合作厂商的XPU承担FFN专家网络,两类芯片在统一调度下异构协同,实测Decoding推理延迟可降低60%,该方案已实际跑通,是国内第一个基于GPU+XPU的异构部署AFD分离方案。

“未来的AI算力系统,不一定由一种芯片包打天下。”天数智芯AI与加速计算负责人单天逸表示,“关键是如何把它们高效组织起来,让整个系统发挥更大的价值。我们希望通过开放的异构计算能力,让客户充分利用已有算力资产,以更灵活的方式构建适合自身业务的计算系统。”

高质量算力的价值,由此不只是测试成绩,而是能够持续投入实际生产的能力。天数智芯更将通用算力延伸至科学智算与物理AI等前沿领域,加速科学发现和产业应用。天垓300全面支持Boltz-2、OpenFold3、Protenix等模型及Newton、Warp、ALCHEMI等框架,覆盖生命科学、物理AI、化学与材料四大领域近百个典型场景,涵盖蛋白结构预测、药物筛选、机器人仿真、分子动力学、材料结构优化等关键任务。

物理AI尤其体现出通用计算的新价值。机器人要进入真实世界,往往需要先在遵循物理规律的仿真环境里反复试错,学习动作并验证策略。天垓300的云端仿真和计算能力,让这种学习和验证更充分。

在规模化交付侧,天垓300已形成从加速卡、一机8卡服务器到超节点的完整系统方案。天垓300 IXL144超节点在单个标准机柜内集成144颗GPU、聚合约10.1TB显存,是目前业界密度最高的单机柜GPU超节点,据测算,其每百万有效Token成本较国际主流方案可降低约40%。其新一代P2P互联引擎面向Scale-up和Scale-out,目标是将域内单次传输延迟由3—5微秒降至1微秒;支持统一内存语义编程;同时支持大EP,将专家权重分散到更多核心。该方案已在工博会公开亮相,面向不同算力规模与机房条件的其他超节点方案也将陆续推出。

用AI开发AI:让一位工程师的经验,服务千千万万开发者

硬件性能达到可用区间之后,另一道门槛是开发者能否真正用好。新模型不断出现,部署、适配和性能调优往往需要经验丰富的工程师投入大量时间。如果这些环节仍然复杂,硬件性能就很难及时转化为业务价值。天数智芯此次展示的软件栈,让AI不仅作为计算任务被运行,也参与AI系统自身的开发与优化。

活动现场,天数智芯副总裁石加圣围绕“易于使用、易于优化、易于开发”三个层次,首次展示天数智算软件栈全面拥抱Agentic AI的系统性布局:基于多年GPU研发、模型适配和性能调优积累,将软件栈、专业工具与工程经验同Agent技术结合,让一线开发者能够围绕场景目标和服务约束,直接调用工具、复用经验、开展优化,加速迈向端到端智能开发。



“易于使用”方面,软件栈将环境安装、配置检查与模型部署方法组织为智能体可调用的工具与技能,由AI协助执行并检查结果,减少开发者反复查阅文档、手动配置和排查问题的负担。在模型PD分离部署实测中,环境准备与服务部署整体用时由1小时缩短至10分钟,人工操作由数十步减少至1步,助力开发者更便捷地使用先进推理架构。

“易于优化”方面,软件栈结合自研性能分析工具与调优经验,让AI依据真实运行数据定位瓶颈、提出优化方案,并通过测试验证效果。根据某大模型调优任务实测,工作周期由7天缩短至2小时内;在相同硬件、模型和精度要求下,相关任务运行性能较优化前接近翻倍。开发者能够更快开展优化、获得反馈,减少对厂商技术支持的依赖。

“易于开发”方面,作为首家深度接入FlyDSL的国产GPGPU厂商,天数智芯通过Agent与FlyDSL协同,让AI参与代码生成、编译、测试和性能优化。开发者明确目标与约束,AI协助生成或修改候选实现,再根据正确性检查和性能测试结果持续调整,最终完成自主开发、验证与迭代,形成从目标提出到结果验收的工程闭环。在某主流模型适配与调优实测中,过去10人天完成的工作,现在1人在小时级内就能完成,编译速度提升90%以上,理想状态可用1%的编译时间实现99%的运行性能,为更快支持新模型、尝试更多实现方案创造条件。



“Agentic AI让一位工程师的经验,能够持续服务千千万万开发者。”石加圣表示,天数智芯将GPGPU工程师在模型适配、性能调优中积累的方法沉淀为可调用的工具与技能,让模型和应用开发者能够在自身工作流中复用专家经验,更快获得反馈、自主完成优化。GPGPU工程师则能将更多精力投入复杂性能问题的解决,并持续将新的工程积累提供给开发者。

彤央TY1200实测超Thor T5000:云端能力下沉端侧

物理世界的数据量持续增长,对感知、规划与执行提出毫秒级响应要求,合同、科研等涉及数据安全的任务要求算力必须“贴着数据跑”,业务需求让算力必须分层。与此同时,小参数量模型能力提升,让更多任务具备边端部署条件,技术演进使算力可以分层。客户对长期使用成本的关注,要求算力投入更精准:简单任务不必都上云,复杂任务也不宜一律下沉,成本约束让分层值得做。

业务上“必须”,技术上“可以”,经济上“值得”,算力分层由此成为现实选择:大规模训练与复杂复判留在云端,要求实时响应、涉及数据安全、需要现场闭环的任务,放在端侧。

“云端GPU厂商做端侧,不是把芯片做小,而是把能力下沉。”天数智芯彤央产品市场负责人宋远盈表示。天数智芯在云侧大规模训练与推理中积累的模型压缩、量化、蒸馏和软硬协同能力,连同通用GPU架构、编译器、算子库和性能工具,被一起带到边端。模型因此可以“生在云、长在边”:云端训练、边端部署,需要时再由云端复判,模型能力与精度保持衔接。在客户现场积累的高负载交付经验,也为工业应用、具身智能等高度要求稳定性的场景交付提供能力基础。

彤央以一套生态、两种形态、五款产品覆盖从客户自主集成到即用型部署的需求;端云接续的技术路线,“把云的能力折叠进方寸之间”,也让客户的边端投入具备长期延续性。其中,彤央TY1200端侧算力终端标称300 TOPS稠密算力,而非行业惯用的稀疏峰值;在Qwen3.8-27B、Qwen3.6-35B-A3B等LLM模型实测中,TY1200性能达到Thor T5000的1.2倍。以实测稠密算力超越标称算力更高的芯片,端侧的有效产出同样不被标称算力定义。



在本地部署场景,TY1200让原本必须上云的任务在数据端内闭环。合同审核、投资BP分析等对数据安全高度敏感的工作,可基于本地部署的大模型离线处理,安全的同时,也可节省算力支出;视频生成这类高算力任务也在本地跑通——基于MiniMax H3开源视频模型,TY1200平均6分钟生成1056×608分辨率、时长5秒的视频,1376×768分辨率下平均用时11分钟,全程在本地进行,不产生任何云端调用费用。它还能流畅运行推理应用,并承担小模型的本地训练。

在物理AI场景,TY1200成为具身智能设备的大脑。这个大脑不仅可以内置,还可“外挂”。TY1200首次在国产端侧产品上实现基于MuJoCo-Warp的GPU加速物理仿真,机器人动作学习所需的大规模并行仿真可在本地终端完成。

活动现场,MicroDuck动作演示呈现“本地仿真—策略训练—动作验证”的完整链路;搭载TY1000算力模组的机器狗在本地完成人脸识别与跟随主人,形成“感知—决策—行动”闭环。世界模型等物理AI负载同样在本地运行,在Cosmos-R2-2B和Cosmos-R2-8B测试中,TY1200的实测性能分别达到Thor T5000的158%和180%;



性能最终要进入真实任务。在储能电芯研究案例中,TY1200支持科研智能体自动采集、治理实验数据,并可在约2分钟内生成报告;应急视觉识别案例,端侧CV与多模态大模型交叉验证,将识别准确率由70%提升至95%;在文旅案例中,同一台TY1200,白天提供智能导览、夜间训练CV小模型;搭载TY1200的陪诊机器人,已在上海市阳光康复中心服务视障人士,负责导诊、分诊与带路。

TY1200此前已获2026工博会CIIF国芯展创新成果奖。活动现场,天数智芯还预告下一代端侧产品彤央TY2000,标称算力将达600T,把云端能力下沉的边界再向前推进一步。

云端高效生产智能,软件加速进化,端侧拓宽现实应用、连接物理世界,三端协同构成高质量算力的“增强回路”,让高效率、可预期、可持续在循环中复利式积累。

产品层面的复利,最终要回答产业层面的命题。算力是发展新质生产力的关键底座,中共中央、国务院《关于发展新质生产力的意见》提出,全面实施“人工智能+”行动、强化算力算法数据高效供给,加快人形机器人等新一代智能终端的场景应用。从云端天垓300、天数智算软件栈,到端侧彤央算力终端,天数智芯以贯通云边端的产品体系,把高质量算力落实为可实测、可复现、可交付的有效产出,为“人工智能+”在千行百业的规模落地,提供高质量算力支撑。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“能把屁股擦干净吗!”陕西妇科医护者吐槽阴超经历:我老公都不让我和面了

“能把屁股擦干净吗!”陕西妇科医护者吐槽阴超经历:我老公都不让我和面了

妍妍教育日记
2026-10-30 19:25:27
丰田新车官宣:11月5日,正式发布!

丰田新车官宣:11月5日,正式发布!

科技堡垒
2026-10-29 10:52:16
民进党当局挡不住!台湾民众否决政治操弄,赴大陆旅游急剧升温

民进党当局挡不住!台湾民众否决政治操弄,赴大陆旅游急剧升温

海峡导报社
2026-10-31 06:53:02
A股:已经没必要等开盘了,下周11月2日-11月6日,将会这样走

A股:已经没必要等开盘了,下周11月2日-11月6日,将会这样走

云鹏叙事
2026-10-31 14:46:10
曝姆巴佩或亲自来中国当面道歉!网友:别来了不接受 给他一个机会吧

曝姆巴佩或亲自来中国当面道歉!网友:别来了不接受 给他一个机会吧

念洲
2026-10-30 14:26:51
今日WTT冠军赛四强出炉,如果蒯曼击败张本美和,将有四大利好

今日WTT冠军赛四强出炉,如果蒯曼击败张本美和,将有四大利好

南海浪花
2026-10-31 03:58:29
西甲前瞻丨巴萨5-0阿拉维斯:欧冠、西甲、金球接连受挫,还有雄心否?

西甲前瞻丨巴萨5-0阿拉维斯:欧冠、西甲、金球接连受挫,还有雄心否?

体育世界
2026-10-31 14:13:55
建国后,为何把"六大名著"变成"四大名著"?被淘汰的两部家喻户晓!

建国后,为何把"六大名著"变成"四大名著"?被淘汰的两部家喻户晓!

谭老师地理大课堂
2026-10-31 07:06:53
一万五以内,2026年双十一优惠力度大的专业全画幅微单推荐

一万五以内,2026年双十一优惠力度大的专业全画幅微单推荐

派财经
2026-10-30 13:56:58
马卡:穆帅耐心改造B席,逐渐成为教练计划中的重要一员

马卡:穆帅耐心改造B席,逐渐成为教练计划中的重要一员

懂球帝
2026-10-31 16:55:21
我认为:如果当初中国不改革开放,今天仍是全球最落后的国家之一

我认为:如果当初中国不改革开放,今天仍是全球最落后的国家之一

麓谷隐士
2026-10-19 00:05:04
“把屁股擦干净再来!”妇科医护发帖吐槽接诊满屋异味戴双层口罩,有人在评论区叹气:人有病了就没有尊严了

“把屁股擦干净再来!”妇科医护发帖吐槽接诊满屋异味戴双层口罩,有人在评论区叹气:人有病了就没有尊严了

王老师你还好吗
2026-10-29 12:51:57
比武契奇还“挺俄”?塞尔维亚学生军刚赢,转头给普京递了句狠话

比武契奇还“挺俄”?塞尔维亚学生军刚赢,转头给普京递了句狠话

纪史行者
2026-10-31 10:06:44
格局变了!新加坡接棒菲律宾,陈振声当众表态,直接击碎菲方期待

格局变了!新加坡接棒菲律宾,陈振声当众表态,直接击碎菲方期待

共工之锚
2026-10-31 05:34:31
最近辱华有点多,但不必那么敏感

最近辱华有点多,但不必那么敏感

凤眼论
2026-10-29 14:16:50
以色列,变天了?

以色列,变天了?

中国新闻周刊
2026-10-30 22:07:02
巴沙尔被打跑以后,朱拉尼抄家式查抄,把巴沙尔集团500亿美元财产全部查出来充公!

巴沙尔被打跑以后,朱拉尼抄家式查抄,把巴沙尔集团500亿美元财产全部查出来充公!

古古聊军事
2026-10-12 21:42:12
今日油价:10月31日92、95汽油最新零售价一览,11月12日迎下次调整

今日油价:10月31日92、95汽油最新零售价一览,11月12日迎下次调整

沙雕小琳琳
2026-10-31 11:01:07
开拓者官宣坏消息!莫兰特遭遇左腿筋二级拉伤 至少休战四周后复查

开拓者官宣坏消息!莫兰特遭遇左腿筋二级拉伤 至少休战四周后复查

罗说NBA
2026-10-31 06:35:24
新兵见美军冲来慌了神,一枪放倒敌指挥官,战后战报惊动政治部主任

新兵见美军冲来慌了神,一枪放倒敌指挥官,战后战报惊动政治部主任

纪史行者
2026-10-26 00:55:03
2026-10-31 17:48:49
老冀谈科技 incentive-icons
老冀谈科技
老冀将带给您最新的科技资讯
970文章数 10079关注度
往期回顾 全部

科技要闻

苦等两年!国行苹果AI下周开测,12月推出

头条要闻

女子减重40斤后被指撞脸王祖贤 已去景区扮演"聂小倩"

头条要闻

女子减重40斤后被指撞脸王祖贤 已去景区扮演"聂小倩"

体育要闻

决胜时刻三连击!勒布朗绝命补篮价值千金

娱乐要闻

赵丽颖解锁新身份 出任金鸡创投主评审

财经要闻

Meta、谷歌、英特尔增发认购者集体浮亏

汽车要闻

钛7上市一年销量突破30万 海外半年销量2.7万

态度原创

时尚
本地
旅游
数码
军事航空

别再穿马蹄鞋、小棕鞋了,这双鞋才是秋冬穿搭的“顶流”

本地新闻

秋假去哪玩,4 站打卡京郊限定秋色

旅游要闻

何以中国·壮美八桂|“门票经济”之外,桂林文旅正寻找新的增长点

数码要闻

439元小米智能门铃4 Pro双摄版发售:5MP双摄+ 9800mAh电池

军事要闻

美国批准向乌克兰出售500枚爱国者导弹

无障碍浏览 进入关怀版