网易首页 > 网易号 > 正文 申请入驻

具身智能独角兽「星海图」新论文引热议,谢赛宁转评:最好和Yann LeCun的新作一起看

0
分享至

大数据文摘受权转载自头部科技

文丨丁灵波

今天,国内具身智能明星公司 星海图发表了一篇新论文, 星海图联合创始人兼首席科学家赵行发帖表示:最近对世界行动模型(WAM)的研究发现,WAM的核心优势不在于测试时对未来的“想象”,而在于训练时来自未来视频预测的监督。

该团队提出了Fast-WAM,它使推理变得简单、快速且以策略为中心。

赵行除了在公司任职,目前也担任清华大学交叉信息学院的助理教授、Mars lab主任;2026年2月,星海图完成10亿元B轮融资,截至本轮,该公司累计融资额近30亿元,估值达百亿级别。


这篇新论文引起了不少业内研究员关注和评论,AI圈知名青年学者、现任AMI联合创始人兼首席科学官的谢赛宁转发称:“ 最好与LeWorldModel论文一起阅读,别问我为什么。 ”

谢赛宁提到的“ LeWorldModel”是图灵奖得主、AMI创立者Yann LeCun最新发表的另一篇论文成果。

一起来看看,这两项最新研究都讲了什么。

比现有WAM快4倍以上

在目前的具身控制领域中,世界动作模型(WAMs)被视为替代视觉-语言-动作(VLA)模型的一种极具前景的方案。

现有大多数WAM均采用先想象后执行范式,迭代式视频去噪会产生显著的测试时延,然而,显式预测未来画面对实现优异动作性能是否必不可少,目前尚不明确。

星海图(Galaxea AI)团队在新论文中展开探讨:WAM在测试阶段是否需要显式的未来想象,其性能增益是否主要来自训练阶段的视频建模?


该团队提出了Fast-WAM架构,将训练阶段的视频建模与推理阶段的显式未来生成解耦——该架构在训练时保留视频联合训练,测试时则跳过未来预测环节,此外,还进一步设计了多种Fast-WAM变体,以实现对这两种因素的对照研究。


简单来说,Fast-WAM基于预训练的视频扩散变换器骨干网络和动作专家DiT构建。

在训练过程中,它联合学习动作预测和视频建模,从而使共享的视觉骨干网络获得更强的与世界相关的表征。

在推理阶段,Fast-WAM仅保留当前观测中干净的潜在标记,并利用视频主干网对其进行一次处理,然后直接生成动作,无需显式地对后续视频进行去噪,这消除了先想象后执行的WAM的主要运行时瓶颈。

实验结果表明:Fast-WAM的性能与“先想象后执行”类模型性能相当,而移除视频联合训练会导致性能大幅下降。



在无需具身预训练的条件下,Fast-WAM在仿真基准(LIBERO、RoboTwin)和真实世界任务上均取得了与当前最优方法可比的效果,该模型可实时运行,时延仅190毫秒,速度比现有先想象后执行的WAM快4倍以上。

而“先想象后执行”类变体则明显更慢,尤其是Fast-WAM-IDM时延高达810毫秒,这使得Fast-WAM成为更适合实际部署的优选方案,在保持出色任务性能的同时,大幅降低了推理开销。


通过在仿真与真实机器人基准上的对照实验(含有无视频联合训练的变体),该团队证明WAM中视频预测的主要价值,更多体现在训练阶段学习更优质的世界表征,而非测试阶段生成未来观测。

单GPU可跑的世界模型

而谢赛宁建议和Fast-WAM一起看的“LeWorldModel”是Yann LeCun近期署名的一篇新作,也是对他此前提出的联合嵌入预测架构(JEPA)的一种优化延展。


人工智能的核心目标之一,是研发能够在多样化任务与环境中习得技能的智能体,世界模型(WMs)被视为是一种颇具潜力的方法,一旦训练成功,世界模型能让智能体仅依靠自身构建的世界模型进行规划与自我提升,即在想象空间中完成学习。

这在离线学习场景下尤为重要:智能体只能从固定数据集中学习,无法与环境交互,可借助世界模型生成仿真经验,并评估反事实动作序列。

一种主流的世界模型学习方法便是联合嵌入预测架构(JEPA),JEPA并不试图建模环境的全部细节,而是专注于捕捉预测未来状态所需的最关键特征,尽管理念简洁,但现有JEPA方法极易发生表征坍缩,避免坍缩是训练JEPA模型的核心挑战之一。

为突破这项挑战,该团队提出了LeWorldModel(LeWM),该方法首次实现了从原始像素端到端学习稳定的JEPA模型。


值得关注的是,LeWM仅是一个1500万参数的紧凑模型,可在单张GPU上完成训练,大幅降低了相关研究的入门门槛。



研究人员在2D与3D环境中的各类操作、导航与运动任务上对LeWM进行了全面评估,并检验了模型对物理规律的直观理解能力,LeWM与基于基础模型的世界模型相比性能相当,但成本大幅更低,规划速度最高提升48倍。


整体而言,LeWM为现有隐式世界模型方法提供了一种可扩展的替代方案,具备原理清晰的训练动态,以及可解释、可涌现的表征特性,论文最后也指明了几个重要研究方向:

1、目前基于隐式世界模型的规划仍局限于较短时域,层次化世界建模是解决长时域推理与规划的一个重要方向。

2、本方法仍依赖覆盖度足够的离线交互数据集,这类数据采集成本高、难度大,在大规模、多样化的自然视频数据集上进行预训练,有望提供更强的表征先验,并降低对领域专属数据的依赖。

3、当前端到端隐式世界模型依赖动作标签来预测未来状态,而动作标注同样获取成本高昂,一个可行方向是通过逆动力学建模学习未来动作表征,从而减少对显式动作标注的依赖。

结语:具身智能的技术拐点

业内人士分析认为,站在具身智能与人形机器人产业化的视角看,Fast-WAM和LeWM并不是两篇孤立的学术进展,而是世界模型从“概念验证”走向“真机落地”的关键拐点,世界模型驱动具身智能即将迈向新阶段。

前者解决了世界动作模型跑不起来、时延太高的致命问题,后者解决了JEPA世界模型训不出来、成本太高的工程死穴,一方面让WAM级别能力满足了真机实时控制的要求,另一方面,未来机器人可能不必再走“大模型暴力堆砌”的路线,轻量化世界模型同样可以具备出色的物理推理能力。

这些技术进展贴合机器人规模化落地需求,未来1–2年,更好用的新一代机器人大脑正在呼之欲出 。

GPU 训练特惠!

H100/H200 GPU算力按秒计费,平均节省开支30%以上!

扫码了解详情☝

点「赞」的人都变好看了哦!

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
网红小四爷送1人到缅北得12万元

网红小四爷送1人到缅北得12万元

哈留学邦
2026-10-08 12:10:26
日本全面叫停种植牙?种牙潜藏的风险与后遗症,一次为你讲明白

日本全面叫停种植牙?种牙潜藏的风险与后遗症,一次为你讲明白

健康科普365
2026-08-13 14:30:15
新小米 SU7,后排小屏幕彻底下线了!

新小米 SU7,后排小屏幕彻底下线了!

花果科技
2026-10-08 14:37:19
杨瀚森首秀惊艳!开拓者123-118力克勇士,一战打出3大不争事实!

杨瀚森首秀惊艳!开拓者123-118力克勇士,一战打出3大不争事实!

田先生篮球
2026-10-08 13:59:07
派出所领导班子如何排序?

派出所领导班子如何排序?

网观天下
2026-10-08 07:03:08
终于等到了!广东队迎来重大利好,太阳拒绝转正里斯?

终于等到了!广东队迎来重大利好,太阳拒绝转正里斯?

绯雨儿
2026-10-08 13:49:41
疑似日本足协计划挖角安东尼奥,本人澄清!愿为中国培养球员直到退休

疑似日本足协计划挖角安东尼奥,本人澄清!愿为中国培养球员直到退休

林子说事
2026-10-08 04:27:59
教育最大的远见:严控孩子手机,才是守住孩子最好的未来

教育最大的远见:严控孩子手机,才是守住孩子最好的未来

婷妈alan
2026-08-19 07:40:07
【观天下】叙利亚考虑出兵也门?

【观天下】叙利亚考虑出兵也门?

新华社
2026-10-08 14:29:02
穆里尼奥开炮了:同是41岁,莫德里奇没人劝退,C罗却被天天盼着退休,这双标也太明显了吧

穆里尼奥开炮了:同是41岁,莫德里奇没人劝退,C罗却被天天盼着退休,这双标也太明显了吧

衔春信
2026-10-07 00:36:30
天彻底塌了!亚运全线溃败零金收官,中国篮球已跌至谷底!

天彻底塌了!亚运全线溃败零金收官,中国篮球已跌至谷底!

田先生篮球
2026-09-25 17:24:52
山东朋友吐槽:成都的房子朝向四面八方,放到山东一套都卖不出去

山东朋友吐槽:成都的房子朝向四面八方,放到山东一套都卖不出去

夜深爱杂谈
2026-10-07 21:37:35
中网夺冠后转战上海大师赛,德约:期待延续势头再创佳绩

中网夺冠后转战上海大师赛,德约:期待延续势头再创佳绩

澎湃新闻
2026-10-08 17:54:06
土耳其的女子确实漂亮,兼具典雅容貌与异域风情

土耳其的女子确实漂亮,兼具典雅容貌与异域风情

娱你同欢
2026-10-07 11:06:22
杨瀚森成开拓者第5中锋!诺里内线淘到宝:13分钟13+6,打爆勇士

杨瀚森成开拓者第5中锋!诺里内线淘到宝:13分钟13+6,打爆勇士

球场没跑道
2026-10-08 13:37:00
入坞8个多月,“山东舰”仍在维护改造,看来要搭载歼-35没跑了!

入坞8个多月,“山东舰”仍在维护改造,看来要搭载歼-35没跑了!

华人星光
2026-10-08 10:19:43
北青:男足国奥队11月9日肇庆集结,安东尼奥为帅位主要候选

北青:男足国奥队11月9日肇庆集结,安东尼奥为帅位主要候选

懂球帝
2026-10-08 16:48:57
我在上海亲戚家住了一周,真是开了眼,他们一家一个月就挣了10万

我在上海亲戚家住了一周,真是开了眼,他们一家一个月就挣了10万

椰青美食分享
2026-10-08 12:49:05
“早寒露冻死牛,晚寒露暖烘烘”,今日寒露,今年寒露是早是晚?

“早寒露冻死牛,晚寒露暖烘烘”,今日寒露,今年寒露是早是晚?

智慧生活笔记
2026-10-08 07:02:18
江苏一别墅被举报暗藏地下代孕手术室,举报人称卧底近4个月,当地卫健部门:已介入跟进

江苏一别墅被举报暗藏地下代孕手术室,举报人称卧底近4个月,当地卫健部门:已介入跟进

台州交通广播
2026-10-08 11:58:19
2026-10-08 18:47:00
大数据文摘 incentive-icons
大数据文摘
专注大数据,每日有分享!
6897文章数 94559关注度
往期回顾 全部

科技要闻

江淮汽车回应"尊界V800刹车踏板支架断裂"

头条要闻

四川一"西游记"主题公园因抽象走红 员工都是农户兼职

头条要闻

四川一"西游记"主题公园因抽象走红 员工都是农户兼职

体育要闻

梅西社媒发文告别国家队 C罗点赞留言:致敬 拥抱

娱乐要闻

演员王晓慧刚担女主,就被曝已婚生子

财经要闻

央行:中国从不搞竞争性货币贬值

汽车要闻

特别版配色/碳纤尾翼 2027款深蓝L06将于10月9日上市

态度原创

家居
健康
数码
亲子
军事航空

家居要闻

2026建博会(广州) 公装联探展交流活动

痘坑留下后,还能填平吗?

数码要闻

传闻称新款iPad mini仍将采用60Hz OLED屏幕 苹果或继续区分高端产品定位

亲子要闻

全国高血压日丨原发性儿童高血压青春期高发,高危儿童应提早监测

军事要闻

美日将在距台仅110公里处演习

无障碍浏览 进入关怀版