网易首页 > 网易号 > 正文 申请入驻

登顶RoboChallenge Table30!LoopWAM开源,与pi的部署自进化理念不谋而合

0
分享至



项目主页:https://loop-wam.github.io

论文原文:https://arxiv.org/abs/2610.18873

开源代码:https://github.com/loop-wam/LoopWAM

近日,由清华大学、原力灵机与极寰时代联合研发的世界动作模型LoopWAM,登顶真机评测榜单RoboChallenge Table30 V2,成功率与过程分双双位列榜首,成绩超过VLA-DM0.5等同期方案。同时,LoopWAM在仿真榜单RoboTwin 2.0和RoboCasa365上同样取得SOTA表现。

LoopWAM在所有榜单评测中使用的模型,均由国产卡阿里云 PPU-810E训练,非NVIDIA系列卡。

这一成绩背后,是一条从真实部署中持续学习的技术路线:让成功、次优和失败经验共同拓展世界模型的学习范围,增强对任务过程和动作后果的理解,再通过质量引导提升动作生成,使机器人在下一轮部署时做得更好。

从仅使用专家演示训练的初始模型出发,经过三轮部署与训练,LoopWAM的整体成功率提高了约19.7个百分点,相对提升约83%,过程分也从36.10提升至56.80。

让真实部署经验成为下一轮进步的起点,是LoopWAM此次登顶的关键。

这种从真实部署反馈中持续迭代的思路,与Physical Intelligence近日发布的PI API workflow不谋而合:通过“数据上传—模型微调—机器人部署—评估与数据收集”的循环推进能力提升。LoopWAM则在部署数据的利用上更进一步:闭环更新无需额外采集专家演示,也无需引入强化学习,而是发挥世界模型从动作与环境变化中学习的特点,将成功、次优和失败的rollout轨迹全部纳入视频预测训练,再通过质量steering与加权动作监督提升动作生成质量,让部署经验本身成为持续自提升的来源。


图1 PI API(来源:Physical Intelligence)


01

30项真机任务检验综合能力

RoboChallenge Table30 V2覆盖ALOHA、DOS-W1、ARX5和UR5四种机器人本体,包含物品整理、工具使用、精细操作和双臂协同等多类任务。


图2 RoboChallenge 多任务可视化


真实操作中的挑战,存在于每一次接触与运动之中:能否选对目标,能否稳定抓取,能否把工具用到位,又能否连续完成多个操作步骤。Table30 V2通过成功率和过程分,分别衡量任务完成情况与执行过程的完成质量。

在本次评测中,LoopWAM在11项任务上的成功率达到60%及以上,9项任务过程分达到80分及以上。几组具体成绩,让模型能力更加直观:

  • 整理水果、物品分类、取出绿色积木:成功率均为100%
  • 用小勺舀取物体:成功率90%,过程分92
  • 按下按钮:成功率80%,过程分92.5
  • 堆叠碗具:成功率80%,过程分89

从辨认目标、完成分类,到操作工具、推进多阶段任务,高分表现分布在不同本体和任务类型上,共同支撑了LoopWAM的综合成绩。

02

让成功与失败经验进入学习闭环

登顶背后,LoopWAM关注的是一个直接影响机器人持续进步的问题:真实部署中积累的经验,怎样才能被用好?

专家演示为机器人提供了优质的学习起点。但进入真实环境后,机器人会遇到演示之外的状态:抓取发生偏移、物体意外滑落、工具接触不充分,或者任务只完成了一部分。

这些部署轨迹包含了丰富的物理交互信息,也混杂着质量不同的动作。把所有动作都当作模仿目标,可能强化不理想的行为;只保留成功轨迹,又会丢掉大量关于动作及其后果的经验。

LoopWAM由此提出一种闭环世界动作模型:把成功、次优与失败经验纳入统一训练,用更广泛的真实交互增强世界建模,再通过质量引导和动作监督加权,让策略吸收经验的同时保持对高质量行为的偏向。


图3 LoopWAM闭环自提升


这项工作的完整名称是LoopWAM: Closed-Loop Generalist Policy Improvement from Deployment Rollouts。贯穿其中的流程可以概括为:

部署 → 收集成功、次优与失败轨迹 → 质量感知训练 → 再部署。

每一轮新经验都会与专家演示和此前积累的轨迹共同进入训练,形成持续迭代的闭环。

03

支撑闭环自提升的关键技术

LoopWAM围绕一个目标展开:充分利用真实部署中的各种经验,增强世界模型对任务与物理交互的理解,并将这种理解转化为更高质量的动作。为此,它把数据分布扩展、动作条件世界建模、视频与动作联合生成,以及质量感知学习结合起来。LoopWAM以Wan2.2-TI2V-5B预训练视频模型为基础,构建视频与动作双分支架构,联合预测同一时间范围内的未来画面与机器人动作。


图4 LoopWAM方法


吸收更多真实部署数据,拓展世界模型的学习范围

专家演示提供完成任务的优质路径,真实部署则带来更广泛的状态、动作及其结果。LoopWAM将成功、次优和失败轨迹都纳入训练,保留所有质量轨迹的视频预测监督。更丰富的交互过程由此成为世界模型的学习材料,拓展其对环境变化和物理交互的表征能力。

强化ACWM,让模型学清动作带来的后果

LoopWAM在同一世界动作模型中强化动作条件世界建模(Action-Conditioned World Modeling,ACWM):利用已执行的动作,预测它们对应的视觉结果。其关键是来源相关的噪声采样,分别控制视频与动作在训练中的噪声水平。

对于专家演示,模型从较强噪声中恢复专家执行对应的未来画面,同时学习动作生成,让模型能够学到如何完成任务。对于部署轨迹,则对动作施加较小的噪声,保留更多动作信息,让视频分支据此学习动作会引起的环境变化。即使任务没有完成,动作与结果之间的联系仍能用于训练,促进预测视频与生成动作在行为及结果上的一致性。

让世界建模直接参与动作生成

在同一次联合去噪过程中,视频与动作信息通过每一层的双向注意力持续交互。丰富的视频预测监督帮助模型学到更好的物理世界表征和动作后果知识,二者共同支持动作生成:模型既学习“任务怎样最优完成”,也学习“生成的动作会怎样改变环境”,让世界模型更充分地支持机器人控制。

区分数据质量,引导生成高质量动作

为了让模型在吸收更多经验的同时清楚行为优劣,LoopWAM为轨迹赋予质量分数,并将质量条件加入任务指令,通过质量steering的方式驱动视频与动作分支。训练时,模型学习同一任务下不同质量的行为分布;真实部署时,指定专家质量条件,将生成引导到高质量行为分布。

质量条件之外,LoopWAM还根据轨迹质量调整动作监督的权重。在所有轨迹都保留完整视频预测监督的同时:

  • 专家轨迹提供完整的动作监督。
  • 次优轨迹按质量加权,降低对较差动作的模仿强度。
  • 失败轨迹的直接动作监督权重设为零,其真实交互后果仍用于世界建模。

质量steering负责区分不同的行为分布,监督权重决定各类动作被模仿的程度。二者共同作用,让模型从更广泛的经验中学习世界,并引导动作生成偏向高质量行为,支持真实部署的闭环自提升。


图5 四项任务的视频预测


上面的动图展示了整理水果、收纳笔、堆叠碗具和滚筒除尘四项任务上的视频预测效果。每组左侧是机器人执行时的真实观测(Obs),右侧是模型预测(Pred)。对照可见,预测视频能够反映机械臂运动、物体移动和操作进程,直观呈现了视频和动作预测在主要运动和操作进程上的一致性。

这种一致性由训练与生成机制共同促进:训练时,丰富的交互数据提供动作与实际结果之间的对应关系,来源相关的噪声采样强化ACWM,使模型学习动作会引起的环境变化;生成时,视频与动作在同一次联合去噪中通过双向注意力持续交换信息,让对未来的预测与正在生成的动作相互关联。

04

三轮部署带来持续提升

闭环是否有效,可以直接看三轮部署的变化。在覆盖30项任务的Table30 V2实验中,LoopWAM持续吸收自身的真实部署经验,并通过三轮闭环更新提升多任务表现。

整体成功率:23.67% → 28.00% → 37.67% → 43.33%。

过程分:36.10 → 42.63 → 51.65 → 56.80。


图6 多任务自提升


三轮更新中,两项总体指标每轮均有提高。这组结果表明,LoopWAM能够将自身在多任务环境中积累的部署经验,转化为后续策略改进。

05

叠衣服任务中的持续自提升

面对困难单任务的后训练,LoopWAM同样能够利用真实部署经验持续提升。在叠衣服任务上,LoopWAM能够从随意丢到机器人面前、杂乱的衣物开始操作。衣物的初始状态混乱且复杂多样:褶皱与堆叠会遮住衣角,适合抓取的位置也随姿态变化而变化。

机器人需要先在混乱状态下寻找合适的抓取位置,通过反复抓取与逐步展开,让衣物边角暴露出来,再抓住衣角完成后续折叠。衣物会随着操作不断变形,这要求模型根据每一步的实际变化持续调整动作。

LoopWAM从多任务模型出发,先使用新采集的专家叠衣演示进行单任务后训练,再开展两轮部署驱动的自提升。

叠衬衫成功率由13.20%提升至32.54%,最终达到55.56%;过程分从14.44提升至67.78。


图7 叠衣服后训练自提升



图8 叠衣服效果展示(操作部分10倍速)


这说明,在模型已经针对一个困难任务完成适配后,继续利用真实执行反馈,仍然能够带来明显增益。

06

在仿真基准中进一步验证

在两个仿真基准上,LoopWAM进一步验证了更广泛意义下的自提升:模型更新可以利用任意已部署策略产生的轨迹,即使这些策略的表现较差。来自不同策略的部署经验扩展了可学习的状态、动作与结果分布,LoopWAM通过质量感知训练从中学习世界变化,并引导动作生成偏向高质量行为。

在包含50项双臂任务的RoboTwin 2.0上,LoopWAM取得94.5%的平均成功率,其中标准环境约94.6%,域随机化环境约94.4%,所有指标超过LingBot-VA 2.0等方法,取得SOTA。


图9 RoboTwin 2.0评测结果


在RoboCasa365的50项任务评测中,LoopWAM取得49.5%的总体成功率,高于ABot-M0.6的46.6%。对于同时排除在专家训练数据和部署训练数据之外的16项未见组合任务,模型也取得了14.9%的成功率,展示了对未见任务组合的迁移能力。


图10 RoboCasa365评测结果


这两组实验均未进行额外的具身数据预训练,而是在预训练视频模型基础上,利用专家演示与部署轨迹进行学习。结合真实机器人实验,LoopWAM在真实与仿真的三个基准上均取得了最优成绩,为混合质量部署经验的利用价值提供了充分证据。

让每一次真实部署都带来可学习的经验,在真实部署中持续自提升,这是LoopWAM希望持续推进的方向。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
4000 头牛一头不卖,只收牛粪!广西汉靠 “屎” 逆袭,狂赚上亿身家

4000 头牛一头不卖,只收牛粪!广西汉靠 “屎” 逆袭,狂赚上亿身家

万象硬核本尊
2026-10-19 23:28:14
国际足坛当下10位赋闲名帅:多人拿过欧冠,有人拿过世界杯

国际足坛当下10位赋闲名帅:多人拿过欧冠,有人拿过世界杯

我是盲流
2026-10-19 09:48:04
马斯克给每个美国儿童送股票,我们的有钱人,忙着送自己的孩子出国

马斯克给每个美国儿童送股票,我们的有钱人,忙着送自己的孩子出国

走读新生
2026-10-20 06:25:11
事态升级!解放军锐评旭日旗事件 陈某迎四大噩耗 不止遣返那么简单

事态升级!解放军锐评旭日旗事件 陈某迎四大噩耗 不止遣返那么简单

健身狂人
2026-10-20 07:19:37
"精日台独" 双重嚣张面目彻底曝光,在俄披旭日旗的中国留学生开始求饶了!网友:精日“毒”瘤必须连根铲除,滋生媚日的舆论土壤更当警惕!

"精日台独" 双重嚣张面目彻底曝光,在俄披旭日旗的中国留学生开始求饶了!网友:精日“毒”瘤必须连根铲除,滋生媚日的舆论土壤更当警惕!

澳门月刊
2026-10-19 14:42:52
下午3点半!CCTV5直播中超夺冠生死战,费利佩VS阿奇姆彭,打平=成都拿冠军

下午3点半!CCTV5直播中超夺冠生死战,费利佩VS阿奇姆彭,打平=成都拿冠军

小秦哥聊体育
2026-10-19 18:13:06
王俊杰NCAA疯狂砍下31分,赛后坦言:国家队教练打战术,大学教练让我做正确的事!

王俊杰NCAA疯狂砍下31分,赛后坦言:国家队教练打战术,大学教练让我做正确的事!

爱体育
2026-10-19 23:56:24
39岁逆生长!梅西年度40球达成,生涯第14次解锁这项足坛神迹

39岁逆生长!梅西年度40球达成,生涯第14次解锁这项足坛神迹

友谊第一
2026-10-20 12:00:20
价格大跳水,暴跌70%

价格大跳水,暴跌70%

天津族
2026-10-19 18:24:32
提醒:今年冬天可能是50年以来少见的反常冬天,有5大特点

提醒:今年冬天可能是50年以来少见的反常冬天,有5大特点

健身狂人
2026-10-19 04:47:41
张本智和父亲:樊振东被挤走了,王楚钦跌出世界前四,男乒这回完蛋了?

张本智和父亲:樊振东被挤走了,王楚钦跌出世界前四,男乒这回完蛋了?

乒乓乐园
2026-10-19 00:04:51
17级以上!超强台风“蔷琵”最新消息!厦门接下来的天气

17级以上!超强台风“蔷琵”最新消息!厦门接下来的天气

海峡导报大生活
2026-10-20 12:28:06
刘恺威开180万豪车带女友同居,女方是32岁演员,圆脸漂亮身材好

刘恺威开180万豪车带女友同居,女方是32岁演员,圆脸漂亮身材好

椰黄娱乐
2026-10-20 10:53:50
金融监管总局:依法将所有金融活动全部纳入监管

金融监管总局:依法将所有金融活动全部纳入监管

新京报
2026-10-19 16:59:49
商家花53万元找“交个朋友”带货,仅成交3672.8元?“交个朋友”回应:未违约,可补播

商家花53万元找“交个朋友”带货,仅成交3672.8元?“交个朋友”回应:未违约,可补播

大风新闻
2026-10-19 17:00:08
“高考10分加分,就这么作没了!”高中女生回家看见刚出生妹妹,真实反映刺痛网友

“高考10分加分,就这么作没了!”高中女生回家看见刚出生妹妹,真实反映刺痛网友

林林先生
2026-10-19 12:22:40
刘文辉故意不炸泸定桥,临终说出真相:那13根铁索是川康百姓命根

刘文辉故意不炸泸定桥,临终说出真相:那13根铁索是川康百姓命根

小豫讲故事
2026-10-20 06:00:13
Shams:麦克丹尼尔斯1年4000万合同续约森林狼

Shams:麦克丹尼尔斯1年4000万合同续约森林狼

懂球帝
2026-10-20 09:54:23
还得是老北京人!物业不让门口放鞋柜和鞋子,北京业主的新做法真是绝了

还得是老北京人!物业不让门口放鞋柜和鞋子,北京业主的新做法真是绝了

娱乐洞察点点
2026-10-20 00:10:33
“父亲开大奔,才能养出这种女儿”,浙大女孩返校一幕火了,长相普通,但气质一流

“父亲开大奔,才能养出这种女儿”,浙大女孩返校一幕火了,长相普通,但气质一流

世界圈
2026-10-14 15:28:36
2026-10-20 13:23:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14249文章数 142748关注度
往期回顾 全部

科技要闻

新版MiniMax,能和DeepSeek掰手腕吗?

头条要闻

男子身中16刀身亡 前妻逃亡26年隐匿乡村当了妇女主任

头条要闻

男子身中16刀身亡 前妻逃亡26年隐匿乡村当了妇女主任

体育要闻

30天30队·奇才:三状元一榜眼 35胜?

娱乐要闻

港媒曝刘恺威与32岁黎纪君恋情,秘密恋爱两个月

财经要闻

这些科技股王,为什么总输给茅台?

汽车要闻

不知道二代海鸥多好玩? 上赛道跑两圈 很过瘾的

态度原创

教育
亲子
数码
公开课
军事航空

教育要闻

日常英语:玩暧昧会引起误会

亲子要闻

中荷宝宝在济南快乐吃饭的日子

数码要闻

达尔优COOL75磁轴键盘上市:钻石灯箱+音量触控条,499元起

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

泽连斯基:若乌“被要求”举行战时选举 他将竞选连任

无障碍浏览 进入关怀版