网易首页 > 网易号 > 正文 申请入驻

让自然语言成为世界模型的表征,英伟达Physis-Lang这样增强视频物理真实性

0
分享至





X:https://x.com/NVIDIAAI/status/2105051552029556942

从一块黄油如何融化,到 Physics-IQ Verified 的榜一,视频里的物理细节值得被重新描述一遍。

给视频模型一句「黄油受热融化」,它该生成什么?

一块逐渐变小的黄油、一圈向外扩散的液体,还是一团突然瘫软的黄色物体?这句话点出了事件,却省略了中间的过程。热量如何改变状态,重力如何影响形状,固体缩小与液体铺展怎样同时发生,都需要模型自己补全。

英伟达联合 MIT 和牛津大学的研究团队提出的 Physis-Lang,就从这些经常被省略的细节入手:把物理原因、规律和结果写进语言描述,再让这套描述贯穿数据筛选、模型训练和视频生成。



视频链接:https://mp.weixin.qq.com/s/D6b1FbGx-Zvzknnlt9zzPw

视频 1|Physis-Lang 完整演示:物理语言表征、描述准则自进化、数据检索及视频生成结果。



图 1|Physis-Lang 论文标题、作者及研究机构。

在权威榜单 Physics-IQ Verified 上,Physis-Lang 的 Cosmos3-Super 和 Cosmos3-Nano 版本分别以 48.2 和 43.3 的得分,按平均分位列第一、第二。



图 2|Physics-IQ Verified 榜单对比。Physis-Lang 的 Super 与 Nano 版本按平均分位列第一、第二,Super 较此前最高分提升 5.5 个百分点。

  • 榜单地址:https://physics-iq-verified.anates.ai/

其中,Super 比图中此前最高的 42.7 分高出 5.5 个百分点;16B 大小的 Cosmos3-Nano 加入 Physis-Lang 以后,均分也超过了原始 64B 大小的 Super 模型。一个值得追问的问题是:语言描述究竟改了什么,能把提升传递到生成的视频里?

在训练和推理的 caption 中,细致地注入物理过程

普通视频 caption 往往擅长交代场景:画面里有什么,谁做了什么动作。Physis-Lang 进一步要求描述物体之间的作用,以及这种作用如何推动后续变化。

Physis-Lang 在基础描述之外加入物理推理信息。训练时,它为真实视频重新生成更细致的文本监督;推理时,它扩展用户的简短输入,并补充与当前场景相关的负向描述,约束不合理的物理行为。

还是黄油的例子。更完整的描述可以是:持续加热使黄油逐渐融化,固体部分在重力作用下塌落,体积不断缩小,融化后的液体在周围形成逐渐扩大的浅层液池。

这段话给出了连续的状态变化。生成模型需要表现的,不再只有「黄油」和「融化」两个概念,还有升温对物态的影响,固体与液体之间随时间变化的关系。

但描述更长,也可能意味着编造更多。模型如果把看不见的原因写得头头是道,反而会引入错误监督。因此,这项工作的关键,是让物理描述能够被检查,并据此持续改进。

评价 caption 物理细致程度的 PhysCapBench

& 自进化的 caption prompt



视频链接:https://mp.weixin.qq.com/s/D6b1FbGx-Zvzknnlt9zzPw

视频 2|描述准则的自进化流程:固定标注模型,根据物理评估反馈迭代共享的 caption prompt,并通过 PhysCapBench 验证。

研究团队为此构建了 PhysCapBench:一个评判视频描述中物理细节是否充分、是否正确的 benchmark。它包含 246 段物理视频,以及 3,794 条经过人工核验的原子断言,平均每段视频约 15.4 条。

所谓原子断言,可以理解为能够单独判断真假的物理陈述。例如,杯子撞上硬物后破裂,评估时会先将碰撞、受力和破裂的整个过程分解为逐条简短的物理陈述,再逐一评判,而不是笼统地给整段文字打一个印象分。

评分分为两个方向:Precision 检查描述说出的内容有没有依据;Recall 检查人工标注的物理信息有没有被覆盖。两者合成 F1,让「写得对」和「写得全」都有了可比较的尺度。

有了这把尺子,自进化才有明确的反馈。系统先在固定的 20 段开发视频上生成描述,由物理评估器指出遗漏和错误,再交给进化智能体修改共用的描述准则。更新后的准则还要在 PhysCapBench 上验证,最后选出表现最好的版本。

这个过程中,标注模型的权重保持不变。每轮修改的是所有视频共用的 caption prompt,而不是逐条给某个视频的答案「打补丁」。



图 3|描述准则自进化带来的收益。左:PhysCapBench F1 从 78.64 提升至 87.82;右:固定生成模型,仅更新推理描述,PhyGenBench 得分从 64.17 提升至 67.29。

从第 1 轮到第 9 轮,PhysCapBench F1 从 78.64 升至 87.82。改进并非一路向上:第 2 轮一度降至 76.28,论文将其归因于过于谨慎的描述。这也说明,少说虽然可能少犯错,却会丢掉必要的物理信息。

此外,固定预训练 Cosmos3-Nano,仅改变推理时的描述,PhyGenBench 得分就从 64.17 提高到 67.29。caption 端的改进,确实能够传到生成端。仅通过语言的自进化,不仅提升了多模态模型的物理理解能力,也进一步提升了视频模型的物理生成能力。

语言这一表征还能更好地用于数据筛选



图 4|语言引导的数据检索流程及效果:将模型的物理能力短板转为检索标签,补充相关真实视频并重新标注,用于增强训练数据。

语言的作用还延伸到了数据筛选。假如模型总是在物理形变、碰撞或断裂上出错,继续随机增加视频,未必能补上这些短板。

Physis-Lang 将模型暴露出的不足转成物理领域标签,再据此检索真实视频。检索更关注视频包含什么物理过程:即使画面主体、颜色和背景不同,只要涉及需要补充的物理机制,也可能是有价值的训练样本。

最终的数据集包含 183K 段真实视频。其中,71K 段来自 WISA-80K 数据集,另外 112K 段通过这套检索流程补充。它们再由优化后的描述准则进行重新标注,用于模型训练。



图 5|检索数据带来的分物理类别收益。横轴为 VideoPhy-2 联合得分的提升幅度(百分点),括号内为各类别样本数。

细分到物理类别,在 VideoPhy-2 上,化学过程和热过程都提升了 8.00 个百分点,断裂力学提升 7.45 个百分点,布料形变提升 7.19 个百分点。这些结果更直接地展示了数据补充对应的能力变化。

这样一来,语言就把几个环节接了起来:先描述物理过程,再用描述发现问题、寻找数据,最后把补充的数据和改进的描述一起用于训练。

四项物理评测开源 SOTA,三项超越 Veo 3.1

Physis-Lang 的优势,直接体现在与领先视频生成模型的对比中。基于 Cosmos3-Nano 的版本,在论文评测的四项物理 benchmark 上,均取得参评开源模型及方法中的最佳表现;其中三项总分超过 Veo 3.1。

这组实验同时覆盖图生视频和文生视频。对手既包括 Veo 3.1、HunyuanVideo-1.5、Wan2.2 等通用生成模型,也包括专门改善物理表现的方法。四张完整结果表如下。



看看生成的视频里发生了什么

从碰撞的传递,到纸张撕裂、受压形变,下面几段生成样例展示了不同的物理过程。



视频链接:https://mp.weixin.qq.com/s/D6b1FbGx-Zvzknnlt9zzPw

视频 3|接触与碰撞:基于 Cosmos3-Nano 生成的木块依次倾倒样例,展示接触作用下的运动传递。



视频链接:https://mp.weixin.qq.com/s/D6b1FbGx-Zvzknnlt9zzPw

视频 4|受力撕裂:基于 Cosmos3-Super 生成的纸张样例,展示向两侧拉动时的形变与裂口扩展。



视频链接:https://mp.weixin.qq.com/s/D6b1FbGx-Zvzknnlt9zzPw

视频 5|负载下的形变:基于 Wan2.1-14B 生成的壶铃与枕垫样例,展示重物接触后柔软材料的凹陷与形变。

结语

Physis-Lang 把一个容易被忽略的问题摆到了台前:我们交给视频模型的语言,是否充分描述了它需要学习的物理过程?黄油融化、纸张撕裂、枕垫受压,这些看似简单的事件,都包含具体的物理作用关系和状态变化。将它们描述清楚,才能为训练和生成提供更充分的物理信息。

从主实验中的四项开源 SOTA,到最新 Physics-IQ Verified 榜单对比中 Super 达到 48.2 分、Nano 达到 43.3 分,这项工作给出了可以量化的答案。通过描述准则自进化、针对能力短板的数据检索,以及贯穿训练与推理的物理语言,Physis-Lang 让这些细节转化成了生成表现上的提升。

让世界模型更好地理解物理,可以从重新优化语言这一重要表征开始。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
73岁濮存昕车祸现场曝光!豪车和自行车相撞,被撞者瘫坐在地

73岁濮存昕车祸现场曝光!豪车和自行车相撞,被撞者瘫坐在地

错过美好
2026-10-09 03:48:47
就在大家都以为中国会坚决回应时,北京却选择了战略克制。

就在大家都以为中国会坚决回应时,北京却选择了战略克制。

回京历史梦
2026-08-22 18:23:43
内蒙古电影集团有限责任公司董事长曾涵被查

内蒙古电影集团有限责任公司董事长曾涵被查

新京报
2026-10-09 21:24:11
星链15000颗卫星获批直连手机,这次真能绕开运营商了

星链15000颗卫星获批直连手机,这次真能绕开运营商了

数码Antenna
2026-10-08 16:08:08
利雅得胜利发布联赛海报,C罗出现在海报最前方

利雅得胜利发布联赛海报,C罗出现在海报最前方

懂球帝
2026-10-09 20:11:32
没想到,负债累累的前夫黄有龙,竟给50岁赵薇留下“一手好牌”

没想到,负债累累的前夫黄有龙,竟给50岁赵薇留下“一手好牌”

妙知
2026-10-03 13:49:21
退休 25 年晚节不保,79 岁陈元虎涉嫌违纪被查

退休 25 年晚节不保,79 岁陈元虎涉嫌违纪被查

小影的娱乐
2026-10-09 11:25:58
我工资9000,发工资时却到账49000,去找老板问,老板却反问:前晚发的通知,你没看?

我工资9000,发工资时却到账49000,去找老板问,老板却反问:前晚发的通知,你没看?

LULU生活家
2026-10-09 16:27:21
iPhone Neo曝光:4599元配A20芯片,安卓迎来最强对手

iPhone Neo曝光:4599元配A20芯片,安卓迎来最强对手

小柱解说游戏
2026-10-10 00:48:13
国家气候中心:超强厄尔尼诺已正式形成

国家气候中心:超强厄尔尼诺已正式形成

新京报
2026-10-09 11:13:07
听完毛岸英牺牲详情后,毛主席忽然问彭德怀:我的岸英是否真的勇敢?

听完毛岸英牺牲详情后,毛主席忽然问彭德怀:我的岸英是否真的勇敢?

谈古论今历史有道
2026-10-08 12:20:08
全部金属:比亚迪郑羽公布仰望制动踏板材质,称踏板力执行2500N企业标准

全部金属:比亚迪郑羽公布仰望制动踏板材质,称踏板力执行2500N企业标准

IT之家
2026-10-09 18:23:09
两性心理学:女人主动跟你说例假来了,过来人都懂,她其实是在暗示你这两句话,不要再傻乎乎地听不明白

两性心理学:女人主动跟你说例假来了,过来人都懂,她其实是在暗示你这两句话,不要再傻乎乎地听不明白

心理观察局
2026-09-06 06:41:37
女护士被领导多次发生关系,苦苦哀求:你年纪大,别再找我好不好

女护士被领导多次发生关系,苦苦哀求:你年纪大,别再找我好不好

情感艺术家
2026-09-07 16:23:14
国家开启第3次救市政策,大概率会成功

国家开启第3次救市政策,大概率会成功

房产有点意思
2026-10-08 18:12:06
东契奇23+3+3无缘今日最佳!对不起,你碰到不讲理的老詹了

东契奇23+3+3无缘今日最佳!对不起,你碰到不讲理的老詹了

微评体育圈
2026-10-09 13:26:56
A股:全体股民做好心理准备了,大后天10.12,A股或再次历史重演吗?

A股:全体股民做好心理准备了,大后天10.12,A股或再次历史重演吗?

趋势清风侠
2026-10-09 15:37:26
演员向佐自曝把肾喝坏,肾功能相当于70岁老人,严重时走路都有问题……

演员向佐自曝把肾喝坏,肾功能相当于70岁老人,严重时走路都有问题……

上观新闻
2026-10-09 20:11:51
比亚迪、本田、东风公布刹车踏板材质及踏板力

比亚迪、本田、东风公布刹车踏板材质及踏板力

电动内参
2026-10-09 21:03:40
中网闯进四强!郑钦文赛后三大好消息,排名、奖金、数据全线爆发

中网闯进四强!郑钦文赛后三大好消息,排名、奖金、数据全线爆发

南海浪花
2026-10-09 18:09:47
2026-10-10 04:52:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14163文章数 142748关注度
往期回顾 全部

科技要闻

华为小米手机同日涨价,最高涨1000元

头条要闻

白宫新任新闻秘书人选公布 现任特朗普"真实社交"顾问

头条要闻

白宫新任新闻秘书人选公布 现任特朗普"真实社交"顾问

体育要闻

与C罗硬碰硬,一个72岁老人的倔强

娱乐要闻

吴奇隆宣布重要决定,走上谢霆锋老路

财经要闻

时隔12年,公募基金运作办法修订

汽车要闻

2027款深蓝L06及追风版上市 限时权益价11.49万元起

态度原创

教育
艺术
游戏
房产
数码

教育要闻

英语是一门普通话而已

艺术要闻

天造地设的才子佳人,凭什么声名传播700余年?真相太震撼!

任天堂女总裁回应《GTA6》上NS2:这事得问R星

房产要闻

475万人,猛增13.1%!国庆海南,又爆了?

数码要闻

华为WATCH Ultimate 2等手表HarmonyOS 7版本亮点公布,新增高尿酸风险评估研究等

无障碍浏览 进入关怀版