网易首页 > 网易号 > 正文 申请入驻

让自然语言成为世界模型的表征,英伟达Physis-Lang这样增强视频物理真实性

0
分享至





X:https://x.com/NVIDIAAI/status/2105051552029556942

从一块黄油如何融化,到 Physics-IQ Verified 的榜一,视频里的物理细节值得被重新描述一遍。

给视频模型一句「黄油受热融化」,它该生成什么?

一块逐渐变小的黄油、一圈向外扩散的液体,还是一团突然瘫软的黄色物体?这句话点出了事件,却省略了中间的过程。热量如何改变状态,重力如何影响形状,固体缩小与液体铺展怎样同时发生,都需要模型自己补全。

英伟达联合 MIT 和牛津大学的研究团队提出的 Physis-Lang,就从这些经常被省略的细节入手:把物理原因、规律和结果写进语言描述,再让这套描述贯穿数据筛选、模型训练和视频生成。



视频链接:https://mp.weixin.qq.com/s/D6b1FbGx-Zvzknnlt9zzPw

视频 1|Physis-Lang 完整演示:物理语言表征、描述准则自进化、数据检索及视频生成结果。



图 1|Physis-Lang 论文标题、作者及研究机构。

在权威榜单 Physics-IQ Verified 上,Physis-Lang 的 Cosmos3-Super 和 Cosmos3-Nano 版本分别以 48.2 和 43.3 的得分,按平均分位列第一、第二。



图 2|Physics-IQ Verified 榜单对比。Physis-Lang 的 Super 与 Nano 版本按平均分位列第一、第二,Super 较此前最高分提升 5.5 个百分点。

  • 榜单地址:https://physics-iq-verified.anates.ai/

其中,Super 比图中此前最高的 42.7 分高出 5.5 个百分点;16B 大小的 Cosmos3-Nano 加入 Physis-Lang 以后,均分也超过了原始 64B 大小的 Super 模型。一个值得追问的问题是:语言描述究竟改了什么,能把提升传递到生成的视频里?

在训练和推理的 caption 中,细致地注入物理过程

普通视频 caption 往往擅长交代场景:画面里有什么,谁做了什么动作。Physis-Lang 进一步要求描述物体之间的作用,以及这种作用如何推动后续变化。

Physis-Lang 在基础描述之外加入物理推理信息。训练时,它为真实视频重新生成更细致的文本监督;推理时,它扩展用户的简短输入,并补充与当前场景相关的负向描述,约束不合理的物理行为。

还是黄油的例子。更完整的描述可以是:持续加热使黄油逐渐融化,固体部分在重力作用下塌落,体积不断缩小,融化后的液体在周围形成逐渐扩大的浅层液池。

这段话给出了连续的状态变化。生成模型需要表现的,不再只有「黄油」和「融化」两个概念,还有升温对物态的影响,固体与液体之间随时间变化的关系。

但描述更长,也可能意味着编造更多。模型如果把看不见的原因写得头头是道,反而会引入错误监督。因此,这项工作的关键,是让物理描述能够被检查,并据此持续改进。

评价 caption 物理细致程度的 PhysCapBench

& 自进化的 caption prompt



视频链接:https://mp.weixin.qq.com/s/D6b1FbGx-Zvzknnlt9zzPw

视频 2|描述准则的自进化流程:固定标注模型,根据物理评估反馈迭代共享的 caption prompt,并通过 PhysCapBench 验证。

研究团队为此构建了 PhysCapBench:一个评判视频描述中物理细节是否充分、是否正确的 benchmark。它包含 246 段物理视频,以及 3,794 条经过人工核验的原子断言,平均每段视频约 15.4 条。

所谓原子断言,可以理解为能够单独判断真假的物理陈述。例如,杯子撞上硬物后破裂,评估时会先将碰撞、受力和破裂的整个过程分解为逐条简短的物理陈述,再逐一评判,而不是笼统地给整段文字打一个印象分。

评分分为两个方向:Precision 检查描述说出的内容有没有依据;Recall 检查人工标注的物理信息有没有被覆盖。两者合成 F1,让「写得对」和「写得全」都有了可比较的尺度。

有了这把尺子,自进化才有明确的反馈。系统先在固定的 20 段开发视频上生成描述,由物理评估器指出遗漏和错误,再交给进化智能体修改共用的描述准则。更新后的准则还要在 PhysCapBench 上验证,最后选出表现最好的版本。

这个过程中,标注模型的权重保持不变。每轮修改的是所有视频共用的 caption prompt,而不是逐条给某个视频的答案「打补丁」。



图 3|描述准则自进化带来的收益。左:PhysCapBench F1 从 78.64 提升至 87.82;右:固定生成模型,仅更新推理描述,PhyGenBench 得分从 64.17 提升至 67.29。

从第 1 轮到第 9 轮,PhysCapBench F1 从 78.64 升至 87.82。改进并非一路向上:第 2 轮一度降至 76.28,论文将其归因于过于谨慎的描述。这也说明,少说虽然可能少犯错,却会丢掉必要的物理信息。

此外,固定预训练 Cosmos3-Nano,仅改变推理时的描述,PhyGenBench 得分就从 64.17 提高到 67.29。caption 端的改进,确实能够传到生成端。仅通过语言的自进化,不仅提升了多模态模型的物理理解能力,也进一步提升了视频模型的物理生成能力。

语言这一表征还能更好地用于数据筛选



图 4|语言引导的数据检索流程及效果:将模型的物理能力短板转为检索标签,补充相关真实视频并重新标注,用于增强训练数据。

语言的作用还延伸到了数据筛选。假如模型总是在物理形变、碰撞或断裂上出错,继续随机增加视频,未必能补上这些短板。

Physis-Lang 将模型暴露出的不足转成物理领域标签,再据此检索真实视频。检索更关注视频包含什么物理过程:即使画面主体、颜色和背景不同,只要涉及需要补充的物理机制,也可能是有价值的训练样本。

最终的数据集包含 183K 段真实视频。其中,71K 段来自 WISA-80K 数据集,另外 112K 段通过这套检索流程补充。它们再由优化后的描述准则进行重新标注,用于模型训练。



图 5|检索数据带来的分物理类别收益。横轴为 VideoPhy-2 联合得分的提升幅度(百分点),括号内为各类别样本数。

细分到物理类别,在 VideoPhy-2 上,化学过程和热过程都提升了 8.00 个百分点,断裂力学提升 7.45 个百分点,布料形变提升 7.19 个百分点。这些结果更直接地展示了数据补充对应的能力变化。

这样一来,语言就把几个环节接了起来:先描述物理过程,再用描述发现问题、寻找数据,最后把补充的数据和改进的描述一起用于训练。

四项物理评测开源 SOTA,三项超越 Veo 3.1

Physis-Lang 的优势,直接体现在与领先视频生成模型的对比中。基于 Cosmos3-Nano 的版本,在论文评测的四项物理 benchmark 上,均取得参评开源模型及方法中的最佳表现;其中三项总分超过 Veo 3.1。

这组实验同时覆盖图生视频和文生视频。对手既包括 Veo 3.1、HunyuanVideo-1.5、Wan2.2 等通用生成模型,也包括专门改善物理表现的方法。四张完整结果表如下。



看看生成的视频里发生了什么

从碰撞的传递,到纸张撕裂、受压形变,下面几段生成样例展示了不同的物理过程。



视频链接:https://mp.weixin.qq.com/s/D6b1FbGx-Zvzknnlt9zzPw

视频 3|接触与碰撞:基于 Cosmos3-Nano 生成的木块依次倾倒样例,展示接触作用下的运动传递。



视频链接:https://mp.weixin.qq.com/s/D6b1FbGx-Zvzknnlt9zzPw

视频 4|受力撕裂:基于 Cosmos3-Super 生成的纸张样例,展示向两侧拉动时的形变与裂口扩展。



视频链接:https://mp.weixin.qq.com/s/D6b1FbGx-Zvzknnlt9zzPw

视频 5|负载下的形变:基于 Wan2.1-14B 生成的壶铃与枕垫样例,展示重物接触后柔软材料的凹陷与形变。

结语

Physis-Lang 把一个容易被忽略的问题摆到了台前:我们交给视频模型的语言,是否充分描述了它需要学习的物理过程?黄油融化、纸张撕裂、枕垫受压,这些看似简单的事件,都包含具体的物理作用关系和状态变化。将它们描述清楚,才能为训练和生成提供更充分的物理信息。

从主实验中的四项开源 SOTA,到最新 Physics-IQ Verified 榜单对比中 Super 达到 48.2 分、Nano 达到 43.3 分,这项工作给出了可以量化的答案。通过描述准则自进化、针对能力短板的数据检索,以及贯穿训练与推理的物理语言,Physis-Lang 让这些细节转化成了生成表现上的提升。

让世界模型更好地理解物理,可以从重新优化语言这一重要表征开始。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
人在监狱服刑,网贷记录多了十多万?湖北黄冈一男子称入狱20多天,就被人冒名贷款、转走资金超38万元

人在监狱服刑,网贷记录多了十多万?湖北黄冈一男子称入狱20多天,就被人冒名贷款、转走资金超38万元

台州交通广播
2026-10-18 21:13:05
中国留学生在课堂身披旭日旗,钧正平发声:无论身处哪个国家、哪所校园,为军国主义张目都是对人类良知的公然冒犯,为人所不齿

中国留学生在课堂身披旭日旗,钧正平发声:无论身处哪个国家、哪所校园,为军国主义张目都是对人类良知的公然冒犯,为人所不齿

扬子晚报
2026-10-19 07:23:07
诺奖早已变味,中国科技无需西方盖章

诺奖早已变味,中国科技无需西方盖章

华山穹剑
2026-10-18 19:38:16
秒怂!在莫斯科教室披旭日旗大闹课堂的中国留学生,被举报至大使馆后拍视频道歉

秒怂!在莫斯科教室披旭日旗大闹课堂的中国留学生,被举报至大使馆后拍视频道歉

不掉线电波
2026-10-16 15:03:07
尊界刹车事件,三部门还没出结论,舆论就已经反转了!

尊界刹车事件,三部门还没出结论,舆论就已经反转了!

葱哥说
2026-10-18 21:43:54
父亲遛狗儿子坠亡最新!警方刑事立案,母亲曝光铁证,果然有阴谋

父亲遛狗儿子坠亡最新!警方刑事立案,母亲曝光铁证,果然有阴谋

萧佉影视解说
2026-10-18 22:44:19
生活成本上涨加重负担,社会发展模式面临压力,骚乱凸显法国治理深层困境

生活成本上涨加重负担,社会发展模式面临压力,骚乱凸显法国治理深层困境

环球网资讯
2026-10-19 06:45:32
超1000架无人机和17枚火烈鸟袭击俄罗斯,莫斯科和圣彼得堡遭大规模打击

超1000架无人机和17枚火烈鸟袭击俄罗斯,莫斯科和圣彼得堡遭大规模打击

山河路口
2026-10-18 14:04:26
上海演员吴越凌晨发文怒斥:这位“花姐”骗了多少人的钱?请如数奉还!

上海演员吴越凌晨发文怒斥:这位“花姐”骗了多少人的钱?请如数奉还!

上观新闻
2026-10-18 09:53:50
央媒定调“尊界刹车门”事件:各打五十大板,懂车帝危险了

央媒定调“尊界刹车门”事件:各打五十大板,懂车帝危险了

鸣金网
2026-10-18 16:59:30
男子打羽毛球时不慎摔倒,裤兜里的手机突然爆燃,致其二级重度烧伤,知情人:手机刚买两个月

男子打羽毛球时不慎摔倒,裤兜里的手机突然爆燃,致其二级重度烧伤,知情人:手机刚买两个月

第一财经资讯
2026-10-18 14:40:44
到处都在过紧日子,为什么税务招了近七成的国考编制?

到处都在过紧日子,为什么税务招了近七成的国考编制?

大何日拱一卒
2026-10-18 18:19:37
特朗普公开表示:法国正在燃烧,来自不同世界、心中充满仇恨的移民,摧毁了这个曾经伟大的国家,马上关闭边境、控制局势,一切都还来得及

特朗普公开表示:法国正在燃烧,来自不同世界、心中充满仇恨的移民,摧毁了这个曾经伟大的国家,马上关闭边境、控制局势,一切都还来得及

吉刻新闻
2026-10-18 22:13:26
汉庭快捷有门店推出“欢聚六人房”,顾客称像是“美丽豪华大宿舍”,有网友建议全国推广,华住会官方客服回应

汉庭快捷有门店推出“欢聚六人房”,顾客称像是“美丽豪华大宿舍”,有网友建议全国推广,华住会官方客服回应

极目新闻
2026-10-18 17:12:20
5-0!英超第1黑马狂飙 33岁少帅率队6连胜+升次席 7轮轰23球超曼城

5-0!英超第1黑马狂飙 33岁少帅率队6连胜+升次席 7轮轰23球超曼城

我爱英超
2026-10-18 23:07:04
中超笑话,如果成都蓉城最后一轮输给大连,将创造4大名场面

中超笑话,如果成都蓉城最后一轮输给大连,将创造4大名场面

南海浪花
2026-10-18 22:24:08
美引以为傲的优势消失,至少落后中国10年,美媒:中国在全国动员

美引以为傲的优势消失,至少落后中国10年,美媒:中国在全国动员

闻识
2026-10-18 09:46:03
留学生“精日”行径引众怒,知情人士讲述处置过程

留学生“精日”行径引众怒,知情人士讲述处置过程

环球网资讯
2026-10-19 00:34:05
细思极恐!云南教授吃饭发现不对劲,掀开桌布惊现数百个2厘米小人正在行军,美国科学家跨国追查10年真相仍扑朔迷离!

细思极恐!云南教授吃饭发现不对劲,掀开桌布惊现数百个2厘米小人正在行军,美国科学家跨国追查10年真相仍扑朔迷离!

徐德文科学频道
2026-10-18 17:16:48
为什么每个朝代到后期都没钱?看完网友分享我破防了,画面感很强

为什么每个朝代到后期都没钱?看完网友分享我破防了,画面感很强

夜深爱杂谈
2026-10-17 19:21:55
2026-10-19 07:56:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14235文章数 142748关注度
往期回顾 全部

科技要闻

王江舟院士:6G到底是不是骗局 是不是收割

头条要闻

披旭日旗的中国留学生是南京人 疑多次表态支持"台独"

头条要闻

披旭日旗的中国留学生是南京人 疑多次表态支持"台独"

体育要闻

别在我的地盘夺冠!海港队史首次双杀蓉城

娱乐要闻

郭麒麟被传领证,女方戳破谣言

财经要闻

马斯克:美债问题只能靠AI和机器人解决

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

旅游
数码
家居
本地
艺术

旅游要闻

大阪中国游客锐减61.5%,日媒着急

数码要闻

不搞混合架构:Intel下代CPU做到16个纯大核!

家居要闻

2026建博会(广州) 公装联探展交流活动

本地新闻

因新荣记出圈,这座浙东小城才是吃货天堂

艺术要闻

不敢信这是画的!比利时大师的女性油画,逼真程度突破认知

无障碍浏览 进入关怀版