网易首页 > 网易号 > 正文 申请入驻

赋予视频生成「视觉思维链」:VChain显式建模时空规划与状态演变

0
分享至



当视频生成模型在视觉保真度上不断突破时,一个核心瓶颈正变得愈发清晰:模型是否真正理解了真实世界?能否推理出合理的演变过程?

在具身智能、影视制作以及物理仿真等应用场景中,要求模型不仅要生成 “平滑的像素”,更要实现 “逻辑连贯的演化”。这种对物理规律与因果关系的建模能力,是当前基于大数据驱动的端到端生成模型面临的长期挑战。

那么,我们能否将多模态大模型(MLLM)的推理能力,作为一种 “外脑” 注入到视频生成过程中呢?

来自南洋理工大学(NTU)的研究团队在ACL 2026 (Findings)发表了VChain。这一框架试图将大型多模态模型(如 GPT-4o)的视觉推理能力引入视频生成,以提升视频在逻辑与物理规律上的连贯性。



  • 论文: VChain: Chain-of-Visual-Thought for Reasoning in Video Generation
  • 作者:黄子琪 (Ziqi Huang), 于宁 (Ning Yu), Gordon Chen, 邱浩楠 (Haonan Qiu), Paul Debevec, 刘子纬 (Ziwei Liu)
  • 论文地址: https://arxiv.org/abs/2510.05094
  • 项目主页: https://eyeline-labs.github.io/VChain

背景

视频生成的 “常识缺失”

现有的视频生成模型往往表现出一种 “物理不及格” 的状态:球可以反物理地滚动,羽毛可能比石头下落得更快。原因在于,目前的模型擅长模仿 “样子”(视觉模式),却不懂 “道理”(物理因果)。

虽然 GPT-4o 等多模态大模型在视觉推理上表现出色,但直接生成视频成本极高。VChain 的核心思路是 “让专业的人做专业的事”:引入一个在推理阶段工作的框架,利用 LMM 进行逻辑推演,转而 “指导” 视频模型进行创作。



为了解决这个问题,研究者们提出了VChain,一个在推理阶段工作的框架,VChain 的核心思路是 “让专业的人做专业的事”:利用 LMM 进行逻辑推演,转而指导视频模型进行内容创作。

方法

三步走的 VChain 框架 - “视觉思维链”

VChain 的实现流程非常优雅,主要分为三个阶段,全部在推理时完成,无需对视频模型进行重新训练,非常高效。



1. 视觉思维推理 (Visual Thought Reasoning)

面对 “将浓硫酸倒在木桌上” 这类指令,VChain 首先调用 LMM 进行 “头脑风暴”,推演事件的因果链并生成关键图像帧。这些帧被称为 “视觉思维链 (Chain of Visual Thoughts)”,它将抽象逻辑转化为具体的视觉步骤。

这个过程是迭代的,LMM 会一步步地思考:“首先,一杯硫酸在桌子上方;然后,硫酸开始倾倒;接着,液体接触到桌面;最后,桌面被腐蚀变黑。” 并为每一步生成对应的图像。



2. 推理时稀疏调优 (Sparse Inference-Time Visual-State Adaptation)

有了这些包含逻辑关系的关键帧(视觉思维)后,VChain 并不会用它们来生成所有视频帧。相反,它只在这些 “关键时刻” 对预训练好的视频生成器进行微调。

具体来说,它将这些关键帧和对应的文本描述配对,作为稀疏的监督信号,通过 LoRA 高效地调整视频生成模型的参数。这种方式只在几个关键点上进行 “校准”,大大降低了计算开销。

3. 视频采样 (Video Sampling)

经过稀疏调优后,视频生成模型就领会了整个事件的 “大纲”。最后,VChain 将所有步骤的文本描述连接成一个完整的长提示,输入给调优后的模型,从而生成一个连贯、流畅且符合逻辑的完整视频。

实验效果

从 “貌合神离” 到 “形神兼备”

那么,VChain 的效果究竟如何呢?

在定性对比中,我们可以看到,对于 “保龄球撞击球瓶” 这个场景,现有模型生成的视频中,球瓶几乎不动或只是轻微抖动,完全没有发生真实的碰撞。而经过提示增强后,虽然有了互动,但动态效果非常不自然,甚至出现了伪影。

相比之下,如果给同样的模型加上 VChain 框架,生成的视频则完全符合物理规律:球以合理的力量撞击球瓶,球瓶被击倒的过程连贯且真实。物体的几何形状和材质在整个过程中都保持得很好。



在定量评估中,VChain 在各项指标上也达到或超过了现有方法。在针对物理规律、常识推理及因果逻辑的专项测评中,VChain 显著优于现有方法。



研究者们还通过消融实验证明了 VChain 每个组成部分的重要性。如果去掉 “视觉思维”,模型虽然知道要生成第一人称视角的视频,但无法捕捉到正确的 “接球” 视觉模式。如果去掉 “稀疏调优”,直接用关键帧进行插值,则会导致严重的图像扭曲和伪影。只有将两者结合,才能得到最连贯、最真实的结果。



VChain 巧妙的地方在于它是一种 “即插即用” 的推理时框架,它没有去大动干戈地训练一个全新的视频模型,也不依赖额外的数据,而是通过 “LMM” 赋能;这为未来多模态模型的协同工作提供了一个范例。

深度思考

视频生成范式的 “推理革命”

基于论文附录的探讨,VChain 展示了视频推理与生成的两种潜在趋势:

1. 从 “语义指引” 到 “具象视觉推理” 的跨越

过去的研究多依赖 LLM 生成文字脚本或简单的布局信息。然而,文本在传达 “复杂的物理形变” 时存在表达盲区。

VChain 证明了:对于视频生成任务,推理过程也需要 “去符号化” 并直接进入视觉空间。 只有通过具备空间与材质约束的图像锚点,才能有效修正生成器内心错误的物理先验,实现逻辑与像素的统一。

2. 推理者 - 渲染者 (Reasoner-Renderer)” 协作新范式

VChain 提出了一种模块化的协作路径,将复杂的逻辑判断(由 MLLM,也就是 Reasoner 来完成)与底层的视觉渲染(由扩散变压器架构,或者更广义的 Renderer 来完成)进行解耦。

当视频生成逐渐被视为 “世界模型” 的一种实现形式,我们不应只满足于画面的精美。只要多模态大模型的常识以及逻辑推理能力上限依然高于视觉生成模型,这种将推理能力引导至生成过程的范式,就为未来多模态模型的协同工作提供了一个可参考的方向。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
社保开始大数据倒查!违规挂靠、补缴等旧账终身追溯!

社保开始大数据倒查!违规挂靠、补缴等旧账终身追溯!

职场资深秘书
2026-10-21 16:16:34
谁也没想到,1998年纽约这张合影,竟埋下命运伏笔:52岁的特朗普,身旁是28岁的梅拉尼娅

谁也没想到,1998年纽约这张合影,竟埋下命运伏笔:52岁的特朗普,身旁是28岁的梅拉尼娅

扶苏聊历史
2026-09-30 16:46:18
牛奶被关注!医生发现:喝得越多,肌少症老年人肌肉流失或越慢?

牛奶被关注!医生发现:喝得越多,肌少症老年人肌肉流失或越慢?

路医生健康科普
2026-10-21 19:20:04
11月大福报!4星座情财双丰收,苦尽甘来

11月大福报!4星座情财双丰收,苦尽甘来

别人都叫我阿螫
2026-10-21 12:32:42
放弃阔腿裤吧!今年的“喇叭裤”又火了,这样穿时髦高级,太美了

放弃阔腿裤吧!今年的“喇叭裤”又火了,这样穿时髦高级,太美了

时尚穿搭生活馆
2026-10-21 21:48:06
一辆十年车龄的奔驰迈巴赫S400拍卖,20万元被人拿下

一辆十年车龄的奔驰迈巴赫S400拍卖,20万元被人拿下

沙雕小琳琳
2026-10-19 18:08:32
电池比车贵是骗局?第一批比亚迪换电池,真实费用惊呆车主

电池比车贵是骗局?第一批比亚迪换电池,真实费用惊呆车主

音乐时光的娱乐
2026-10-20 09:37:34
发现中国一个奇怪的现象:只要有公婆帮扶的家庭,儿媳都忙着回公婆家;而公婆不帮的家庭,儿媳早已断联!

发现中国一个奇怪的现象:只要有公婆帮扶的家庭,儿媳都忙着回公婆家;而公婆不帮的家庭,儿媳早已断联!

心理观察局
2026-08-01 07:10:30
住建部明确:楼龄满25年的老房子,一律这样处理!老小区有福了

住建部明确:楼龄满25年的老房子,一律这样处理!老小区有福了

细说职场
2026-10-21 14:07:02
亚锦赛国乒女单全线晋级,蒯曼死里逃生陈熠丢局敲警钟

亚锦赛国乒女单全线晋级,蒯曼死里逃生陈熠丢局敲警钟

罗纳尔说个球
2026-10-21 21:32:04
电锯惊魂!巴黎球迷巨型横幅侮辱巴萨 巴萨2-4输球后向欧足联投诉

电锯惊魂!巴黎球迷巨型横幅侮辱巴萨 巴萨2-4输球后向欧足联投诉

念洲
2026-10-21 06:48:31
真相曝光!同曦小外援吃里扒外,脚踩两只船,南京被迫解约,面临CBA封杀!

真相曝光!同曦小外援吃里扒外,脚踩两只船,南京被迫解约,面临CBA封杀!

体坛卡卡说
2026-10-21 20:35:48
以色列被曝本月曾准备大规模打击伊朗

以色列被曝本月曾准备大规模打击伊朗

界面新闻
2026-10-21 21:08:37
不输就夺冠!曝成都蓉城对大连球迷限票 辽宁人都被限 被批格局太小

不输就夺冠!曝成都蓉城对大连球迷限票 辽宁人都被限 被批格局太小

念洲
2026-10-21 11:24:54
泽连斯基:希望美方不要干涉乌克兰选举问题

泽连斯基:希望美方不要干涉乌克兰选举问题

界面新闻
2026-10-20 19:30:33
被处分、被解约,她辞职跑马拉松!35岁张水华今年收入曝光,彻底颠覆我对马拉松跑者创收的认知!估计和你想的不一样

被处分、被解约,她辞职跑马拉松!35岁张水华今年收入曝光,彻底颠覆我对马拉松跑者创收的认知!估计和你想的不一样

锐评利物浦
2026-10-18 13:14:55
8000元入手回收仅3500元!iPhone Air被吐槽不保值

8000元入手回收仅3500元!iPhone Air被吐槽不保值

快科技
2026-10-21 18:24:04
李小冉离婚,果然是因为钱

李小冉离婚,果然是因为钱

清唱
2026-10-20 19:33:51
市场会失灵,政策也会失灵

市场会失灵,政策也会失灵

小筑财经
2026-10-20 10:13:55
穆里尼奥仍不信任28岁皇马球星,中场试验也没成功

穆里尼奥仍不信任28岁皇马球星,中场试验也没成功

甜份超标的我
2026-10-20 15:51:26
2026-10-21 22:55:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14260文章数 142749关注度
往期回顾 全部

科技要闻

SpaceX收入暴涨!马斯克:这事"不再不可能"

头条要闻

21岁男子稻城亚丁高反死亡 其姐与报警人聊天纪录披露

头条要闻

21岁男子稻城亚丁高反死亡 其姐与报警人聊天纪录披露

体育要闻

“我,对得起天津足球!”

娱乐要闻

张柏芝自曝五点陪伴儿子 谢霆锋尴尬了

财经要闻

昔日彩电一哥缘何在今天被挤下牌桌?

汽车要闻

智驾摩尔定律一年十倍跃升 2028迎来L4拐点

态度原创

旅游
教育
时尚
艺术
数码

旅游要闻

进博会前夕韩国忠清圈来沪推介旅游资源 沪韩业界共话合作新机遇

教育要闻

“复读6年的体育生,还跑得动吗?”陪读母亲执迷不悔,网友恨铁不成钢

50岁的马伊琍,迎来了最佳赏味期

艺术要闻

走“性感”线路!O27摩天楼效果图公布,2028年建成!

数码要闻

网易UU远程官宣与荣耀团队深度合作,覆盖WIN平板远程游戏、办公等场景

无障碍浏览 进入关怀版