网易首页 > 网易号 > 正文 申请入驻

ZPedia|视频正在从文件变成界面,Vidu S2 把 AI 视频推向实时交互

0
分享至



过去很长一段时间,视频都是一种单向媒介。

电影、短视频、广告、直播回放,无论内容以什么方式生产,用户最终面对的都是一条已经确定的时间线:点开、播放、观看。你可以暂停、快进或者退出,却很难真正改变接下来会发生什么。

即使是生成式 AI,也只不过改变了视频的生产方式,这种静态的观看关系依然没有发生根本变化。当视频被生成出来,它依然是一段已经确定的内容——模型负责生产,用户负责观看。

实时视频想改变的,正是这层关系。

视频会随着用户的输入持续“发生”:一句话、一个动作、一张新图片,都可能实时改变接下来的画面。用户面对的不再是一段已经生成好的内容,而是一个仍在运行、仍然可以被影响的视觉界面。

它开始更接近游戏、直播或视频通话:用户直接和视频发生互动。

围绕这种变化,行业已经出现了不同方向的探索。

Google DeepMind 于 2025 年发布的 Genie 3 可以每秒 20 至 24 帧生成可实时探索的世界——用户改变行动,后续环境也随之变化。Runway 推出的 Aleph 则把人物、物体、背景、视角和光照纳入语义编辑范围,试图用自然语言取代部分传统后期流程。一条让生成结果持续运行,一条让既有视频更容易被改变。


Genie 3 官方演示:可实时探索的生成世界(来源:Google DeepMind 官网)

数字人公司则更早在企业市场中验证了另一件事:视频不仅可以是一段内容,也可以成为一种软件服务。

HeyGen 的实时数字人开始支持低延迟音视频互动,公司于 2026 年披露 ARR 超过 2 亿美元。Synthesia 从企业培训、内部沟通和多语种视频切入,2025 年 ARR 超过 1 亿美元,又继续开发能够实时问答和角色扮演的 Video Agents。企业购买的已不只是几段数字人口播,而是一套可以持续生产和交互的视频工具。

这些方向背后是同一种变化:视频正在从一次性生成的内容,变成能够读取状态、接受新指令并持续变化的系统。模型竞争的边界,也开始从“生成得像不像”,转向“生成之后还能做什么”。

生数科技的 Vidu S 可以被看作这条路线的一次具体落地。它不只是生成质量或模型性能上的一次升级,而是在尝试改变视频的生产和使用方式:从制作一段视频,走向运行一个可以持续交互、持续变化的视频系统。作为该系列的最新迭代,Vidu S2 让这一视频系统有了更完整的产品形态。


双模齐发:从“实时回应”走向“实时可改”

Vidu S1 已经完成了第一步:让数字人从“播放内容”走向“实时回应”。

用户可以持续输入语音或文字指令,模型根据新的信息生成后续画面。比心、眨眼、打招呼、扎头发等动作,都可以在互动过程中被实时触发。数字人不再只是播放一段提前制作好的视频,而开始具备持续响应用户的能力。

但“能够回应”,还不等于“能够被改变”。

如果数字人的形象、服装、商品和场景都必须在开播前确定,那么即使它可以持续说话和做动作,本质上仍然更接近一套具备交互能力的预设内容。

因此,S1 解决的更多是视频如何持续生成、持续响应的问题。接下来的问题则是:当生成已经开始,用户还能不能继续修改正在发生的画面?

Vidu 给出的答案来得很快。

S1 发布仅 69 天后,Vidu S2 完成新一轮迭代。这一次,它不只是继续提升实时交互能力,而是进一步把“编辑”带进了持续生成过程。


一边是S2-Avatar,让数字角色在互动过程中继续接收新的指令和视觉参考,改变动作、服装和所使用的物品;另一边是S2-Editing,直接对正在输入的视频流进行角色替换、虚拟换衣、风格渲染和背景替换。

从实时生成,到实时编辑,视频第一次可以在“运行中”被持续改写。与此同时,Vidu S2 还开始向实时空间视频等更前沿的形态延伸:

S2-Avatar:从“会说话”到“会表演”

S2-Avatar 将实时输出从 S1 的 540P 提升至 720P,同时强化了动作指令的执行能力。更关键的一点,是它开始支持在生成过程中继续加入新的参考图。

直播已经开始之后,用户仍然可以临时给数字人一张新的商品图、一套衣服,或者其他视觉参考,让角色在后续画面中拿起商品、完成换装,再继续互动。

过去很多生成条件必须在 Session 开始之前锁定,现在则可以在运行过程中持续加入。它改变的不只是数字人的画质,而是数字人的工作方式。

过去的数字人更像一个“会说话的虚拟主播”,S2-Avatar 想要做的,则是一个能够根据现场信息继续行动的角色。从“回答问题”,进一步走向“完成表演”。

S2-Editing:把后期编辑带进视频流

S2-Editing 面向实时视频编辑,支持在视频持续播放或直播过程中,对画面进行角色替换、虚拟换衣、风格渲染和背景替换等操作。

用户可以直接打开摄像头进行实时编辑,也可以上传已有视频,让修改发生在视频流运行的过程中,而不是等视频生成完成后再进入后期处理。

这和传统视频编辑有明显不同。

传统后期面对的是已经完成的素材,可以读取前后帧并反复计算修改结果;实时编辑则要求模型一边接收新画面,一边完成语义修改,同时还要保证人物动作自然衔接、角色身份保持稳定,并尽量不影响未被修改的区域。

因此,S2-Editing 解决的不只是“能不能改视频”,而是能不能在视频正在发生的时候改视频。

两条产品线由此形成清晰分工:S2-Avatar 负责实时互动与表演,S2-Editing 负责实时改写画面。

它们最终指向的是同一个方向:让视频不再只是生成完成后交付的一段内容,而是在生产和运行过程中,始终保持可交互、可修改、可控制。

从平面视频,再往空间里走一步

除了 Avatar 和 Editing,Vidu S2 还做了一项更前沿的尝试:空间视频。

通过生成同步的左右眼视图并流式传输至 VR 头显,让人物、背景等元素的实时变化从二维画面进入具有景深和空间关系的视觉环境。

这还远不是成熟商业产品,却值得关注。因为视频一旦能够实时生成、实时编辑,下一步自然会遇到一个问题:这些能力是否只能发生在一块二维屏幕里?

这条路线的前瞻性正在变得更加明显。近期字节跳动也被曝正在布局实时空间视频生成,空间视频正逐渐成为视频模型新的技术分支,并开始与 VR、空间计算和交互式虚拟世界发生交集。

这也让 Vidu S2 的意义不再局限于数字人。它所触碰的边界,已经开始与实时世界模型、沉浸式交互和下一代内容渲染系统发生重叠。


实时视频最难的不是生成,而是在变化中保持连续

相比离线视频,实时视频真正困难的地方,是没有“重来一次”的空间。离线模型可以在一个完整时间区间内推演结果,实时模型却只能根据已经发生的内容,不断决定下一帧应该是什么。

与此同时,新指令还可能随时进入。用户上一秒让角色打招呼,下一秒可能要求它转身,再过几秒又上传一件新商品,让角色拿起来展示。

模型既要足够快,又必须知道上一条动作有没有结束、新条件应该从什么时候开始生效,以及哪些画面可以改变、哪些不能改变。

这也是 Vidu S2 技术设计主要解决的问题。

Vidu S2 由朱军教授的博士生、生数科技流式视频生成与推理负责人张金涛负责全链路研发。他是 Vidu S 系列的负责人,从 S1 到 S2,团队持续围绕流式生成、推理加速与实时交互推进迭代。

首先是主干网络(Backbone)与精炼网络(Refiner)的双阶段架构。前者在低分辨率下负责结构、语义和动作走势,后者异步生成纹理与面容细节,两条流水线并发,在提升画质的同时避免细节生成拖慢实时推理。

其次,S2 重新设计了模型中的位置编码,让新加入的参考图与当前推流时刻对齐。商品、服装等条件可以在生成过程中持续加入,并从当前时刻开始影响后续画面,而不会干扰此前已经生成的内容。

为了协调连续动作,系统还引入轻量化 VLM Agent,持续判断画面中的人物状态和动作进度,在上一轮动作结束后再执行下一条指令,减少动作抢跑和肢体穿模。

最后,S2 还将强化学习直接应用于最终部署的少步因果模型,进一步提升生成的画面质量以及指令遵循的能力。

从双阶段架构、动态条件注入,到 VLM Agent 和强化学习,这套设计解决的其实是同一个问题:当视频不断接受外部指令时,如何同时维持实时性、可控性和连续性。


S2 不只是一门视频生成生意

评估实时视频的商业价值,更务实的尺度,是看它正在进入哪些已有明确预算的成熟工作流。

数字人已经先在企业培训、出海营销等场景完成了一轮商业验证。过去几年,HeyGen、Synthesia 等公司已经证明,企业愿意长期为营销视频、企业培训、本地化和视频自动化付费。

实时能力打开的是另一种需求。

例如直播电商。传统数字人直播往往依赖预设好的 SKU、动作和脚本。一旦商品临时调整、促销机制改变,可能就需要换模板,甚至重新制作内容。

如果新的商品素材可以在 Session 中直接加入,服装、背景甚至视觉风格也可以随时修改,数字人才开始真正具备部分“临场反应”。

再延伸到智能客服、销售线索转化与虚拟陪伴,衡量系统价值的指标也会发生变化。当数字人不仅能口播回复,还能理解视觉上下文、调度动作并展示对应商品,客户关注的就不再只是“像不像真人”,而会进一步转向响应时延、任务完成率和最终转化。

更长期的想象力落在互动娱乐与原生虚拟世界。如果角色、光影与场景都能在运行过程中被连续改写,实时编辑最终处理的就不只是一个数字人,而可能是一个随用户操作持续变化的视觉环境。当然,这仍然受制于推理成本、并发能力和系统稳定性。

商业模式将随之发生质变。过去生成一条视频,价值主要还是卖“成片”,按分钟数或条数计费;实时视频则更接近云服务,按会话时长、并发路数与 API 调用结算。模型公司将不再只交付一个静态文件,而需要出租一段可持续运转、吞吐新指令的时间。这拓宽了营收天花板,但也把利润空间扣在了每小时的推流算力成本与系统稳定性上。


资本开始为视频的下一阶段下注

技术路线发生变化时,资本往往会提前寻找下一阶段的增长空间。

2026 年开年,海外视频模型与虚拟人赛道接连开出巨额支票。1 月,Synthesia 敲定 2 亿美元 E 轮融资,估值攀升至 40 亿美元,并进一步向企业级视频 Agent 平台延伸;2 月,Runway 完成 3.15 亿美元融资,投后估值推高至 53 亿美元,资金明确投向世界模型与实时流式视频;更早前,专注双工实时交互界面的 Tavus 也完成了 4000 万美元 B 轮融资。

密集的筹码背后,是两层不同的判断。

第一层已经被财务数据验证。

HeyGen 与 Synthesia 踩通了高毛利的 SaaS 闭环:用相对确定的软件成本,替代昂贵的外模、场地和逐帧非编剪辑。当 HeyGen 的 ARR 在 2026 年突破 2 亿美元,至少说明企业客户已经愿意持续为跨语种营销、企业培训和视频自动化买单。

而资本正在下注的第二层,是视频还能不能从一种“内容生产工具”,继续变成一种“实时交互系统”。

过去两年,视频模型已经跨过清晰度与运动连贯性的门槛,但商业形态仍然没有真正跳出“输入提示词、等待交付”的单向流程。用户提交一次需求,模型生成一段视频,这次服务基本也随之结束。

这套模式适合内容生产,却很难直接咬合进直播、客服、游戏等实时业务。一段一旦开始渲染就无法干预的视频,本质上仍然是一份静态结果,而不是生产系统中的一环。

真正的变化发生在控制权被重新放回推流进程之后。

当视频能够维持内部状态,在持续生成过程中接收新的文字、语音、图片甚至视频输入,并根据用户指令实时改变后续内容,它的属性才开始发生变化:从一次性交付的内容结果,变成一个可以被持续调用、持续干预的动态系统。

这也是视频模型真正告别“抽卡”的关键一步。

Vidu S2 正是这种转向下的一个切片。它未必代表实时视频的最终形态,但至少标出了一个明确方向:实时交互不再只是视频模型里的一项能力,而开始被封装成可以实际使用的产品。

一旦这条路线成立,商业模式也会随之变化。

离线视频生成出售的是一次“交付”,通常按照条数、时长或生成量计费;实时视频出售的则更像一段持续在线的“连接”,收费单位可能逐渐转向 Session 时长、并发路数和 API 调用量。

前者的价值在视频生成完成时基本结束,后者则可能随着用户停留时间和交互深度不断增加。模型在线得越久,也就越容易嵌入客户真实的业务流程。

这也是为什么实时视频的想象空间会延伸到直播推流、实时客服、动态 NPC,甚至云游戏底层渲染——这些场景需要的都不是提前生成好的一段视频,而是一个能够持续接收输入、理解状态并给出视觉反馈的系统。

但这门生意也明显更难。

离线生成慢十几秒,影响的主要是等待时间;实时交互多出几百毫秒,体验就可能明显下降。与此同时,视频流需要持续占用 GPU 资源,画质、延迟、并发与成本之间始终存在工程上的取舍。

因此,当行业真正从 Demo 走向规模化部署,最终被核验的指标也会越来越具体:单小时推理成本能不能持续下降,并发规模能不能做上去,系统能不能长时间稳定运行,以及模型能否在持续交互中维持角色、场景和状态的一致性。

资本正在把更多筹码放到这里。

它所押注的已经不只是下一款画质更高、时长更长的视频生成模型,而是一个更大的命题:

当视频从“内容产物”变成“交互软件”,AI 视频的市场边界还能向外延伸多远。

体验地址:https://vidu.cn/vidu-stream

API 平台: http://platform.vidu.cn/vidu-stream/doc

技术报告:https://arxiv.org/pdf/2609.11638





特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
现场观众乱喊!郑钦文0-2,20连胜被终结,中国队晋级四强有变数

现场观众乱喊!郑钦文0-2,20连胜被终结,中国队晋级四强有变数

侃球熊弟
2026-09-24 22:16:12
跌光1400亿,“女王”亏麻了

跌光1400亿,“女王”亏麻了

投资家
2026-09-24 21:22:56
北理工美女副教授,被扒了

北理工美女副教授,被扒了

大张的自留地
2026-09-24 15:19:48
张本智和赛后发声:3比0战胜王楚钦是“没想到”的,赛前并不清楚中国队会派出何种阵容

张本智和赛后发声:3比0战胜王楚钦是“没想到”的,赛前并不清楚中国队会派出何种阵容

澎湃新闻
2026-09-24 21:54:04
一夜之间,朝鲜运动员突然面临危机,最坏的结果是在日本“扎根”

一夜之间,朝鲜运动员突然面临危机,最坏的结果是在日本“扎根”

史智文道
2026-09-24 12:08:32
套现146亿后跑路新加坡就能万事大吉?国家新规重拳出击:只要钱还在中国赚,拿了绿卡也照样得补税!申通前老板如意算盘,这下彻底落空了

套现146亿后跑路新加坡就能万事大吉?国家新规重拳出击:只要钱还在中国赚,拿了绿卡也照样得补税!申通前老板如意算盘,这下彻底落空了

人生录
2026-08-16 00:05:13
彻底怒了!韩国体协会长柳承敏:日本亚运会是我见过办赛水平最差的大赛

彻底怒了!韩国体协会长柳承敏:日本亚运会是我见过办赛水平最差的大赛

新杀猪的秀才
2026-09-24 15:27:42
中东国家已然看清:采购再多的中国先进武器,也难以换来长久安全

中东国家已然看清:采购再多的中国先进武器,也难以换来长久安全

兵卒史
2026-09-24 20:27:00
凌晨大逆转,股市直线暴拉!霍尔木兹海峡,利好来了

凌晨大逆转,股市直线暴拉!霍尔木兹海峡,利好来了

中国基金报
2026-09-25 06:18:36
网友质问樊振东为何未参加亚运会!乒协根本就没想招他 王皓回应

网友质问樊振东为何未参加亚运会!乒协根本就没想招他 王皓回应

念洲
2026-09-25 08:42:58
本周五中秋节,别再说“中秋快乐”了,送你30句高级祝福语,好听不俗套

本周五中秋节,别再说“中秋快乐”了,送你30句高级祝福语,好听不俗套

小谈食刻美食
2026-09-22 17:56:46
国足3球大胜!7战马尔代夫全胜,王子铭戴帽,连刷6大纪录

国足3球大胜!7战马尔代夫全胜,王子铭戴帽,连刷6大纪录

奥拜尔
2026-09-24 21:32:25
3-1,世界第60胜世界第22,53岁卡纳瓦罗率队掀翻伊朗,终结5连败

3-1,世界第60胜世界第22,53岁卡纳瓦罗率队掀翻伊朗,终结5连败

侧身凌空斩
2026-09-24 23:56:01
不回国了?名古屋亚运会出现荒唐的一幕,两名朝鲜成员不愿回家了

不回国了?名古屋亚运会出现荒唐的一幕,两名朝鲜成员不愿回家了

青青衫书生
2026-09-24 12:37:07
任正非回忆:本来以100亿美金卖掉华为,都准备好了,美方企业不买了!估计10年后会山头拼刺刀,那时就开始做备胎计划!网友:天意难违

任正非回忆:本来以100亿美金卖掉华为,都准备好了,美方企业不买了!估计10年后会山头拼刺刀,那时就开始做备胎计划!网友:天意难违

大白聊IT
2026-09-25 01:45:41
亚运会9连冠梦碎!可怕的不是国乒2-3输日本,而是仅靠王楚钦不够

亚运会9连冠梦碎!可怕的不是国乒2-3输日本,而是仅靠王楚钦不够

侃球熊弟
2026-09-24 18:07:12
华人女子入住国外高档酒店 睡到半夜遭黑人强脱衣服; 3女遭多人性侵

华人女子入住国外高档酒店 睡到半夜遭黑人强脱衣服; 3女遭多人性侵

北国向锡安
2026-09-24 10:53:57
王楚钦为何0-3完败,刘国正点评一针见血,网友:单打必须复仇

王楚钦为何0-3完败,刘国正点评一针见血,网友:单打必须复仇

南海浪花
2026-09-24 22:16:11
不靠EUV光刻机也能硬刚苹果!华为麒麟9050 Pro多核反超A17 Pro:差距缩至3年

不靠EUV光刻机也能硬刚苹果!华为麒麟9050 Pro多核反超A17 Pro:差距缩至3年

快科技
2026-09-24 18:56:08
演员赵露思成都甜品店试营业,1份凉面48元,营业仅40分钟后,第一批商品基本售完,有消费者为了吃上一口,排队长达90分钟

演员赵露思成都甜品店试营业,1份凉面48元,营业仅40分钟后,第一批商品基本售完,有消费者为了吃上一口,排队长达90分钟

大风新闻
2026-09-24 17:05:10
2026-09-25 10:07:00
ZFinance
ZFinance
Z世代的一站式AI、科技和财经资讯
275文章数 22关注度
往期回顾 全部

科技要闻

华为赛力斯,一次声势浩大的权、利再分配

头条要闻

男子开车门盗窃未果往油箱倒水被拘 车主获8000元赔偿

头条要闻

男子开车门盗窃未果往油箱倒水被拘 车主获8000元赔偿

体育要闻

这场青春风暴,中国足球等了太久

娱乐要闻

许嵩宣布与冯禧结婚仅2天,不对劲的一幕出现了

财经要闻

月饼卖不动了...

汽车要闻

全新第四代博越L 上市限时价9.29万元起

态度原创

家居
房产
手机
数码
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

房产要闻

中秋、国庆小长假来了,但我劝你别离开海口

手机要闻

荣耀掀桌子!5499元买16+512G,友商连夜改PPT的节奏?

数码要闻

YUNZII推出IF75三模机械键盘:PBT + PC双拼键帽,集成TFT彩屏

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版