网易首页 > 网易号 > 正文 申请入驻

Kandinsky 6.0:5秒视频要跑45分钟?

0
分享至

Kandinsky 6.0:5秒视频要跑45分钟?

产品经理说要在应用里加个"带声音的短视频生成"。Kandinsky 6.0 是个候选:文本输入,或者文本加一张图,输出一段 5 秒、带匹配音轨的短片。Kandinsky Lab 在 10 月 6 日把它放上 GitHub,代码和权重都是 MIT 协议。

它有两个尺寸,Lite 是 3B 参数,Pro 是 29B。参数就是模型内部那些学出来的数字,粗略衡量模型大小。麻烦的地方不在模型本身,在调度、硬件,还有一项没人测过的数据。

下面这些数字全部来自 Kandinsky Lab 的仓库和模型卡。模型没跑过,输出也没看过,所以这里不评价画质。

当成批处理任务来用

Kandinsky Lab 的计时表测的是标准模型——用 50 次迭代把随机噪声清理成一张图,跑之前先热身一次,模型加载和文件写入的时间不算在内。结果是每段视频 5 到 45 分钟。

这个时长不可能是同步 API 调用。仓库里用 vLLM-Omni 部署 Pro 的指南(vLLM-Omni 是个把模型暴露成 HTTP 接口的服务)已经是批处理套路:提交视频任务,拿到一个 ID,轮询,下载结果。照着这个形状做,按"每小时能出几段"来规划容量,而且实际会比表里更慢——被排除掉的那部分时间,从来没有被量化过。

显存更大,出片更慢

RTX PRO 6000 有 96 GB 显存,比 H100 多 16 GB,跑同一段 Pro HD 视频却要 561 秒。

下载体积能解释这件事。Pro 在磁盘上大约 90 GB,其中约 70 GB 在生成画面的那个组件里。所以官方发布的每一个 GPU 预设都在做 offload:权重留在主机内存里,生成过程中分块拷到 GPU 上。

H100、A100 和 RTX PRO 6000 的预设用模块模式,一次搬一整个组件;游戏卡用块模式,画面生成器留两块切片在 GPU 上,同时把下一块拷进来。--offload none 这个命令行开关确实存在,但没有一个预设用它,vLLM-Omni 的指南在 80 GB 卡上直接把 offload 称为"必需"。

这对选机器有两个影响。主机内存变成硬性要求,而官方没有公布最低值。计时表也没法把 GPU 速度和拷贝开销分开:每一行都在 offload,没有一行是模型完整放在卡上跑的,而且只有 H100 用了 FlashAttention 3,其余用的是 SageAttention——这是两种注意力库,注意力是模型把视频各部分互相关联的那一步。作者推测 H100 赢在芯片原始速度上,但表里没有任何数据测到这一点。

你默认加载的模型,没有计时数据

所有预设,以及 Hugging Face 上的公开 demo,加载的都是蒸馏版 Pro:训练成 10 次迭代就出成片,而不是 50 次,体积约 81 GB 而不是 90 GB。计时表从来没覆盖它。

迭代次数只有五分之一,很容易顺手写个"快五倍"。这一格先空着,等有人真测了再说。

性能分析默认关闭,复制一份预设再加一段配置就能打开:

  • cp kandinsky/configs/devices/rtx-5090.yaml my-5090.yaml
  • printf 'profile:\n mode: time_mem_module\n' >> my-5090.yaml
  • just generate "a cat on a mat" --config my-5090.yaml --warmup --out clip.mp4

加上 --warmup,第一次生成会被丢掉,只计第二次的时间,大致就是计时表的产出方式。性能分析包住的是整个流水线调用,所以 total_time 里还包括 MP4 编码、把音轨合进去,以及 Qwen2.5-VL 编码器默认做的提示词改写。计时表把这些都排除在外。要对比就看各组件的时间:DiT(画面生成器)、视频 VAE 和音频 VAE(把结果解码成画面和声音)、声码器(把它变成波形)。

Full HD 会丢掉音轨

生成发生在 864×480。另有一个超分模型逐块重绘细节,把画面放大到 Full HD。跟生成比起来它很便宜:在 H100 上,2 步版本做 2 倍放大要 41 秒,4 倍要 118 秒,测的输入比基础片段略小。

它只处理画面,所以任务里必须把原始生成的声音重新接回去。游戏卡上没有任何它的计时数据。

动手之前的三项检查

  1. 拿同一组提示词分别跑 Lite 和 Pro 做对比。Pro 需要 1.4 到 2.8 倍的 GPU 时间,而读过的所有资料都没说这多出来的时间买到了什么。
  2. 在自己的 GPU 上,把蒸馏版默认模型按组件逐个做性能分析。
  3. 检查非蒸馏版 Pro 在 Hugging Face 上的访问门槛:审批是自动的,条款要登录后才看得到,这些条款还没人读过。

模型、超分器、预设和计时表都是 Kandinsky Lab 做的,背后有一份技术报告。它们建立在阿里 Qwen2.5-VL、OpenAI CLIP、腾讯混元视频解码器设计、MMAudio、英伟达 BigVGAN、π-Flow 蒸馏方法、FlashAttention 3(Tri Dao 等人)和 SageAttention(清华 thu-ml 团队)之上。Diffusers、ComfyUI、vLLM-Omni、SGLang 和 FastVideo 在发布当天就支持了,社区账号 realrebelai 还发布了给小卡用的实验性压缩版 Pro。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
比埃泽更离谱!阿森纳绝对核心彻底崩盘!阿尔特塔遇巨大难题

比埃泽更离谱!阿森纳绝对核心彻底崩盘!阿尔特塔遇巨大难题

澜归序
2026-10-19 09:04:43
未来国足边锋强得可怕!李昊炎3场轰6球,布尼亚明昨晚中超再度爆发

未来国足边锋强得可怕!李昊炎3场轰6球,布尼亚明昨晚中超再度爆发

林子说事
2026-10-19 06:54:09
美媒发言:马克龙近十年的统治,已将法国变成欧洲“最薄弱环节”

美媒发言:马克龙近十年的统治,已将法国变成欧洲“最薄弱环节”

兵卒史
2026-10-11 11:56:59
中国当前最危险的,可能不是台湾,更不是美日!真正致命的,是一双藏在暗处的手,正在不声不响地扼住我们的咽喉

中国当前最危险的,可能不是台湾,更不是美日!真正致命的,是一双藏在暗处的手,正在不声不响地扼住我们的咽喉

扶苏聊历史
2026-10-12 10:16:50
“包养情人” 与“色情交易” ,哪个更划算?

“包养情人” 与“色情交易” ,哪个更划算?

大漠行舟
2026-10-18 13:38:50
定调了!中央党报突然强力站台楼市,房价又要起飞了?

定调了!中央党报突然强力站台楼市,房价又要起飞了?

专业聊房君
2026-10-16 19:27:38
只差27场!只差76助!只差560分!老詹将连破3大神迹,真要做到了

只差27场!只差76助!只差560分!老詹将连破3大神迹,真要做到了

畅评篮球
2026-10-18 12:38:56
记者假扮俄军工买家,一开口要500台,中国公司开价1950万元

记者假扮俄军工买家,一开口要500台,中国公司开价1950万元

桂系007
2026-10-15 16:31:21
爆砍31分!王俊杰这个笑容久违了!

爆砍31分!王俊杰这个笑容久违了!

篮球大图
2026-10-19 10:48:43
油价或将大幅下调!10 月 92号还挂在8块5上下,回7元那是瞎热闹

油价或将大幅下调!10 月 92号还挂在8块5上下,回7元那是瞎热闹

沙雕小琳琳
2026-10-19 01:32:32
​英超开局连胜榜:切尔西9连胜居首,曼城7连胜紧追

​英超开局连胜榜:切尔西9连胜居首,曼城7连胜紧追

足球推文C
2026-10-19 10:59:40
西蒙斯炮轰莫雷:他很阴险一心想把我送走 现在哈登和他也没交情了

西蒙斯炮轰莫雷:他很阴险一心想把我送走 现在哈登和他也没交情了

罗说NBA
2026-10-19 05:25:21
4-1!15亿豪门3连胜 19岁亿元先生传射建功 神锋油炸丸子进球+勺子点球

4-1!15亿豪门3连胜 19岁亿元先生传射建功 神锋油炸丸子进球+勺子点球

狍子歪解体坛
2026-10-19 05:06:59
越南北越人与南越人,互相看不惯,长相有差异,难道不是同一个人种?

越南北越人与南越人,互相看不惯,长相有差异,难道不是同一个人种?

言过于诚
2026-10-16 16:48:21
发现没:凡是校招进体制内单位的,简历都写满了这三行

发现没:凡是校招进体制内单位的,简历都写满了这三行

户外阿毽
2026-10-17 07:55:01
新人“请3休13”旅行结婚,带上一家7口自驾,一路派发喜糖,全程花费5万元,收获无数陌生人的善意,网友:我上网就是为了看这些

新人“请3休13”旅行结婚,带上一家7口自驾,一路派发喜糖,全程花费5万元,收获无数陌生人的善意,网友:我上网就是为了看这些

蓬勃新闻
2026-10-18 23:42:52
刘殿座:这时候需要每个人都站出来,球队需要团结

刘殿座:这时候需要每个人都站出来,球队需要团结

懂球帝
2026-10-18 23:00:20
全世界都被普京骗了?打乌克兰只是幌子,真正目标其实已悄悄布局四年

全世界都被普京骗了?打乌克兰只是幌子,真正目标其实已悄悄布局四年

扶苏聊历史
2026-08-27 16:15:02
千万别上当!美著名智囊学者曾提醒美军:歼-36是中国式"圈套"

千万别上当!美著名智囊学者曾提醒美军:歼-36是中国式"圈套"

史行途
2026-10-18 16:26:37
半场被换!枪手7000万先生处境艰难 光有天赋不够还要更努力

半场被换!枪手7000万先生处境艰难 光有天赋不够还要更努力

雪狼侃体育
2026-10-19 10:21:05
2026-10-19 12:00:49
摸鱼算法
摸鱼算法
致力于用最前沿的AI技术,换取更多发呆时间的三十岁青年。
169文章数 75关注度
往期回顾 全部

科技要闻

王晟:近千亿资金涌入后 具身智能开始退烧

头条要闻

中国留学生在莫斯科大学课堂身披旭日旗 本人鞠躬道歉

头条要闻

中国留学生在莫斯科大学课堂身披旭日旗 本人鞠躬道歉

体育要闻

从NBA退役10年后,他真去警局上班了

娱乐要闻

演员许君聪近况曝光 婚恋成谜让人唏嘘

财经要闻

三季度GDP,同比增长4.5%

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

健康
艺术
游戏
本地
公开课

看着很健康的人,怎么会突然猝死?

艺术要闻

17幅 国外画家的静物与人物油画

SCS 2026年度总决赛落幕 选手MadkoF、XiaoHai分获《拳皇15》《饿狼传说:群狼之城》冠军

本地新闻

因新荣记出圈,这座浙东小城才是吃货天堂

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版