网易首页 > 网易号 > 正文 申请入驻

京东又放大招!开源长视频AI神器,彻底解决“角色变脸”难题!

0
分享至


京东又放大招!开源长视频AI神器,彻底解决“角色变脸”难题!

兄弟们好,我是星哥。自从 Sora 关停之后,这 AI 视频赛道可是卷出了天际。国产的可灵、即梦、海艺都在疯狂发力,短视频确实惊艳,但一拉长视频,大家肯定都遇到了一个让人抓狂的痛点——角色一致性。

拍着拍着主角就换脸了,声音也变了,简直没法看。

就在最近,京东悄悄扔出了一个“王炸”开源项目:JoyAI-Echo。据说能完美解决长视频角色一致性的问题,上线才两周,GitHub 上就狂揽了 1600+ Star。

今天星哥就带大家盘一盘,这个京东 JoyFutureAcademy 团队搞出来的神器,到底有几把刷子?咱们普通玩家又该怎么上手?


JoyAI-Echo的6大功能

JoyAI-Echo 的核心定位是一个长音频和视频生成框架。简单来说,就是让 AI 视频里的角色在几分钟的长镜头里,脸不变、声不变、衣服也不变。

它是怎么做到的?官方总结了 6 大绝技,星哥给大家翻译成“人话”:

1. 跨模态记忆库(告别“角色失忆”)

以前 AI 生成视频是“金鱼记忆”,换个镜头就重新捏脸。JoyAI-Echo 给 AI 塞了个“记忆库”,主角第一次出场时,把脸型、声音、穿搭全存下来。后续生成直接调用,而且视听结合,不仅脸是对的,声音也是同一个人。


2. 音视频联合生成(告别“后期对口型”)

以前做视频,画面和配音是分开搞的,口型根本对不上。现在它在一个管道里同时输出视频和声音。对白、环境音、BGM 一次性搞定,连后期对口型的活儿都省了。

3. DMD 分布匹配蒸馏(天下武功唯快不破)

长视频生成慢?它用了 DMD 技术,把多步扩散压缩成少步推理。官方数据说提速了约 7.5 倍,关键是速度上去了,角色一致性还没掉。

4. 对话式编辑(导演助理)

想改第三个镜头里主角的衣服颜色?不用从头重跑!它有个 Director Agent 功能,指哪打哪,局部修改。(注:星哥看了下,这个功能目前还在画大饼阶段,代码还没放出来。)

5. 显存优化方案(给平民玩家留条活路)

这玩意儿默认配置要 46~50G 显存,起步就是 H100/A100 这种算力怪兽。但官方很良心,提供了降级方案:把 241 帧降到 121 帧,显存占用直接打骨折。还集成了 ComfyUI,支持 48G 显存热切换。

部署与配置指南

星哥必须给大家泼点冷水,聊聊部署和使用的真实门槛。

1. 硬件门槛不低 虽然官方给了降级方案,但如果你想跑得爽,48G 显存基本是底线。本地没有 A100/4090(24G*2) 的兄弟,建议直接去云上租个带大显存的实例来折腾。

2. 模型下载是个体力活 跑起来之前,你得先从 HuggingFace 下载约 46GB 的模型文件,外加一个 24GB 的 gemma-3-12b 文本编码器。网络不好的兄弟,记得提前挂好梯子或者用国内镜像。

3. 极简启动流程

                                                                 # 克隆仓库
git clone https://github.com/jd-opensource/JoyAI-Echo.git
# 创建并激活环境
conda env create -f environment.yml
conda activate echo-long
# 运行推理
python inference.py

星哥提示:项目自带了 Prompt Enhancer,能把你的大白话故事,自动扩写成包含角色、动作、镜头、音效的专业提示词,非常省心。


目前的局限性

开源项目没有完美的,JoyAI-Echo 也有几个让星哥觉得“还不够爽”的地方:

  1. 1. 不支持图生视频(I2V) :目前只能纯靠文字生成,不能传张图片当起始帧,玩法受限。

  2. 2. 商用限制 :基于 LTX-2 Community License 协议, 仅限学术研究和非商业用途 。想拿去接商单赚钱的兄弟,得去联系 Lightricks 授权。

  3. 3. 只开源了推理 :训练代码没放出来,想自己微调模型的极客们还得再等等。

  4. 4. 部分功能未上线 :前面提到的“导演助理”和 Echo-SR 超分模块,目前都还是“敬请期待”状态。

总结

总的来说,京东这次开源的 JoyAI-Echo 绝对是目前长视频 AI 赛道的一剂强心针。

如果你是一个经常需要制作长视频、对角色一致性要求极高、且有一定硬件基础(或愿意租用云服务器) 的创作者,它绝对值得你花个周末去本地部署折腾一下。毕竟,数据全在本地,隐私安全拉满,还不用每个月交昂贵的订阅费。

开源仓库地址: https://github.com/jd-opensource/JoyAI-Echo

如果觉得这篇文章对你有帮助,别忘了点个 “赞” 和 “在看”,顺手星标一下【星哥玩云】,咱们下期干货再见!

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
场均19+7+3.6抢断,第一阶段打出MVP水准,此人可顶替朱俊龙进国家队

场均19+7+3.6抢断,第一阶段打出MVP水准,此人可顶替朱俊龙进国家队

弄月公子
2026-11-04 21:01:49
49投13中!41岁詹姆斯问鼎联盟第一

49投13中!41岁詹姆斯问鼎联盟第一

泛舟碧波湖水
2026-11-05 02:57:55
宋喆现状:隐居县城,双眼无神生活落魄,前妻杨慧早已经过新生活

宋喆现状:隐居县城,双眼无神生活落魄,前妻杨慧早已经过新生活

男人吻女人是一种口福
2026-11-05 01:57:50
“我们自愿有何罪”?三男三女聚众淫乱,三亚高知换妻游戏案始末

“我们自愿有何罪”?三男三女聚众淫乱,三亚高知换妻游戏案始末

易玄
2026-09-13 11:43:30
万亿资产归零,全国第4大保险集团破产,1.5万亿保单怎么样了?

万亿资产归零,全国第4大保险集团破产,1.5万亿保单怎么样了?

旧窗老街
2026-10-12 15:49:06
延迟退休推行到今天,一个尴尬的问题终于摆上了台面

延迟退休推行到今天,一个尴尬的问题终于摆上了台面

究竟谁主沉浮
2026-09-22 11:51:43
日媒已明白:中国或正成为世界上首个,不用引进任何武器的国家

日媒已明白:中国或正成为世界上首个,不用引进任何武器的国家

马贪在解说
2026-11-03 15:31:23
癌症与戴帽子有关?医生再次提醒:65岁后,这8件事要多注意!

癌症与戴帽子有关?医生再次提醒:65岁后,这8件事要多注意!

展望云霄
2026-11-04 05:27:58
1977年,一位老红军在常州被执行枪决,消息传至邓小平案头,他搁下文件,仅仅讲了一句话,在场众人顿时鸦雀无声

1977年,一位老红军在常州被执行枪决,消息传至邓小平案头,他搁下文件,仅仅讲了一句话,在场众人顿时鸦雀无声

唠叨说历史
2026-11-03 14:16:50
全民“不入套”:一场底层发起的无声变局,正在颠覆旧有社会规则

全民“不入套”:一场底层发起的无声变局,正在颠覆旧有社会规则

华庭讲美食
2026-10-15 01:39:37
“这奶奶难登大雅之堂!”一段带孙子视频,让年轻家长也接受不来

“这奶奶难登大雅之堂!”一段带孙子视频,让年轻家长也接受不来

熙熙说教
2026-10-05 17:13:36
钱再多有什么用?从3米高空坠落的周鸿祎,给所有企业家敲响警钟

钱再多有什么用?从3米高空坠落的周鸿祎,给所有企业家敲响警钟

神秘莫测的世界
2026-10-13 19:51:13
住建部明确:楼龄满25年的老房子,一律这样处理!老小区有福了

住建部明确:楼龄满25年的老房子,一律这样处理!老小区有福了

细说职场
2026-11-04 16:37:14
外交部回应“英伟达要求其合作伙伴必须将至少51%的服务提供给非中国企业”有关报道

外交部回应“英伟达要求其合作伙伴必须将至少51%的服务提供给非中国企业”有关报道

环球网资讯
2026-11-03 18:57:25
湖南出现历史上最荒唐法官!判男方净身出户,然后跟拿到全部资产的女方结婚

湖南出现历史上最荒唐法官!判男方净身出户,然后跟拿到全部资产的女方结婚

爆角追踪
2025-11-23 11:25:00
连续9年卡点送祝福!前国手喊话孙颖莎:追寻你最想要的那个答案

连续9年卡点送祝福!前国手喊话孙颖莎:追寻你最想要的那个答案

风过乡
2026-11-04 07:25:41
基辅地下室丑闻炸锅:法国政要喊停援乌,欧洲的道德遮羞布快兜不住了

基辅地下室丑闻炸锅:法国政要喊停援乌,欧洲的道德遮羞布快兜不住了

利刃号
2026-11-04 16:08:10
国家出手擒下的4名华人首富,看看他们干的事,根本不值得饶恕!

国家出手擒下的4名华人首富,看看他们干的事,根本不值得饶恕!

温读史
2026-10-08 06:41:15
超26000名球员投票,梅西18次C罗16次领跑

超26000名球员投票,梅西18次C罗16次领跑

温柔且自由
2026-11-04 03:19:57
2-3遭逆转,利物浦队史欧战第三次两度领先却最终输球

2-3遭逆转,利物浦队史欧战第三次两度领先却最终输球

懂球帝
2026-11-05 04:19:08
2026-11-05 04:36:49
星哥玩云 incentive-icons
星哥玩云
星哥跟你说说工作生活的那些事
501文章数 290关注度
往期回顾 全部

科技要闻

国行苹果AI上手实测:苦等两年,成色如何

头条要闻

共和党败选后 特朗普1小时狂发71条贴文还官宣"改行"

头条要闻

共和党败选后 特朗普1小时狂发71条贴文还官宣"改行"

体育要闻

老板豪言建队五年必夺冠 球员:保守了

娱乐要闻

甩掉周一围嫁富豪,童蕾今负债亿元,

财经要闻

苹果“躺赢”了英伟达

汽车要闻

省钱 它是认真的!银河星耀6EF每公里成本只要2毛

态度原创

旅游
家居
本地
游戏
军事航空

旅游要闻

别再只知道云山屯,这个居中的石头古寨,才是当年屯军大本营!

家居要闻

2026建博会(广州) 公装联探展交流活动

本地新闻

乌兰察布:以前种土豆,现在种Token

老大,让国民偶像唱首歌真能拐到玩家来游戏里打枪吗?"/> 主站 商城 论坛 自运营 登录 注册 简体中文 简体中文 English 老大,让国民...

军事要闻

伊朗要求美明确回应7项条件

无障碍浏览 进入关怀版