网易首页 > 网易号 > 正文 申请入驻

京东又放大招!开源长视频AI神器,彻底解决“角色变脸”难题!

0
分享至


京东又放大招!开源长视频AI神器,彻底解决“角色变脸”难题!

兄弟们好,我是星哥。自从 Sora 关停之后,这 AI 视频赛道可是卷出了天际。国产的可灵、即梦、海艺都在疯狂发力,短视频确实惊艳,但一拉长视频,大家肯定都遇到了一个让人抓狂的痛点——角色一致性

拍着拍着主角就换脸了,声音也变了,简直没法看。

就在最近,京东悄悄扔出了一个“王炸”开源项目:JoyAI-Echo。据说能完美解决长视频角色一致性的问题,上线才两周,GitHub 上就狂揽了 1600+ Star。

今天星哥就带大家盘一盘,这个京东 JoyFutureAcademy 团队搞出来的神器,到底有几把刷子?咱们普通玩家又该怎么上手?


JoyAI-Echo的6大功能

JoyAI-Echo 的核心定位是一个长音频和视频生成框架。简单来说,就是让 AI 视频里的角色在几分钟的长镜头里,脸不变、声不变、衣服也不变。

它是怎么做到的?官方总结了 6 大绝技,星哥给大家翻译成“人话”:

1. 跨模态记忆库(告别“角色失忆”)

以前 AI 生成视频是“金鱼记忆”,换个镜头就重新捏脸。JoyAI-Echo 给 AI 塞了个“记忆库”,主角第一次出场时,把脸型、声音、穿搭全存下来。后续生成直接调用,而且视听结合,不仅脸是对的,声音也是同一个人。


2. 音视频联合生成(告别“后期对口型”)

以前做视频,画面和配音是分开搞的,口型根本对不上。现在它在一个管道里同时输出视频和声音。对白、环境音、BGM 一次性搞定,连后期对口型的活儿都省了。

3. DMD 分布匹配蒸馏(天下武功唯快不破)

长视频生成慢?它用了 DMD 技术,把多步扩散压缩成少步推理。官方数据说提速了约 7.5 倍,关键是速度上去了,角色一致性还没掉。

4. 对话式编辑(导演助理)

想改第三个镜头里主角的衣服颜色?不用从头重跑!它有个 Director Agent 功能,指哪打哪,局部修改。(注:星哥看了下,这个功能目前还在画大饼阶段,代码还没放出来。)

5. 显存优化方案(给平民玩家留条活路)

这玩意儿默认配置要 46~50G 显存,起步就是 H100/A100 这种算力怪兽。但官方很良心,提供了降级方案:把 241 帧降到 121 帧,显存占用直接打骨折。还集成了 ComfyUI,支持 48G 显存热切换。

部署与配置指南

星哥必须给大家泼点冷水,聊聊部署和使用的真实门槛。

1. 硬件门槛不低 虽然官方给了降级方案,但如果你想跑得爽,48G 显存基本是底线。本地没有 A100/4090(24G*2) 的兄弟,建议直接去云上租个带大显存的实例来折腾。

2. 模型下载是个体力活 跑起来之前,你得先从 HuggingFace 下载约 46GB 的模型文件,外加一个 24GBgemma-3-12b 文本编码器。网络不好的兄弟,记得提前挂好梯子或者用国内镜像。

3. 极简启动流程

                                                                 # 克隆仓库
git clone https://github.com/jd-opensource/JoyAI-Echo.git
# 创建并激活环境
conda env create -f environment.yml
conda activate echo-long
# 运行推理
python inference.py

星哥提示:项目自带了 Prompt Enhancer,能把你的大白话故事,自动扩写成包含角色、动作、镜头、音效的专业提示词,非常省心。


目前的局限性

开源项目没有完美的,JoyAI-Echo 也有几个让星哥觉得“还不够爽”的地方:

  1. 1. 不支持图生视频(I2V) :目前只能纯靠文字生成,不能传张图片当起始帧,玩法受限。

  2. 2. 商用限制 :基于 LTX-2 Community License 协议, 仅限学术研究和非商业用途 。想拿去接商单赚钱的兄弟,得去联系 Lightricks 授权。

  3. 3. 只开源了推理 :训练代码没放出来,想自己微调模型的极客们还得再等等。

  4. 4. 部分功能未上线 :前面提到的“导演助理”和 Echo-SR 超分模块,目前都还是“敬请期待”状态。

总结

总的来说,京东这次开源的 JoyAI-Echo 绝对是目前长视频 AI 赛道的一剂强心针。

如果你是一个经常需要制作长视频、对角色一致性要求极高、且有一定硬件基础(或愿意租用云服务器) 的创作者,它绝对值得你花个周末去本地部署折腾一下。毕竟,数据全在本地,隐私安全拉满,还不用每个月交昂贵的订阅费。

开源仓库地址https://github.com/jd-opensource/JoyAI-Echo

如果觉得这篇文章对你有帮助,别忘了点个 “赞”“在看”,顺手星标一下【星哥玩云】,咱们下期干货再见!

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
哪个瞬间,你突然就释怀了?网友:有时候老天爷也会给你征兆,再三阻止你走向命运的另一边

哪个瞬间,你突然就释怀了?网友:有时候老天爷也会给你征兆,再三阻止你走向命运的另一边

带你感受人间冷暖
2026-09-02 00:11:31
摸一下胸,拘留5天,图啥?

摸一下胸,拘留5天,图啥?

张晓磊
2026-08-22 11:37:55
2026年APEC工商领导人峰会举办时间确定

2026年APEC工商领导人峰会举办时间确定

界面新闻
2026-09-10 18:49:31
拉夫罗夫要乌克兰当缓冲区,佩斯科夫又喊恢复和谈:俄方真说岔了?

拉夫罗夫要乌克兰当缓冲区,佩斯科夫又喊恢复和谈:俄方真说岔了?

桂系007
2026-09-10 23:57:23
女子称打赏24岁男主播390余万且婚内出轨致离婚,其父痛哭称一家人陷困境;前夫起诉主播及公司等返还

女子称打赏24岁男主播390余万且婚内出轨致离婚,其父痛哭称一家人陷困境;前夫起诉主播及公司等返还

扬子晚报
2026-09-09 07:43:04
尴尬现状!中国三大球集体哑火,已全部走下亚洲之巅

尴尬现状!中国三大球集体哑火,已全部走下亚洲之巅

米修体育
2026-09-10 23:51:55
曝景甜口中的剧组夫妻:顶流男星剧组追过4位85花,成功率高达50%

曝景甜口中的剧组夫妻:顶流男星剧组追过4位85花,成功率高达50%

梦醉为红颜一笑
2026-09-03 08:11:32
皇马险胜国米后,穆帅认为阿诺德不能长期踢中场,与前利物浦主帅克洛普5年前观点相同!

皇马险胜国米后,穆帅认为阿诺德不能长期踢中场,与前利物浦主帅克洛普5年前观点相同!

福酱的小时光
2026-09-10 10:07:37
美国网络安全公司称开发出一款黑客工具,能够入侵微信平台,外交部回应

美国网络安全公司称开发出一款黑客工具,能够入侵微信平台,外交部回应

政知新媒体
2026-09-09 15:24:23
撕开遮羞布:极端女拳屡禁不止、越演越烈,藏着四个没人敢点透的底层真相

撕开遮羞布:极端女拳屡禁不止、越演越烈,藏着四个没人敢点透的底层真相

浪子的烟火人间
2026-09-11 00:05:17
中国人民大学副教授梁邻德逝世

中国人民大学副教授梁邻德逝世

双一流高校
2026-09-10 01:09:05
一家三口确诊肝癌!转告家人:冰箱久放的7种食物,或是癌症诱因

一家三口确诊肝癌!转告家人:冰箱久放的7种食物,或是癌症诱因

健康之光
2026-07-29 17:45:13
iPhone Duo 大圆角设计真丑!黔驴技穷,苹果早就不行了

iPhone Duo 大圆角设计真丑!黔驴技穷,苹果早就不行了

喜爱的CAD
2026-09-10 10:42:16
《强殖装甲》作者脑梗后右半身瘫痪,亲口致歉:再也无法提笔了

《强殖装甲》作者脑梗后右半身瘫痪,亲口致歉:再也无法提笔了

自愈小日子
2026-09-09 22:47:52
马斯克开打价格战,特斯拉全国门店大爆单

马斯克开打价格战,特斯拉全国门店大爆单

新行情
2026-09-10 14:06:56
在长沙,工资就是一个巨大的3500

在长沙,工资就是一个巨大的3500

一条要飞跃的咸鱼
2026-08-28 08:22:02
伊朗放出导弹打中美舰现场视频!美军嘴硬死扛:全躲开了,零伤亡

伊朗放出导弹打中美舰现场视频!美军嘴硬死扛:全躲开了,零伤亡

面包夹知识
2026-09-08 18:13:56
德保罗喷莱万:我拿过两次美洲杯和一次世界杯,你呢?

德保罗喷莱万:我拿过两次美洲杯和一次世界杯,你呢?

懂球帝
2026-09-10 17:18:12
陶哲轩愤怒发文:AI正杀死数学百年开放传统!

陶哲轩愤怒发文:AI正杀死数学百年开放传统!

新智元
2026-09-10 13:12:11
伪史狂欢,是当代中文互联网最大的耻辱

伪史狂欢,是当代中文互联网最大的耻辱

浪子说
2026-07-19 10:40:12
2026-09-11 01:52:49
星哥玩云 incentive-icons
星哥玩云
星哥跟你说说工作生活的那些事
464文章数 283关注度
往期回顾 全部

科技要闻

一文看懂:iPhone折叠屏顶配2万6,10月才卖

头条要闻

外媒:伊朗捕获美国"大鱼"后发了条消息 令五角大楼受挫

头条要闻

外媒:伊朗捕获美国"大鱼"后发了条消息 令五角大楼受挫

体育要闻

16岁的国产小库里,还有多少功课要做

娱乐要闻

参加晚宴,刘亦菲因合照深陷争议

财经要闻

向松祚:年轻人不必过早买房

汽车要闻

标配全线控底盘 全新一代智己LS6预售20.99万起

态度原创

家居
教育
数码
公开课
军事航空

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

再次学会说话

数码要闻

产品线调整+存储涨价 三星Tab S12系列海外售价抬升

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

中东“两线战火”同时升级

无障碍浏览 进入关怀版