网易首页 > 网易号 > 正文 申请入驻

京东又放大招!开源长视频AI神器,彻底解决“角色变脸”难题!

0
分享至


京东又放大招!开源长视频AI神器,彻底解决“角色变脸”难题!

兄弟们好,我是星哥。自从 Sora 关停之后,这 AI 视频赛道可是卷出了天际。国产的可灵、即梦、海艺都在疯狂发力,短视频确实惊艳,但一拉长视频,大家肯定都遇到了一个让人抓狂的痛点——角色一致性

拍着拍着主角就换脸了,声音也变了,简直没法看。

就在最近,京东悄悄扔出了一个“王炸”开源项目:JoyAI-Echo。据说能完美解决长视频角色一致性的问题,上线才两周,GitHub 上就狂揽了 1600+ Star。

今天星哥就带大家盘一盘,这个京东 JoyFutureAcademy 团队搞出来的神器,到底有几把刷子?咱们普通玩家又该怎么上手?


JoyAI-Echo的6大功能

JoyAI-Echo 的核心定位是一个长音频和视频生成框架。简单来说,就是让 AI 视频里的角色在几分钟的长镜头里,脸不变、声不变、衣服也不变。

它是怎么做到的?官方总结了 6 大绝技,星哥给大家翻译成“人话”:

1. 跨模态记忆库(告别“角色失忆”)

以前 AI 生成视频是“金鱼记忆”,换个镜头就重新捏脸。JoyAI-Echo 给 AI 塞了个“记忆库”,主角第一次出场时,把脸型、声音、穿搭全存下来。后续生成直接调用,而且视听结合,不仅脸是对的,声音也是同一个人。


2. 音视频联合生成(告别“后期对口型”)

以前做视频,画面和配音是分开搞的,口型根本对不上。现在它在一个管道里同时输出视频和声音。对白、环境音、BGM 一次性搞定,连后期对口型的活儿都省了。

3. DMD 分布匹配蒸馏(天下武功唯快不破)

长视频生成慢?它用了 DMD 技术,把多步扩散压缩成少步推理。官方数据说提速了约 7.5 倍,关键是速度上去了,角色一致性还没掉。

4. 对话式编辑(导演助理)

想改第三个镜头里主角的衣服颜色?不用从头重跑!它有个 Director Agent 功能,指哪打哪,局部修改。(注:星哥看了下,这个功能目前还在画大饼阶段,代码还没放出来。)

5. 显存优化方案(给平民玩家留条活路)

这玩意儿默认配置要 46~50G 显存,起步就是 H100/A100 这种算力怪兽。但官方很良心,提供了降级方案:把 241 帧降到 121 帧,显存占用直接打骨折。还集成了 ComfyUI,支持 48G 显存热切换。

部署与配置指南

星哥必须给大家泼点冷水,聊聊部署和使用的真实门槛。

1. 硬件门槛不低 虽然官方给了降级方案,但如果你想跑得爽,48G 显存基本是底线。本地没有 A100/4090(24G*2) 的兄弟,建议直接去云上租个带大显存的实例来折腾。

2. 模型下载是个体力活 跑起来之前,你得先从 HuggingFace 下载约 46GB 的模型文件,外加一个 24GBgemma-3-12b 文本编码器。网络不好的兄弟,记得提前挂好梯子或者用国内镜像。

3. 极简启动流程

                                                                 # 克隆仓库
git clone https://github.com/jd-opensource/JoyAI-Echo.git
# 创建并激活环境
conda env create -f environment.yml
conda activate echo-long
# 运行推理
python inference.py

星哥提示:项目自带了 Prompt Enhancer,能把你的大白话故事,自动扩写成包含角色、动作、镜头、音效的专业提示词,非常省心。


目前的局限性

开源项目没有完美的,JoyAI-Echo 也有几个让星哥觉得“还不够爽”的地方:

  1. 1. 不支持图生视频(I2V) :目前只能纯靠文字生成,不能传张图片当起始帧,玩法受限。

  2. 2. 商用限制 :基于 LTX-2 Community License 协议, 仅限学术研究和非商业用途 。想拿去接商单赚钱的兄弟,得去联系 Lightricks 授权。

  3. 3. 只开源了推理 :训练代码没放出来,想自己微调模型的极客们还得再等等。

  4. 4. 部分功能未上线 :前面提到的“导演助理”和 Echo-SR 超分模块,目前都还是“敬请期待”状态。

总结

总的来说,京东这次开源的 JoyAI-Echo 绝对是目前长视频 AI 赛道的一剂强心针。

如果你是一个经常需要制作长视频、对角色一致性要求极高、且有一定硬件基础(或愿意租用云服务器) 的创作者,它绝对值得你花个周末去本地部署折腾一下。毕竟,数据全在本地,隐私安全拉满,还不用每个月交昂贵的订阅费。

开源仓库地址https://github.com/jd-opensource/JoyAI-Echo

如果觉得这篇文章对你有帮助,别忘了点个 “赞”“在看”,顺手星标一下【星哥玩云】,咱们下期干货再见!

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
退位后的李渊日子究竟有多难过?李世民劝道:您的宫女太多,不如回家嫁人

退位后的李渊日子究竟有多难过?李世民劝道:您的宫女太多,不如回家嫁人

大运河时空
2026-09-09 17:55:03
广州塔落选方案:高660米金塔,看完觉得可惜了!

广州塔落选方案:高660米金塔,看完觉得可惜了!

GA环球建筑
2026-09-09 21:58:18
不出意外,下半年开始,房地产、物业、中介将迎来行业新一轮洗牌

不出意外,下半年开始,房地产、物业、中介将迎来行业新一轮洗牌

细说职场
2026-09-09 10:54:11
可不可以莫名其妙地教我一个知识? 网友:我的失眠终于有救了

可不可以莫名其妙地教我一个知识? 网友:我的失眠终于有救了

康富贵碎碎念
2026-09-09 12:50:22
寿命长不长,头发先知?医学发现:60岁后,白发少的人活得更久?

寿命长不长,头发先知?医学发现:60岁后,白发少的人活得更久?

周哥一影视
2026-08-30 15:19:42
永不再婚!陈妍希自曝怪癖,坦言离婚真实原因,她和维嘉是同类人

永不再婚!陈妍希自曝怪癖,坦言离婚真实原因,她和维嘉是同类人

橙星文娱
2026-09-08 08:26:49
特朗普要掐死加拿大命门,卡尼一句硬话怼回,中国表态才是王炸

特朗普要掐死加拿大命门,卡尼一句硬话怼回,中国表态才是王炸

浯江孤舟
2026-09-09 09:01:44
“先别换电视!”用了4年的电视卡成PPT,他让Claude来“修”:不Root、不卸载,最后竟“比刚买时还快”!

“先别换电视!”用了4年的电视卡成PPT,他让Claude来“修”:不Root、不卸载,最后竟“比刚买时还快”!

CSDN
2026-09-07 20:12:01
巴萨5-1狂胜!全队全员高分封神,唯独一人灾难拉胯拖后腿!

巴萨5-1狂胜!全队全员高分封神,唯独一人灾难拉胯拖后腿!

精彩聚焦瞬间
2026-09-10 15:17:13
外交部原副部长回忆:香港回归前,每年香港有上千亿元被英国人拿走

外交部原副部长回忆:香港回归前,每年香港有上千亿元被英国人拿走

浔阳咸鱼
2026-09-04 06:00:27
官方祝贺郑钦文:赢得全世界的尊重和掌声 詹俊:她很接近莱巴金娜

官方祝贺郑钦文:赢得全世界的尊重和掌声 詹俊:她很接近莱巴金娜

风过乡
2026-09-10 08:34:13
男子百米历史最快11人榜单发布:莱尔斯落选 博尔特仍是无解神话?

男子百米历史最快11人榜单发布:莱尔斯落选 博尔特仍是无解神话?

体坛八点半的那些事儿
2026-09-10 14:42:36
美国选手淘汰黄友政后,竟然喊话樊振东:你是当今最好的球员!

美国选手淘汰黄友政后,竟然喊话樊振东:你是当今最好的球员!

十点街球体育
2026-09-09 20:18:37
戚薇的“泡面卷”好看吗?咋觉得哪儿不对

戚薇的“泡面卷”好看吗?咋觉得哪儿不对

木子爱娱乐大号
2026-09-10 17:32:54
俯卧撑练胸肌,虎卧撑练命!一字之差,一个耗气一个养气 别练错了

俯卧撑练胸肌,虎卧撑练命!一字之差,一个耗气一个养气 别练错了

健身狂人
2026-09-10 12:19:21
斯诺克16强出炉,3位中国冠军出局!吴宜泽好签,丁俊晖需防爆冷

斯诺克16强出炉,3位中国冠军出局!吴宜泽好签,丁俊晖需防爆冷

球场没跑道
2026-09-10 07:59:03
山姆停售「供港生菜」引中产恐慌,“每年交260元会员费还能吃上无农残蔬菜吗?”

山姆停售「供港生菜」引中产恐慌,“每年交260元会员费还能吃上无农残蔬菜吗?”

Vista氢商业
2026-09-09 14:01:00
全市夜查!9月9日起,广州每周三行动

全市夜查!9月9日起,广州每周三行动

21世纪经济报道
2026-09-10 15:55:10
雷军发布小米迄今最贵手机,售价10999元起

雷军发布小米迄今最贵手机,售价10999元起

极目新闻
2026-09-07 20:38:42
假如餐厅4岁男童事件发生在美国,结局大概率完全反转

假如餐厅4岁男童事件发生在美国,结局大概率完全反转

浪子说
2026-09-10 17:21:55
2026-09-10 18:23:00
星哥玩云 incentive-icons
星哥玩云
星哥跟你说说工作生活的那些事
464文章数 282关注度
往期回顾 全部

科技要闻

一文看懂:iPhone折叠屏顶配2万6,10月才卖

头条要闻

男子称停止资助后遭受助学生质问催捐 官方回应

头条要闻

男子称停止资助后遭受助学生质问催捐 官方回应

体育要闻

一年丢掉的积分排名,郑钦文用18天找回来

娱乐要闻

参加晚宴,刘亦菲因合照深陷争议

财经要闻

向松祚:年轻人不必过早买房

汽车要闻

大六座+千匹马力+71度大电池 阿维塔T09曝光/年内上市

态度原创

旅游
亲子
家居
手机
公开课

旅游要闻

西藏拟新增3个国家3A级旅游景区

亲子要闻

全球首例!不用开刀,他们用一根针解决胎儿肺部肿瘤

家居要闻

2026建博会(广州) 公装联探展交流活动

手机要闻

iPhone Duo发布后苹果股价出现过山车:市值一度蒸发约900亿美元

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版