网易首页 > 网易号 > 正文 申请入驻

首发!openJiuwen WorkSwarm全双工多模态 ,像聊天一样与Agent交互,昇腾算力原生亲和

0
分享至

复杂agent任务在后台跑,对话在前台继续。实时模型与Core Agent,开始按两种节奏配合,带来全新的交互体验。

AI助手正在进入一种新的工作节奏:一边对话,一边调用工具办事。

近期关于 Gemini Live 更新的报道,就把后台工具调用放进了实时交互:助手可以先回应一句「我查一下」,再继续处理需要时间的工作。

这也把一个日常问题摆到了面前:查资料、做分析都需要时间,用户的新问题却随时会来。工具任务运行时,AI 还能不能继续接话?

要理解这件事,先要理解「全双工」。



从用户视角看,传统语音助手更像对讲机:用户说完一段,AI 才能接话;AI 说话时,用户插话,往往会被打断或忽略。全双工则类似于打电话:AI 可以边听、边说,用户能随时打断、补充,对话不再严格按「你说完—我再说」的回合推进。对用户最直接的变化,不是多了一个技术名词,而是等待感被压缩:不用等它说完,也不用迁就它的节奏。

WorkSwarm全双工多模态能力正围绕这一体验展开。openJiuwen 是由华为 2012 实验室、华为云、终端、计算、算力先遣队等团队联合高校、企业等广大开发者联合构建的开源 AI Agent 平台,WorkSwarm即为其开源的办公编码统一工作台,它把实时音视频交互与 Core Agent 执行接入同一个任务:用户可以展示眼前画面、随时插话,也可以把需要进一步处理的工作交给 后台Core Agent。



这套能力并非停留在演示层面,openJiuwen提供了Windows、Mac、HarmonyOS等系统的一键安装包,进入官网下载安装,即可立即体验







能插话,才算实时对话

人和人交流,很少严格遵守「一方说完,另一方再开口」。看到新画面、发现理解偏了,或者只想先听重点,用户都会直接补上一句。

「先别介绍背景,直接说结论。」

这句话可以在 WorkSwarm 播报时说出来。系统检测到新的有效人声后,会停止当前播报,开始处理新指令;已经生成的文字仍保留在任务记录里。语音活动检测与噪声门限,则用来降低背景声造成的误打断。


视频链接:https://mp.weixin.qq.com/s/V1vOdvNBKxPHwu9zelmWcw


视频里我们让Agent先朗读《岳阳楼记》,在过程中直接语音说朗读《兰亭集序》,可以自然的快速切换。

插话改变的是当前对话。已经交给 Core Agent 的工具任务有独立的运行状态,要取消它,得单独去任务控制里手动停止。用户说话时,系统要同时处理两个层面的事:对话层接住新要求,任务层管好已经跑起来的工作。



用户插话时,当前播报停止;新的要求继续进入同一个任务,而不是另起一段割裂的对话。

一边聊,一边办事

「这是什么品牌?」之后,用户可能还会补上一句:「查一下它的资料,整理成一份文档。」

一个看图问题,就这样变成了需要搜索、分析和文件生成的任务。而资料还没查完,用户的新问题可能已经来了。

WorkSwarm 用两条路径接住这两种节奏:实时模型负责看画面、听要求、及时回应;Core Agent 负责拆解任务、调用工具,把后续工作推进下去。

搜索在后台运行,对话在前台继续。用户仍能追问眼前的画面,也能随时打断播报、补充要求。



当任务进入 Core Agent,页面会持续呈现任务状态、工具调用记录、执行结果和文件产物。用户看到的不再只是一个旋转的「加载中」,而是事情正在怎样向前推进。


视频链接:https://mp.weixin.qq.com/s/V1vOdvNBKxPHwu9zelmWcw


视频中我们先下发了一个任务,让他通过工具调用,去阅读我们算法word文档,在这个过程中,我们可以在右上角任务队列看到任务正在运行,并且我们这个时候还能正常和agent聊天。


视频链接:https://mp.weixin.qq.com/s/V1vOdvNBKxPHwu9zelmWcw


在任务完成后,我们不会打断在聊天的对话,但是会先在文本框中输出我们的总结信息(如下图),然后在这一轮对话结束后,才会汇报工作,说总结文档的工作完成了,并且像人类汇报工作一样,提取重要信息说明,不会全部信息语音输出。



真实界面中,实时回答、Core Agent 运行状态和最终结果都回到同一个任务。

边聊边办事,任务各走各的

前一个搜索还没结束,用户又交代了第二件事,怎么办?

WorkSwarm 的全双工任务队列,为后续要求安排了等待位置。用户可以调整顺序,把某项任务设为下一项;也可以停止等待中或正在执行的任务。对话持续进行时,哪些事在做、哪些还没开始,都有明确状态。



在右上角的我们可以手动移动每个任务的顺序,从而调度运行的队列,并且直接一键置顶、打断现有运行任务。

音视频连接与工具任务也分别管理。即使关闭全双工音视频,已经提交给 Core Agent 的任务仍可继续执行。完成后的文字、工具结果和文件,会回到原来的对话中。

例如,通过镜头发起品牌查询后,用户可以结束音视频交互,稍后再回来查看资料。现场交代的工作,由此有了可追踪的执行过程。



工具任务可以排队、调整和停止;音视频连接与后台任务不再被简单绑定。

所以,WorkSwarm 全双工多模态能力的意义,不只是让 AI 能「边听边说」,而是让实时对话与 Core Agent 的后台执行真正并行:用户在前台像聊天一样随时打断、追问、补充,复杂任务在后台按自己的节奏继续查资料、调工具、做分析。这种「对话不中断、任务不停跑」的体验已经走出演示,开始成为可用的协作方式。当 AI 不再要求人迁就回合,而是像同事一样边聊边办,人机协同的下一段节奏,也就此开始。

如何使用:

1.模型和语音通道可以在设置中配置



2.目前支持JoyAI协议和Qwen Omni协议,可以点击模型通道去切换

a)Qwen Omni realtime websocket可以填官网base_url 或者本地部署地址



b)JoyAI 是三种模型拼接(ASR, LLM, TTS)所以支持三种都使用官方api,或者其他平台的ASR和TTS模型。



此外,还支持基于使用华为云ModelArts平台,基于vLLM-Omni推理框架,在昇腾系列NPU部署全双工多模态模型,对接WorkSwarm 多模态全双工能力。

参考资料:

在线体验,领免费 Token:

https://openjiuwen.com

相关资源:

立即体验:
https://www.openjiuwen.com/download

GitHub:https://github.com/openJiuwen-ai

AtomGit:https://atomgit.com/openJiuwen

Agentic Hub:https://agentichub.openjiuwen.com

使用华为云ModelArts在昇腾NPU部署全双工多模态模型参考:

https://support.huaweicloud.com/modelarts/index.html

https://github.com/vllm-project/vllm-omni/tree/main/examples/online_serving/minicpmo

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
洪秀柱曾爆猛料,称若民进党胜选,很怀疑台湾地区领导人是美国人

洪秀柱曾爆猛料,称若民进党胜选,很怀疑台湾地区领导人是美国人

白色得季节
2026-09-28 19:29:12
日本防卫大臣狂言“不设禁忌讨论核武器和核潜艇”,外交部:“拥有核武器”不是日方想不想讨论的问题,没有讨价还价的余地

日本防卫大臣狂言“不设禁忌讨论核武器和核潜艇”,外交部:“拥有核武器”不是日方想不想讨论的问题,没有讨价还价的余地

每日经济新闻
2026-10-01 11:17:46
曹轶欧回忆:1933年康生亲手用斧头劈死了顾顺章家属!

曹轶欧回忆:1933年康生亲手用斧头劈死了顾顺章家属!

喜喜江江
2026-09-29 07:25:06
暴雨大暴雨,局地降温10℃以上!新一轮降温降雨来袭,昆明→

暴雨大暴雨,局地降温10℃以上!新一轮降温降雨来袭,昆明→

掌上春城
2026-10-01 21:35:01
知名投资人曝刘欢真正死因!大家都猜错了,8月他在餐厅状态不错

知名投资人曝刘欢真正死因!大家都猜错了,8月他在餐厅状态不错

笑饮孤鸿非
2026-09-29 03:04:49
钱再多又如何?52岁刘强东手握千亿身家,儿子成了一生的遗憾

钱再多又如何?52岁刘强东手握千亿身家,儿子成了一生的遗憾

莫地方
2026-08-23 19:19:07
1948年,陈毅曾在一份内部报告中坦言:单论个人军事素质,华野基层的许多连长不如国军普通士兵

1948年,陈毅曾在一份内部报告中坦言:单论个人军事素质,华野基层的许多连长不如国军普通士兵

饭小妹说历史
2026-09-30 09:31:41
吴奇隆时隔35年重返天安门庆国庆!笑容满面复刻当年小虎队合影

吴奇隆时隔35年重返天安门庆国庆!笑容满面复刻当年小虎队合影

韩小娱
2026-10-01 21:04:27
外国人对中国人“一天吃三顿”感到震惊,这反映了哪些饮食文化差异?

外国人对中国人“一天吃三顿”感到震惊,这反映了哪些饮食文化差异?

向航说
2026-09-17 12:49:26
开拓者对内线新援的能力非常认可,他能胜任空间型大前锋的角色?

开拓者对内线新援的能力非常认可,他能胜任空间型大前锋的角色?

稻谷与小麦
2026-10-02 00:05:13
一夫一妻制逐渐难维持!社会学家分析:未来3种模式将成为主流

一夫一妻制逐渐难维持!社会学家分析:未来3种模式将成为主流

王二哥老搞笑
2026-09-24 07:26:29
开局之年看中国·潮涌荆楚|如果信念有颜色,那一定是中国红

开局之年看中国·潮涌荆楚|如果信念有颜色,那一定是中国红

极目新闻
2026-10-01 17:24:08
有人提出如果粤语是秦军队带过来,陕西人应能讲粤语,评论爆了

有人提出如果粤语是秦军队带过来,陕西人应能讲粤语,评论爆了

文章创新
2026-09-29 07:09:34
男不男女不女!穿裙子露大腿的周深,鸟巢献唱才2天恶心一幕发生

男不男女不女!穿裙子露大腿的周深,鸟巢献唱才2天恶心一幕发生

林轻吟
2026-10-01 07:15:56
伊朗:已收到美国对伊方有关结束战事提议的回应

伊朗:已收到美国对伊方有关结束战事提议的回应

新京报
2026-09-30 17:03:14
特朗普刚放话卖中国武器,转头就否认:我没说过!日本吓出一身汗

特朗普刚放话卖中国武器,转头就否认:我没说过!日本吓出一身汗

启迪你的思维
2026-10-01 23:42:21
夸雷斯马谈C罗离队:认可历史地位,但葡萄牙的球衣没人能凌驾!

夸雷斯马谈C罗离队:认可历史地位,但葡萄牙的球衣没人能凌驾!

体育闲话说
2026-10-01 09:19:30
《余红旧事》口碑大爆,本是冲马伊琍来的,却被40岁跨界歌手惊艳

《余红旧事》口碑大爆,本是冲马伊琍来的,却被40岁跨界歌手惊艳

寒士之言本尊
2026-09-30 15:30:44
9名中国公民在埃及阿斯旺省交通事故中受伤

9名中国公民在埃及阿斯旺省交通事故中受伤

新华社
2026-10-01 19:33:08
安踏,快被自己养大的“小弟”挤下主位了!

安踏,快被自己养大的“小弟”挤下主位了!

可乐爱微笑
2026-09-03 22:56:06
2026-10-02 00:24:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14115文章数 142740关注度
往期回顾 全部

科技要闻

5999元起!华为Mate 90系列发布

头条要闻

美国一女囚犯被执行死刑 注射两剂药物后其"鼾声大作"

头条要闻

美国一女囚犯被执行死刑 注射两剂药物后其"鼾声大作"

体育要闻

“今天的表现,我们可以昂首离开球场”

娱乐要闻

奚梦瑶晒四太豪礼!22只龙凤镯近300万

财经要闻

智谱发上亿Token 能挽回开发者信任吗?

汽车要闻

2027款极氪001将于明年一季度上市 现款猎装同步推新配色

态度原创

游戏
亲子
本地
公开课
军事航空

《战争机器》新作GS 7分:创新不足剧情令人失望

亲子要闻

铅笔有橡皮,但人生无草稿#健康跃动计划

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美防长宣布组建“自主作战司令部”

无障碍浏览 进入关怀版