网易首页 > 网易号 > 正文 申请入驻

首发!openJiuwen WorkSwarm全双工多模态 ,像聊天一样与Agent交互,昇腾算力原生亲和

0
分享至

复杂agent任务在后台跑,对话在前台继续。实时模型与Core Agent,开始按两种节奏配合,带来全新的交互体验。

AI助手正在进入一种新的工作节奏:一边对话,一边调用工具办事。

近期关于 Gemini Live 更新的报道,就把后台工具调用放进了实时交互:助手可以先回应一句「我查一下」,再继续处理需要时间的工作。

这也把一个日常问题摆到了面前:查资料、做分析都需要时间,用户的新问题却随时会来。工具任务运行时,AI 还能不能继续接话?

要理解这件事,先要理解「全双工」。



从用户视角看,传统语音助手更像对讲机:用户说完一段,AI 才能接话;AI 说话时,用户插话,往往会被打断或忽略。全双工则类似于打电话:AI 可以边听、边说,用户能随时打断、补充,对话不再严格按「你说完—我再说」的回合推进。对用户最直接的变化,不是多了一个技术名词,而是等待感被压缩:不用等它说完,也不用迁就它的节奏。

WorkSwarm全双工多模态能力正围绕这一体验展开。openJiuwen 是由华为 2012 实验室、华为云、终端、计算、算力先遣队等团队联合高校、企业等广大开发者联合构建的开源 AI Agent 平台,WorkSwarm即为其开源的办公编码统一工作台,它把实时音视频交互与 Core Agent 执行接入同一个任务:用户可以展示眼前画面、随时插话,也可以把需要进一步处理的工作交给 后台Core Agent。



这套能力并非停留在演示层面,openJiuwen提供了Windows、Mac、HarmonyOS等系统的一键安装包,进入官网下载安装,即可立即体验







能插话,才算实时对话

人和人交流,很少严格遵守「一方说完,另一方再开口」。看到新画面、发现理解偏了,或者只想先听重点,用户都会直接补上一句。

「先别介绍背景,直接说结论。」

这句话可以在 WorkSwarm 播报时说出来。系统检测到新的有效人声后,会停止当前播报,开始处理新指令;已经生成的文字仍保留在任务记录里。语音活动检测与噪声门限,则用来降低背景声造成的误打断。


视频链接:https://mp.weixin.qq.com/s/V1vOdvNBKxPHwu9zelmWcw


视频里我们让Agent先朗读《岳阳楼记》,在过程中直接语音说朗读《兰亭集序》,可以自然的快速切换。

插话改变的是当前对话。已经交给 Core Agent 的工具任务有独立的运行状态,要取消它,得单独去任务控制里手动停止。用户说话时,系统要同时处理两个层面的事:对话层接住新要求,任务层管好已经跑起来的工作。



用户插话时,当前播报停止;新的要求继续进入同一个任务,而不是另起一段割裂的对话。

一边聊,一边办事

「这是什么品牌?」之后,用户可能还会补上一句:「查一下它的资料,整理成一份文档。」

一个看图问题,就这样变成了需要搜索、分析和文件生成的任务。而资料还没查完,用户的新问题可能已经来了。

WorkSwarm 用两条路径接住这两种节奏:实时模型负责看画面、听要求、及时回应;Core Agent 负责拆解任务、调用工具,把后续工作推进下去。

搜索在后台运行,对话在前台继续。用户仍能追问眼前的画面,也能随时打断播报、补充要求。



当任务进入 Core Agent,页面会持续呈现任务状态、工具调用记录、执行结果和文件产物。用户看到的不再只是一个旋转的「加载中」,而是事情正在怎样向前推进。


视频链接:https://mp.weixin.qq.com/s/V1vOdvNBKxPHwu9zelmWcw


视频中我们先下发了一个任务,让他通过工具调用,去阅读我们算法word文档,在这个过程中,我们可以在右上角任务队列看到任务正在运行,并且我们这个时候还能正常和agent聊天。


视频链接:https://mp.weixin.qq.com/s/V1vOdvNBKxPHwu9zelmWcw


在任务完成后,我们不会打断在聊天的对话,但是会先在文本框中输出我们的总结信息(如下图),然后在这一轮对话结束后,才会汇报工作,说总结文档的工作完成了,并且像人类汇报工作一样,提取重要信息说明,不会全部信息语音输出。



真实界面中,实时回答、Core Agent 运行状态和最终结果都回到同一个任务。

边聊边办事,任务各走各的

前一个搜索还没结束,用户又交代了第二件事,怎么办?

WorkSwarm 的全双工任务队列,为后续要求安排了等待位置。用户可以调整顺序,把某项任务设为下一项;也可以停止等待中或正在执行的任务。对话持续进行时,哪些事在做、哪些还没开始,都有明确状态。



在右上角的我们可以手动移动每个任务的顺序,从而调度运行的队列,并且直接一键置顶、打断现有运行任务。

音视频连接与工具任务也分别管理。即使关闭全双工音视频,已经提交给 Core Agent 的任务仍可继续执行。完成后的文字、工具结果和文件,会回到原来的对话中。

例如,通过镜头发起品牌查询后,用户可以结束音视频交互,稍后再回来查看资料。现场交代的工作,由此有了可追踪的执行过程。



工具任务可以排队、调整和停止;音视频连接与后台任务不再被简单绑定。

所以,WorkSwarm 全双工多模态能力的意义,不只是让 AI 能「边听边说」,而是让实时对话与 Core Agent 的后台执行真正并行:用户在前台像聊天一样随时打断、追问、补充,复杂任务在后台按自己的节奏继续查资料、调工具、做分析。这种「对话不中断、任务不停跑」的体验已经走出演示,开始成为可用的协作方式。当 AI 不再要求人迁就回合,而是像同事一样边聊边办,人机协同的下一段节奏,也就此开始。

如何使用:

1.模型和语音通道可以在设置中配置



2.目前支持JoyAI协议和Qwen Omni协议,可以点击模型通道去切换

a)Qwen Omni realtime websocket可以填官网base_url 或者本地部署地址



b)JoyAI 是三种模型拼接(ASR, LLM, TTS)所以支持三种都使用官方api,或者其他平台的ASR和TTS模型。



此外,还支持基于使用华为云ModelArts平台,基于vLLM-Omni推理框架,在昇腾系列NPU部署全双工多模态模型,对接WorkSwarm 多模态全双工能力。

参考资料:

在线体验,领免费 Token:

https://openjiuwen.com

相关资源:

立即体验:
https://www.openjiuwen.com/download

GitHub:https://github.com/openJiuwen-ai

AtomGit:https://atomgit.com/openJiuwen

Agentic Hub:https://agentichub.openjiuwen.com

使用华为云ModelArts在昇腾NPU部署全双工多模态模型参考:

https://support.huaweicloud.com/modelarts/index.html

https://github.com/vllm-project/vllm-omni/tree/main/examples/online_serving/minicpmo

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
油价大降!一夜回落,10月1日全国92,95汽油“刚大涨近400元/吨”,今年第13次上涨后“雷霆”下跌,下次10月15日调价,预跌超0.17元/升!

油价大降!一夜回落,10月1日全国92,95汽油“刚大涨近400元/吨”,今年第13次上涨后“雷霆”下跌,下次10月15日调价,预跌超0.17元/升!

猪友巴巴
2026-10-01 16:17:41
比黄金还稀缺!A股:真正高股息现金牛,全市场仅9家,低至4元

比黄金还稀缺!A股:真正高股息现金牛,全市场仅9家,低至4元

长风价值掘金
2026-10-01 13:44:39
突发:新西兰受训机长,万米高空被副驾刺伤!浑身是血仍打开舱门,救下174人

突发:新西兰受训机长,万米高空被副驾刺伤!浑身是血仍打开舱门,救下174人

发现新西兰
2026-10-01 08:03:31
美国一女囚被注射两剂死刑药物后仍有心跳,“还能听到她打鼾的声音”,行刑失败“接受抢救”

美国一女囚被注射两剂死刑药物后仍有心跳,“还能听到她打鼾的声音”,行刑失败“接受抢救”

大风新闻
2026-10-01 18:52:03
全员“反向错峰”闹尴尬!上海网友:为避出行高峰,特意30日后半夜虹桥出发,结果凌晨抵达发现,大伙全是聪明人

全员“反向错峰”闹尴尬!上海网友:为避出行高峰,特意30日后半夜虹桥出发,结果凌晨抵达发现,大伙全是聪明人

火山詩话
2026-10-01 13:51:31
亚运最快一金!储守宏4.714秒破亚运纪录 夺攀岩男子速度赛金牌

亚运最快一金!储守宏4.714秒破亚运纪录 夺攀岩男子速度赛金牌

醉卧浮生
2026-10-01 19:52:33
林诗栋4-0王楚钦夺冠,现场却齐喊“王皓下课”,王皓罕见连鼓两次掌回怼

林诗栋4-0王楚钦夺冠,现场却齐喊“王皓下课”,王皓罕见连鼓两次掌回怼

火锅局
2026-10-01 13:09:57
著名演员发声:我糟蹋了自己的身体

著名演员发声:我糟蹋了自己的身体

中国新闻周刊
2026-09-30 21:10:04
伊拉克宣布实现国家完全主权

伊拉克宣布实现国家完全主权

新华社
2026-10-01 20:28:10
三盘逆转取胜!王曦雨跻身亚运会决赛,中国选手包揽女单冠亚军

三盘逆转取胜!王曦雨跻身亚运会决赛,中国选手包揽女单冠亚军

全景体育V
2026-10-01 16:45:53
政府、国家、祖国三者不可混淆

政府、国家、祖国三者不可混淆

觉民行道
2026-10-01 11:31:29
WTT中国大满贯:首场大爆冷!国乒男单1:3被淘汰,资格赛一轮游

WTT中国大满贯:首场大爆冷!国乒男单1:3被淘汰,资格赛一轮游

国乒二三事
2026-10-01 14:43:06
女子在KTV唱歌2小时后,和朋友的3台手机拍照均出现紫色斑点,质疑镜头被氛围灯灼伤,商家:无法确定与包房灯有关

女子在KTV唱歌2小时后,和朋友的3台手机拍照均出现紫色斑点,质疑镜头被氛围灯灼伤,商家:无法确定与包房灯有关

蓬勃新闻
2026-09-30 18:39:00
离职高管向寒武纪索赔278亿元:一纸上市前的约定,如何变成一场豪赌

离职高管向寒武纪索赔278亿元:一纸上市前的约定,如何变成一场豪赌

红星新闻
2026-10-01 18:14:23
用发霉陈馅做月饼,还反咬记者"别有用心",这家老字号玩死了全行业

用发霉陈馅做月饼,还反咬记者"别有用心",这家老字号玩死了全行业

西虹市闲话
2026-10-01 14:11:25
胡锡进发微博忘删AI回复“需要我帮你通读核对吗?”,网友:比自己写便宜

胡锡进发微博忘删AI回复“需要我帮你通读核对吗?”,网友:比自己写便宜

可达鸭面面观
2026-10-01 14:43:37
让空姐下跪的乘客,接下来可能要面对3个窘境:全网公愤、亲友改观、工作受影响

让空姐下跪的乘客,接下来可能要面对3个窘境:全网公愤、亲友改观、工作受影响

王老师你还好吗
2026-10-01 01:31:27
恒安老板施文博病逝,380亿未传给儿子,却传给40年老搭档的儿子

恒安老板施文博病逝,380亿未传给儿子,却传给40年老搭档的儿子

乐悠悠娱乐
2026-10-01 08:25:41
“印度机长被刺后身负重伤仍奋力打开驾驶舱门救下全机”,莫迪称赞:英雄

“印度机长被刺后身负重伤仍奋力打开驾驶舱门救下全机”,莫迪称赞:英雄

环球网资讯
2026-10-01 13:24:12
原央视主持人阿丘,被通报

原央视主持人阿丘,被通报

上观新闻
2026-10-01 06:37:01
2026-10-01 21:04:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14115文章数 142740关注度
往期回顾 全部

科技要闻

5999元起!华为Mate 90系列发布

头条要闻

足够先进可以展示 191式自动步枪硬核开箱视频首次披露

头条要闻

足够先进可以展示 191式自动步枪硬核开箱视频首次披露

体育要闻

“今天的表现,我们可以昂首离开球场”

娱乐要闻

奚梦瑶晒四太豪礼!22只龙凤镯近300万

财经要闻

智谱发上亿Token 能挽回开发者信任吗?

汽车要闻

2027款极氪001将于明年一季度上市 现款猎装同步推新配色

态度原创

本地
游戏
手机
公开课
军事航空

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

国产热游团队遭死亡威胁!曾被IGN质疑"种族歧视"

手机要闻

越用越懂你 Mate90上的小艺这次升级戳中了多少用户痛点

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美防长宣布组建“自主作战司令部”

无障碍浏览 进入关怀版