网易首页 > 网易号 > 正文 申请入驻

HyperEyes:并行多模态搜索智能体的效率革命

0
分享至



现有的开源多模态搜索智能体普遍受困于「裁剪 - 再搜索」的串行处理模式,面对多目标时往往陷入交互冗长、错误级联累积的泥沼。

为此,小红书研究团队提出了一款全新架构的模型:HyperEyes。通过统一定位与搜索的动作空间、构建并行可学习数据以及双粒度效率感知强化学习的全栈设计,HyperEyes 成功实现了从「搜得更深」到「搜得更宽」的并行多模态搜索范式跃迁。





  • 论文地址:https://arxiv.org/abs/2605.07177
  • 代码地址:https://github.com/DeepExperience/HyperEyes

背景:多模态搜索智能体的「串行困局」

当前主流的 Agent 在面对包含多个实体的复杂图片时,往往只能采用笨拙的「N 轮串行调用」策略。

这种传统的处理路径带来了三重难以逾越的困境:首先是极大的交互冗余,原本一句话的多实体查询被迫退化为多次单实体搜索,导致延迟剧增;其次是错误放大的多米诺骨牌效应,前置定位一旦发生偏差,后续的搜索结果将被全部污染;最后是模型训练中普遍存在的奖励偏差与「信用分配」问题。

现有模型往往仅以「最终答案对错」作为唯一奖励标准,这不仅会导致智能体为了追求表面准确率而养成「暴力多搜」的坏习惯,引入更多噪声;更致命的是,这种粗粒度的稀疏奖励会带来粗暴的「连坐惩罚」—— 在那些最终失败的探索轨迹中,原本正确、富有逻辑的中间推理和工具调用也被一并全盘否定,导致模型根本无法从失败中有效汲取局部经验。

方法:从动作空间、数据到 RL 的「全栈式」效率重塑



为了让智能体真正具备「一次出手,多目标并发」的内生能力,HyperEyes 研究团队在动作空间、数据合成与强化学习三个维度上进行了彻底的底层重构。

传统的智能体通常将「视觉裁剪」和「网络搜索」作为两个独立的步骤,而HyperEyes 打破了这一隔离,提出了「统一定位即搜索」(UGS)的动作空间重构方案。它将视觉定位框直接作为检索动作的内嵌参数,使得一次函数调用就能并发携带多个目标框。这一设计从物理层面彻底打通了单轮交互内多目标并发的通路。

然而,空有架构还不够,开源社区长期缺乏「并行搜索」的训练语料。为此,研究团队设计了一套精密的合成流水线。他们首先将多类图片拼接,合成出必须同时进行定位与检索才能解答的视觉查询;接着基于图谱随机游走,构造出多约束的交集问题并严格剔除捷径解;最后,通过渐进式拒绝采样(PRS)技术,在严格的递增轮次预算下,提纯出 3 万条「零冗余」的并行行为种子数据,完美解决了模型 SFT 冷启动的难题。

在最核心的强化学习(RL)对齐阶段,HyperEyes 彻底颠覆了传统 RL 的「唯结果论」范式。传统的稀疏奖励往往会引发双重隐患:缺乏效率约束的奖励机制会纵容模型养成「冗余试错」的惰性,以牺牲推理速度为代价换取准确率;更糟糕的是,在处理长周期任务时,粗暴的结果导向会带来极其不公平的「连坐惩罚」—— 即便是一次堪称完美的中间推理过程,也会因为最终环节的失误被彻底抹杀,导致模型在复杂探索中迷失方向。



针对这一问题,团队创新性地提出了「宏观 + 微观」的双粒度效率感知强化学习框架。在宏观轨迹层面,系统引入了 TRACE(动态参考的成本效率奖励)机制。这并不是一个一刀切的步数死命令,而是一把「自我超越」的动态标尺。系统会将模型当前的工具调用表现与标尺对比,只有比标尺更高效才能获得奖励。在每个 Epoch 结束后,系统会自动用本轮表现最好、步数最少的轨迹去刷新并收紧标尺。这就像跳高比赛,横杆随着模型能力的提升越调越高,逼迫模型不断挤出水分。

而在微观 Token 层面,为了精准抢救失败轨迹中的「正确中间过程」,HyperEyes 引入了 OPD(策略内蒸馏)机制。这一机制只在轨迹最终答错时才会启动,届时会引入一个 235B 的满血版教师模型,为失败轨迹中的每一步提供稠密的 Token 级监督信号,精准打捞那些原本正确的中间规划。

这种「仅在失败时蒸馏」的非对称设计,完美避免了对学生模型「高效并发」本能的覆盖。成功时由宏观奖励主导效率,失败时由微观蒸馏托底纠偏,宏微观的严丝合缝,彻底释放了多模态大模型的并发检索天性。

IMEB Benchmark:把「搜索效率」作为重要评估维度

现有多模态榜单普遍存在「只看准不看快」的弊端。为了纠正这一导向,团队发布了首个包含 300 条极具挑战性多实体视觉评测基准的 IMEB (Image Multi-Entity Benchmark)。

与之配套,团队还提出了「成本感知评分」 (CAS)。该评分标准在统一标尺下,将准确率、Token 消耗和工具调用轮次进行联合评估,把传统的答案质量换算为「单位延迟下的有效信息密度」,从根本上遏制了大模型靠堆砌算力暴力刷榜的行为。



实验结果与核心发现

在随后的 6 大主流基准测试中,HyperEyes 展现出了极具统治力的表现,实现了准确率与效率的 Pareto 占优。全面建立开源 SOTA 并非虚言 ——HyperEyes-30B 以64.0%的准确率超越同量级最强开源模型 VDR 达9.9%,而其平均工具调用轮次仅为 VDR 的不到五分之一(2.2 对比 11.6)。而其 235B 版本更是以仅1.1%的微弱差距逼近闭源旗舰 Gemini-3.1-Pro。



在极为严苛的 CAS 成本效率评分中,30B 版本的表现达到了次优开源模型的7.6倍,证明其每一单位算力输出的信息密度都极高。消融实验也证实了,这种底层的动作空间重构设计,对传统的「LLM 外挂裁剪」或「代码沙箱裁剪」构成了降维打击。



更有意思的是其面对噪声的强鲁棒性。在真假证据混合的干扰测试中,HyperEyes 这种「敢于少搜、一次看全」的并行策略,反而大幅规避了过度检索带来的幻觉陷阱。



在一个面对 6 人同框复杂问答的真实测试案例中,传统 Agent 因为「逐一裁剪 + 搜索」的笨拙逻辑将流程拖拽至 12 轮,最终因噪声累积而答错;而 HyperEyes 首轮即并发定位并检索了全部 6 人,仅用 3 轮便给出精准答案,直观地展现了什么叫「一次出手,看清全局」。



结语:多模态搜索智能体的下一站,是「效率即智能」

长期以来,大家普遍认为多模态搜索必须通过串行加深来保证准确度,而 HyperEyes 打破了这一固有惯性。它用翔实的实验证明了,在 Agent 训练中,「准确率」与「效率」完全可以协同进化。

随着多模态 Agent 逐渐步入电商比价、视觉检索、实时交互等真实的高并发业务场景,从「搜得更深」转向「搜得更宽」,必将成为下一代智能体角逐的核心竞争力。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
性能双王!小米新机官宣:10月27日,正式发布!

性能双王!小米新机官宣:10月27日,正式发布!

科技堡垒
2026-10-25 11:03:17
1959年,毛主席得知堂弟被划为“富农”,他回应:那我是不是也属富农?

1959年,毛主席得知堂弟被划为“富农”,他回应:那我是不是也属富农?

大运河时空
2026-10-26 08:50:05
一物降一物!利物浦“打花”布莱顿,大将3分钟伤退,1大纪录被终结

一物降一物!利物浦“打花”布莱顿,大将3分钟伤退,1大纪录被终结

汪星人哟
2026-10-25 23:02:15
“浑身都是放纵的痕迹!”母亲晒儿子大学三年变化,连面相都变了,家长认为责任在学校,网友们痛斥

“浑身都是放纵的痕迹!”母亲晒儿子大学三年变化,连面相都变了,家长认为责任在学校,网友们痛斥

蝴蝶花雨话教育
2026-10-20 00:05:15
释永信被女徒弟爆料,凌晨4点去他房间,拿到皈依证就算师徒关系

释永信被女徒弟爆料,凌晨4点去他房间,拿到皈依证就算师徒关系

汉史趣闻
2025-07-30 09:57:38
泽连斯基:拒绝放弃25%的领土,俄军目前实际控制了乌方约19.3%的领土;过去三个月,乌克兰仅从美国接收24枚“爱国者”防空系统拦截弹

泽连斯基:拒绝放弃25%的领土,俄军目前实际控制了乌方约19.3%的领土;过去三个月,乌克兰仅从美国接收24枚“爱国者”防空系统拦截弹

极目新闻
2026-10-25 09:42:32
大嫂徐冬冬晒写真照片,网友说法不一,本尊回应做最好的自己!

大嫂徐冬冬晒写真照片,网友说法不一,本尊回应做最好的自己!

小小一米月儿
2026-10-26 08:26:14
大脑为什么要删除三岁前的记忆?网友的回答让我泪目了!

大脑为什么要删除三岁前的记忆?网友的回答让我泪目了!

另子维爱读史
2026-10-03 20:36:50
尤文主帅:梅西有历史第一的技术!但更强的是大局观和球商!

尤文主帅:梅西有历史第一的技术!但更强的是大局观和球商!

罗吹终结者
2026-10-25 21:18:50
9B模型塞进8GB显卡,他试完开始重算Claude订阅账

9B模型塞进8GB显卡,他试完开始重算Claude订阅账

我是一个养虾人
2026-10-25 05:34:24
易建联为妻儿建的洛杉矶豪宅烧成灰,如今2000平空地估价曝光,数字让人意外,中介爆出实情

易建联为妻儿建的洛杉矶豪宅烧成灰,如今2000平空地估价曝光,数字让人意外,中介爆出实情

LULU生活家
2026-08-31 15:33:38
27层的楼,装得下600个仆人,装不下一个母亲对儿子身体的担心

27层的楼,装得下600个仆人,装不下一个母亲对儿子身体的担心

鱼语昱雨轩
2026-10-26 03:16:38
最邪恶的实验:6女4男船上共渡100天,失去法律约束,结果如何?

最邪恶的实验:6女4男船上共渡100天,失去法律约束,结果如何?

泪满过眼
2026-10-20 07:44:02
毛不易婚礼致辞完整原话曝光,被剪掉的半句话才是重点

毛不易婚礼致辞完整原话曝光,被剪掉的半句话才是重点

海藻娱乐
2026-10-23 10:40:46
11小时无人值守,Gemini改完20万行代码

11小时无人值守,Gemini改完20万行代码

我是一个养虾人
2026-10-25 00:02:44
就在大家都以为中国会坚决回应时,北京却选择了战略克制。

就在大家都以为中国会坚决回应时,北京却选择了战略克制。

回京历史梦
2026-08-22 18:23:43
体操世锦赛收官奖牌榜:中美第1,亚美尼亚2金2铜第4省队首金第7,女团落后1.967分到逆转夺冠,鹿特丹这届世锦赛,奖牌背后都是咬碎牙的稳

体操世锦赛收官奖牌榜:中美第1,亚美尼亚2金2铜第4省队首金第7,女团落后1.967分到逆转夺冠,鹿特丹这届世锦赛,奖牌背后都是咬碎牙的稳

暖暖的笑q
2026-10-26 06:50:18
羡慕哭了!宝马裁员8000人,离职补偿金最高达487万元!员工争着离职挤崩系统

羡慕哭了!宝马裁员8000人,离职补偿金最高达487万元!员工争着离职挤崩系统

聊斋新志
2026-10-22 19:28:15
有人把话挑明了:美国真正怕的,不是中国动手,是中国坐下

有人把话挑明了:美国真正怕的,不是中国动手,是中国坐下

纪史行者
2026-10-25 09:00:10
1992年叶利钦第一次来华访问,国宴席间饮下一斤茅台,随行人员透露:准备回国之时,他在钓鱼台痛哭半小时

1992年叶利钦第一次来华访问,国宴席间饮下一斤茅台,随行人员透露:准备回国之时,他在钓鱼台痛哭半小时

唠叨说历史
2026-10-23 16:44:45
2026-10-26 09:36:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14296文章数 142751关注度
往期回顾 全部

科技要闻

苹果首款折叠屏没能养肥黄牛

头条要闻

600亿公司59岁总裁被指父承子业 "圆通太子"发文澄清

头条要闻

600亿公司59岁总裁被指父承子业 "圆通太子"发文澄清

体育要闻

文班、约基奇和扬尼斯各自的处境

娱乐要闻

王佳佳近况:44岁导演老公露面

财经要闻

全球AI产业链迎“去杠杆”,何处是底?

汽车要闻

专业越野+华为乾崑智能 猛士X700限时焕新价20.98万起

态度原创

数码
艺术
亲子
本地
军事航空

数码要闻

古尔曼:苹果正测试配备OLED屏幕的iMac和MacBook Air

艺术要闻

家底丰厚的贵公子,最后散尽千金,留给民族无价珍宝

亲子要闻

小鸭鸭的嘴也太甜了,几句话就把妈妈哄得乐开了花

本地新闻

这么近,那么美,周末赴贺州丨大湾区后花园

军事要闻

高清大图!歼-15红蓝对抗训练最新画面

无障碍浏览 进入关怀版