网易首页 > 网易号 > 正文 申请入驻

机器人“看花眼”怎么办?StableVLA破解机器人视觉干扰难题

0
分享至

如果给机器人戴上一副沾满油污的眼镜,它还能正常工作吗?

对于人类来说,这似乎不是一个困难的问题。当镜头有些模糊、光线变暗,或者桌面出现反光时,我们依然能认出杯子、篮球和玩偶的位置。

但对于今天最先进的机器人AI模型而言,答案并没有那么乐观。

星尘智能与北京大学、清华大学等最新联合研究发现,即便是当前最先进的Vision-Language-Action(VLA,视觉-语言-动作)模型,一旦遭遇训练过程中从未见过的视觉干扰,其性能往往会大幅下降。而更令人意外的是——问题可能并不出在机器人的“大脑”。

近年来,VLA模型逐渐成为具身智能领域最重要的技术路线之一。简单来说,这类模型的工作方式类似于:看见(Vision)→ 理解(Language)→ 行动(Action)。机器人通过摄像头观察环境,通过大模型理解任务,再输出具体动作。然而现实世界远比训练数据复杂。

真实世界中,机器人可能遇到:摄像头模糊、镜头油污、光照变化、反光、遮挡、数字噪声等,且理论上,没有任何训练集能够覆盖所有可能情况。

机器人真正的考场,不是在实验室,而是在充满干扰的现实世界。研究团队提出了一个关键问题:当机器人遭遇从未见过的视觉干扰时,究竟是哪里出了问题?

论文重要发现:脆弱的不是模型,而是中间“翻译官”

通过系统分析多个SOTA(State-of-the-Art)VLA模型后,研究人员发现:视觉编码器(Vision Encoder)并非主要问题。大语言模型(LLM)也并非主要问题。真正的薄弱环节,是连接两者之间的一个模块:Projector(投影器)。

如果把机器人系统比作一个跨国团队:Vision Encoder负责说“图像语言”,LLM负责说“语言模型语言”,Projector则是中间的翻译官

问题在于:当前主流Projector大多采用MLP结构。而这种结构几乎像一个“全通滤波器”。它不会区分:哪些是目标物体信息,还是哪些只是镜头污渍、反光或噪声,于是所有信息都会被一股脑送入决策系统。

研究团队认为:这正是VLA模型在真实环境下鲁棒性不足的重要根源。

基于信息论的解决方案:给机器人加“智能降噪器”

为了解决这一问题,研究团队提出:Information Bottleneck Adapter(IB-Adapter),即“信息瓶颈适配器”。它的核心思想来自信息论中的经典理论:信息不是越多越好。关键是保留最有价值的信息。



IB-Adapter和StableVLA架构:通过“关联分析+智能门控+特征重构”三重机制,在视觉信息进入决策系统前分析不同特征之间的关联,区分真实信息和噪声;借助Sigmoid门控,给每个特征通道安装独立开关,保留重要信息,给噪声降权甚至屏蔽;最后对视觉特征进行非线性变换后重建,增强信息表达力

在传统VLA中:摄像头捕获的所有内容都会被送往后续网络。而IB-Adapter会先进行一次筛选:保留物体轮廓、空间结构、操作相关的有用特征。同时压制:噪点、模糊、反光、随机干扰等用不上的噪声。

换句话说,它相当于给机器人增加了一层“视觉降噪系统”。在机器人做决策之前,先过滤掉可能误导它的信息。

为什么它能识别噪声?效果如何?

有趣的技术洞察是:传统视觉模型通常关注:图像的空间位置(Spatial Attention)。即:“哪里重要?”。而IB-Adapter关注的是:特征通道(Channel Dimension)

即:“哪些特征重要?”。

研究团队发现:不同通道中存储的信息并不相同。有些通道主要记录跟任务语义强相关的:物体边缘、几何结构、形状特征。另一些通道则:噪声、模糊、随机扰动,相关性更弱。

因此IB-Adapter可以为每个通道设置独立门控(Sigmoid Gate):重要通道保持开启、噪声通道自动关闭,最终让机器人看到一个更加“干净”的世界

在一些需要长时间序列保持空间精度的长程任务中,只靠 IB Adapter 可能会让动作轨迹变得不够精准。StableVLA 给出了务实解法:双路并行,解耦融合。

比如对需要极高空间精度的拾取和放置任务,系统会近乎完整保留 MLP 通路,IB Adapter 仅作为鲁棒性残差补充进来。对于需要长期语义规划的目标识别类任务,系统则会适度增加 Dropout,迫使策略网络更依赖鲁棒特征路径。这种特定任务驱动的动态平衡,让 StableVLA 在不同操作场景中始终能找到最好的鲁棒性切面。

SOTA对比效果

效果有多明显?答案是:远超预期。在不增加额外训练数据、不引入额外数据增强、不重新构建训练流程的情况下,IB-Adapter平均带来约30%的性能提升。

在LIBERO的四个标准任务套件上,StableVLA 在多数子任务中取得了最优或次优成功率。对比与自身结构类似的 VLA-Adapter,在严重腐蚀程度 5 的设置下,StableVLA 的性能提升幅度从 40.2% 一路飙升到 139.6%。而在CALVIN基准上的平均完成任务数,也全面领先。不是小数点后几位的胶着战,而是直接甩开了断层式的差距。


LIBERO和CALVIN基准对比

更重要的是:整个模块新增参数不足1000万。对于动辄数十亿参数的大模型而言,几乎可以忽略不计。



在损毁严重性最高的Level-5压力测试下,StableVLA保持稳健,OpenVLA等基线模型性能则显著下降。

5亿参数模型,挑战70亿参数模型

论文中最引人注目的结果之一是:搭载IB-Adapter的StableVLA,即便仅使用:0.5B(5亿)参数模型,仍然能够达到接近:7B(70亿)参数级VLA模型的鲁棒性表现。两者规模相差14倍。

这意味着:过去行业解决鲁棒性问题的方法往往是:模型不够强?那就做得更大。

而这项工作给出了另一种答案:与其让机器人更聪明,不如先让机器人少被噪声欺骗。

在真实机器人上验证

为了验证方法是否真正有效,研究团队在 Astribot S1 平台上进行了真实世界测试。

测试任务包括:抓取与放置(Pick & Place)、迷你投篮(Throw Basketball)、倒水(Pour Water)、玩偶装箱(Pack the Doll)等。同时人为制造:图像噪声、模糊、镜头油污、物体遮挡。

结果显示:在严重视觉干扰下,StableVLA依然能够保持较高操作成功率,而多个现有方案则出现明显退化。



StableVLA 鲁棒性概述:(a) 在 LIBERO 基准测试中的鲁棒性比较中,三角形标记和柱状图分别表示在干净数据和损坏数据(不同严重程度的平均值)上的性能。StableVLA 实现了目前最先进的SOTA零样本鲁棒性。(b) 在视觉损坏的情况下,打包玩具任务上的实际机器人部署,StableVLA (0.5B参数) 达到了 50% 的成功率,优于同参数的 VLA-Adapter (0.5B, 20%) 、参数远高于其的OpenPI 0.5 (3B, 40%)

从学术角度看,这是一项关于VLA鲁棒性的研究。但从产业角度看,它回答的是一个更现实的问题:机器人如何离开实验室,进入真实世界。

现实中的工厂、商场、家庭和餐厅,永远不会拥有完美的光照、干净的镜头、标准化的场景。未来机器人能否大规模部署,很大程度上取决于:当环境开始变脏、变乱、变复杂时,它是否依然能够完成任务。

而这项工作给出的答案是:机器人未必需要更大的模型,但一定需要更稳定的视觉理解能力。这或许也是具身智能从“能工作”迈向“可靠工作”的关键一步。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
15999起!iPhone Duo下周开订,京东预约逼近200万,苹果还玩起了当面激活

15999起!iPhone Duo下周开订,京东预约逼近200万,苹果还玩起了当面激活

泡泡网
2026-10-09 11:15:11
千万别躺平!底层早就挤爆了,外卖员遍地都是,普通人翻身两条路

千万别躺平!底层早就挤爆了,外卖员遍地都是,普通人翻身两条路

白米饭怎么吃
2026-10-10 20:17:53
省去一级火箭成本砍半!电磁弹射发射卫星,2028年将迎来首射

省去一级火箭成本砍半!电磁弹射发射卫星,2028年将迎来首射

林子说事
2026-10-08 15:19:37
贵州女子五天爬完五岳,当事人:耗时最长的是华山,步数最多的是衡山,全程花费不超过四千元,但不建议盲目跟风

贵州女子五天爬完五岳,当事人:耗时最长的是华山,步数最多的是衡山,全程花费不超过四千元,但不建议盲目跟风

大风新闻
2026-10-06 17:00:15
00 后硬刚!华中高校强制女学生机场无偿接留学生,辅导员拿“荣誉”施压,6 位女生争取成功改写规则

00 后硬刚!华中高校强制女学生机场无偿接留学生,辅导员拿“荣誉”施压,6 位女生争取成功改写规则

秋风妃
2026-10-10 06:42:07
不止换颜色!iPhone18标准版爆料汇总,性能影像双提升

不止换颜色!iPhone18标准版爆料汇总,性能影像双提升

小柱解说游戏
2026-10-11 00:32:52
状态热得快,巴萨开季9场比赛里有5场在前10分钟破门

状态热得快,巴萨开季9场比赛里有5场在前10分钟破门

懂球帝
2026-10-11 01:19:24
为何红军到了陕北,蒋介石的几十万大军就不死追了,这是为什么?

为何红军到了陕北,蒋介石的几十万大军就不死追了,这是为什么?

千秋文化
2026-01-15 22:38:14
痛心!四川28岁网红王木强去世,长得很帅,确诊到去世仅3个月

痛心!四川28岁网红王木强去世,长得很帅,确诊到去世仅3个月

原广工业
2026-10-10 08:16:02
人社部:要把未参保人员找到动员参保

人社部:要把未参保人员找到动员参保

极目新闻
2026-10-10 21:34:33
大婶怒骂拒让座女子,10天后孙女保研资格公布,导师到访她哭求挽回

大婶怒骂拒让座女子,10天后孙女保研资格公布,导师到访她哭求挽回

罪案洞察者
2025-08-26 11:40:36
马斯克疯了!和印度撕破脸,把搞垄断的印度首富嘲讽成"总理"!

马斯克疯了!和印度撕破脸,把搞垄断的印度首富嘲讽成"总理"!

经纬戎韬
2026-10-11 00:40:58
美国发现一个离谱真相:中国根本不是对手,而是打不动的底层系统

美国发现一个离谱真相:中国根本不是对手,而是打不动的底层系统

知法而形
2026-10-07 03:18:17
82场全勤!5年1.1亿美金+交易保证金!勇士大手笔签约波姐

82场全勤!5年1.1亿美金+交易保证金!勇士大手笔签约波姐

微评体育圈
2026-10-10 23:55:59
特朗普暂停对俄罗斯能源制裁

特朗普暂停对俄罗斯能源制裁

名人苟或
2026-10-10 14:21:36
被“热熔胶”的冷门用法惊到,一元一根,能解决这么多难题

被“热熔胶”的冷门用法惊到,一元一根,能解决这么多难题

家居美少女
2026-10-09 13:53:15
郭华萍:表面是人民公仆,实际是电诈魔头,竟折磨多名中国人致死

郭华萍:表面是人民公仆,实际是电诈魔头,竟折磨多名中国人致死

米果说识
2026-10-07 11:38:34
江淮跌停,尊界翻车,华为回应为何如此傲慢?

江淮跌停,尊界翻车,华为回应为何如此傲慢?

凤眼论
2026-10-08 19:17:27
战争爆发前的预兆出现!美国已经有4个征兆,张召忠预言要成真?

战争爆发前的预兆出现!美国已经有4个征兆,张召忠预言要成真?

画卷
2026-10-08 19:17:31
澳门赌输10亿水落石出,黄晓明不再隐瞒,原来背叛婚姻的不是杨颖

澳门赌输10亿水落石出,黄晓明不再隐瞒,原来背叛婚姻的不是杨颖

一念痴狂
2026-10-01 14:01:24
2026-10-11 01:51:00
机器最前线 incentive-icons
机器最前线
关注机器人产业,传递最前沿资讯,解读最硬核科技,分享最新投资机会
111文章数 2关注度
往期回顾 全部

科技要闻

上世纪成熟的踏板,为何今天还会断裂?

头条要闻

特朗普:诺贝尔和平奖太腐败了 把奖颁给从未听说过的人

头条要闻

特朗普:诺贝尔和平奖太腐败了 把奖颁给从未听说过的人

体育要闻

十年回首:湖人三榜眼的夏天,与NBA无关

娱乐要闻

宋佳一串三大满贯 争议随之而来

财经要闻

双汇因抗生素超标共被罚1.29亿元

汽车要闻

千匹马力+三把锁/顶配能浮水 银河战舰700限时焕新价16.98万起

态度原创

本地
教育
时尚
公开课
军事航空

本地新闻

踏访沙县第一村,寻国民小吃本源

教育要闻

关注:附中科高学霸来自这些初中!

真爱返场|| 陪了我10年的好物,一年就等这么一回捡大漏

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美乌将举行新一轮会谈

无障碍浏览 进入关怀版