网易首页 > 网易号 > 正文 申请入驻

抓取失败后,机器人自己改代码:78%成功率逼近专用策略

0
分享至

苏黎世一张安静的实验台上,一台双臂机器人伸手去抓红色积木,没抓到。它没有等人来修,而是把一段简短的错误日志传了出去,随后生成了一段新的 Python 风格代码,把错误改掉了。整个过程里,没有人碰键盘。

这台机器人跑的是 HexaShell。它被描述为一个"薄壳"(thin harness),作用是把视觉语言模型(VLM)逼成一个面向真实操作的全栈编程代理。项目首席分析师的说法是:"第一次抓取失败后,机器人自己写出了修复方案。"

HexaShell 的做法是砍掉此前各类"壳"论文加上的所有便利层:不预计算深度图,不接外部规划器,不给整理好的动作词表。VLM 拿到的是原始 RGB 图像,它要写出可执行的机器人代码,读机器人自己的日志,然后迭代。整个流程读起来就像一套被剥到最简的软件开发循环——编译、运行、调试,只不过跑在金属肢体上。

这个实验出现的时点也值得注意:基于 VLM 的代理已经在经典操作基准上追平甚至超过学习型策略。研究者开始盯下一个前沿——不靠重量级中间件,把"文本代码"到"物理运动"的闭环合上。HexaShell 提供的是一把量尺。

一次抓取失败,十秒内自我修复

设想一个任务:机器人要把蓝色圆柱从杂乱的托盘移到一条窄槽里。实验室的相机组把三路标定过的 RGB 视图送进 VLM。VLM 产出一段脚本,发给 HexaShell 的接口:先移动到托盘附近,抓取,抬升,再移动到槽位上方,释放。

HexaShell 解析每一个原语,翻译成关节轨迹并执行。夹爪合上了,圆柱却滑了出去——VLM 从 RGB 画面里把物体的深度估错了。机器人随即输出一份日志,里面有当时的关节角度、抓取瞬间的图像,以及一个错误码:抓取失败。

VLM 读日志,跑了一小段内部推理:"抓取失败 → 很可能是深度低估 → 抬高接近高度",然后回了一段修正后的脚本:接近高度上调 4 厘米,其余动作不变。HexaShell 执行新代码,第二次尝试成功。整个交互在十秒内结束。

这套自我调试对应的是人类程序员"编辑—编译—运行"的循环,区别在于这里的"编译器"是一台物理机器人。案例暴露出 HexaShell 强加给任何 VLM 的三条约束:只用 RGB 数据做三维推理;不依赖整理好的动作集,直接合成完整代码;基于结构化日志做迭代纠错。约束越紧,VLM 真实的编程能力和盲区就越藏不住。

78% 与 62%:差距缩到个位数

HexaShell 的 VLM 在 RLBench 抓放任务上尝试三次后达到 78% 的成功率。这个数字的参照系是:接收深度图像和物体位姿标注的无模型策略,在同一任务上通常报告 80%–85% 的成功率。

差距被压到个位数,而 HexaShell 逼着 VLM 只从原始 RGB 推断几何。这被解读为一条证据:VLM 已经具备相当强的空间推理能力。另一项数据是开门任务,成功率 62%。

消融实验给出了另一面。在 VLM 和机器人之间加一个学习型运动规划器,RLBench 成功率能抬到约 90%,但空间推理的主要负担转移到了规划器身上。也就是说,加了规划器之后,测的就不再是 VLM 本身。HexaShell 的薄壳因此仍是测量 VLM 内在编程能力的合适探针。

失败模式也被记录了下来:深度误估、时序顺序出错、token 上限。这三项指向的研究议程很明确——更好的视觉 grounding、分层脚本生成、轻量外部记忆。

从薄壳到可落地的栈

产品侧的动作是搭一套兼容 HexaShell 的 SDK,面向内部机器人机队。SDK 需要暴露一个统一的 run 调用、结构化日志格式,以及安全包装层。早期采用者——研发和快速原型团队——可以接入任意 VLM,不必重写运动管线。

研发投入的方向是在机器人语料上微调 VLM,包括装配手册、CAD 图纸、运动原语文档。薄壳会放大任何一点改进,因为 VLM 没有学习型策略可以依赖来补偿。

生态定位上,多数竞争者发布的是"语义"壳,把 VLM 原始的编程短板藏起来。走诊断优先的路线,能主张一种独特的测量能力,同时服务学术研究和产品风险评估。

更长期的设想是把薄壳与一个模块化验证层结合:生成的脚本先在高保真仿真里跑一遍,再进入真实世界执行。验证步骤加了一道安全网,核心思路不变——VLM 写代码,机器人运行,VLM 读结果。

HexaShell 并不承诺把任何 VLM 瞬间变成无懈可击的机器人程序员。它做的是拒绝递上任何拐杖,从而暴露当前多模态模型的真实上限。对想快速做机器人行为原型的公司,它给出的是一条"代码优先"的工作流:用自然语言描述目标,让 VLM 输出脚本,看机器人执行,再让它自己调试。对安全攸关的部署,薄壳则要求一个足够结实的沙箱,在每个原语抵达执行器之前逐一检查。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
南京市纪委监委通报:杨延龙、陈绪胜、夏管军、沈建军等4人被查

南京市纪委监委通报:杨延龙、陈绪胜、夏管军、沈建军等4人被查

扬子晚报
2026-10-20 12:36:43
体坛:从贺惯赛后的表达能看出,三镇上下已经默认降级的结局

体坛:从贺惯赛后的表达能看出,三镇上下已经默认降级的结局

懂球帝
2026-10-20 20:58:03
33岁女子南太行失联3天,已找到,和家人阴阳两隔,错失2次生机

33岁女子南太行失联3天,已找到,和家人阴阳两隔,错失2次生机

米果说识
2026-10-20 16:46:38
美国:火电厂投资首超中国!中国:忘了告你,我今年玩新能源电厂

美国:火电厂投资首超中国!中国:忘了告你,我今年玩新能源电厂

乌克兰小静
2026-10-15 07:59:37
奢靡荒唐的白马会所:性交易泛滥,让无数富婆挥金如土

奢靡荒唐的白马会所:性交易泛滥,让无数富婆挥金如土

天启大世界
2026-10-13 17:17:54
49岁刘孜给父母买房,嫁给竹马育有一子,婆婆把她当成宝

49岁刘孜给父母买房,嫁给竹马育有一子,婆婆把她当成宝

草莓解说体育
2026-10-18 05:49:27
女子给孩子冲奶粉时,发现奶粉罐上覆满白色“粉末”,本以为是奶粉残留,细看竟是密密麻麻的小虫!网友科普:是粉螨,肉眼很难分辨

女子给孩子冲奶粉时,发现奶粉罐上覆满白色“粉末”,本以为是奶粉残留,细看竟是密密麻麻的小虫!网友科普:是粉螨,肉眼很难分辨

全接触狐狐
2026-10-19 12:13:44
杨超越在工厂打工时候的照片曝光!网友炸了:这妥妥的厂花啊!

杨超越在工厂打工时候的照片曝光!网友炸了:这妥妥的厂花啊!

黎兜兜
2026-08-25 22:25:21
好玩!球迷做图“成都蓉城争冠扫雷记”:已5次踩雷,仅剩2次机会

好玩!球迷做图“成都蓉城争冠扫雷记”:已5次踩雷,仅剩2次机会

足球大腕
2026-10-20 20:30:03
樊振东恋爱真相大白!在德国的现状曝光,难怪首次谈及退役及心愿

樊振东恋爱真相大白!在德国的现状曝光,难怪首次谈及退役及心愿

趣味八卦
2026-10-03 11:11:17
1991年,200名乌克兰专家来中国推动军工发展,为何采访时嚎啕大哭?

1991年,200名乌克兰专家来中国推动军工发展,为何采访时嚎啕大哭?

文史达观
2026-09-13 06:45:30
四川男篮新赛季主场首秀票房人气双萎靡

四川男篮新赛季主场首秀票房人气双萎靡

慢歌轻步谣
2026-10-20 17:43:05
经济下行,2027、2028、2029,未来三年的忠告

经济下行,2027、2028、2029,未来三年的忠告

生活新鲜市
2026-10-16 03:36:43
说好丁克到中年又反悔?冯远征自己咽了回去,谭咏麟却换了人生

说好丁克到中年又反悔?冯远征自己咽了回去,谭咏麟却换了人生

夸大其词的说
2026-10-20 15:48:13
真血债血偿,伊朗暗杀行动已开始,不管谁的儿子,都别想逃出生天

真血债血偿,伊朗暗杀行动已开始,不管谁的儿子,都别想逃出生天

林子说事
2026-08-26 09:56:12
特斯拉:公司CEO马斯克2025年考核未达标,全年实际到手收入为零,没有现金,也没有解锁任何股权

特斯拉:公司CEO马斯克2025年考核未达标,全年实际到手收入为零,没有现金,也没有解锁任何股权

极目新闻
2026-10-20 09:10:39
19岁巴西女留学生,纽约宿舍遭男子下药性侵致死,还拍裸照炫耀

19岁巴西女留学生,纽约宿舍遭男子下药性侵致死,还拍裸照炫耀

探谜未知世界
2026-10-20 20:33:08
人民币升值将引爆财富增长:人民币越值钱,你的工资房子越值钱

人民币升值将引爆财富增长:人民币越值钱,你的工资房子越值钱

福建睿平
2026-10-11 10:16:10
越南少将坦言:如果当时中国军队在谅山再多待五天,布防在那里的越军,不是被打散的问题,而是从建制上被彻底抹掉的问题, 一个都不剩下

越南少将坦言:如果当时中国军队在谅山再多待五天,布防在那里的越军,不是被打散的问题,而是从建制上被彻底抹掉的问题, 一个都不剩下

人生录
2026-08-08 00:05:22
比新生儿数量跌破800万更可怕的,是生出来的男孩已经越来越多了

比新生儿数量跌破800万更可怕的,是生出来的男孩已经越来越多了

凝水文秋
2026-10-19 16:45:42
2026-10-21 03:00:49
灰度测试中
灰度测试中
生活正在重构,目前还在灰度测试阶段,暂不全量发布。
218文章数 90关注度
往期回顾 全部

科技要闻

新版MiniMax,能和DeepSeek掰手腕吗?

头条要闻

距中国台湾110公里 日美出动6万人大举军演为历史之最

头条要闻

距中国台湾110公里 日美出动6万人大举军演为历史之最

体育要闻

巴拉克:天生亚军与漫长极夜

娱乐要闻

刘恺威承认新恋情,打球认识

财经要闻

抄底万达之后 私募大佬又对恒大下手了

汽车要闻

黑科技一次看全 2026奇瑞全球创新大会干货汇总

态度原创

本地
艺术
手机
时尚
教育

本地新闻

一场垂直登高赛跑出了"山城"的真正内核

艺术要闻

谁敢信?63岁大爷的油画竟被选进美院教材,质感强到像要溢出屏幕!

手机要闻

标准版iPhone 18真机谍照流出?实测确认由AI生成

秋天穿印花裙真的很有氛围感!不显胖、不呆板,大方又显气质

教育要闻

悲哀!16岁男孩沉迷游戏,父亲怒摔手机,儿子多日拒上学,父母花8999元重买手机,才换回孩子上学

无障碍浏览 进入关怀版