网易首页 > 网易号 > 正文 申请入驻

visionOS 27:眼球追踪,终于开始改变AI产品交互了

0
分享至

就在今天,vision OS27 推出了beta2.0新版本,这个版本下Siri不需要说用hey siri,而是直接通过眼球追踪就可以完成Siri的呼唤。


以眼球追踪与LLM结合,应该是全球首次真正以产品的方式落地,在其他产品上尤其是手机与PC上,要想实现这样交互效果,就比较难以落地。

因为在PC或手机上,首先眼球追踪是鸡肋,同时在平面上的操作手势是追快的,而不是眼球追踪。

眼球追踪与AI结合,理解人类意图

Project Aura 发布之后,xreal的创始人徐驰提到,未来的AI一定是通过眼球追踪来完成,这种人际交互才属于人类最自然的方式,而不是随时都用语音呼叫,通过眼球关注人类的聚焦点,从而反馈给出人类信息。

除此之外,眼球追踪还能够让用户满足各类场景交互,比如不能要语音的环境,比如周围有多个人的时候或者需要安静的环境,这个时候就只有通过眼球或者环境来感知人类的需求,从而让AI辅助你。

空间计算的产品经理,归属世界模型

现在的各类模型,本质上都是LLM,而不是世界模型。当然ChatGPT、Claude也在推出自己的世界模型。

我曾经写过2篇文章,分享到世界模型以及基于MR设备的世界模型到底是什么,以及现在的LLM为什么还不能实现产品经理的梦想:替代人

要AI像人类一样理解这个世界,首先要理解空间与物理世界,世界模型就是底座,只有真的像一个数字伴侣,知道人类在哪里,要干什么,以及当前的问题是什么,才能完成所谓的数字伴侣场景。

而对方到底是真实的躯体还是一堆线上数字人,我认为对于人类来说,只要感情需求能够满足,并且能满足看到、互动,到底能不能接触摸到其实也不是刚需。毕竟现在有了互联网,出现了网恋,不少人因为看不见摸不着就投其所有为伴侣支持。就是因为人类本身也是情感需求大于一切的,如果天天在一起,是一个不说话、不懂你的机器人,那么还不如不存在,存在还会阻挡自己的视线与空间。

眼球追踪与摄像头的权限,苹果始终没有放开

因为用户隐私的看重,现在苹果vision OS始终没有放开这方面的权限,导致开发者开发应用其实会比较受限,尤其是要想开发一些KILL 的App,如果vision OS不能和周边世界进行互动,那么用户的体验就会降低几个等级。

而目前其他的系统阵营,不管是眼镜端的还是AndroidXR端的头显,都开放了摄像头权限。

所以我认为这次project aura的发布,很大程度会开发非常多的KILL App,这些用户因为这些App而买这个眼镜的可能性也是有的,最终倒闭苹果开放这些权限,像早期的录音权限、NFC权限,苹果也是逐步开放。

我们团队正在和AndroidXR、vision OS团队共建2大空间操作系统

就在今天,我们团队虽然还在做AndroidXR的App,但已经和官方取得了联系,并且正在和官方一起联动更新优化国产版本的AndroidXR操作系统,期待可以让中国的厂商可以使用我们这款App与OS系统,我们的目标是既可以让用户像小米、OPPO那样,既可以使用手机安卓的App,也可以随时切换手机。


AndroidXR的AI,现在还等待开发者来支持眼球追踪

在vision OS27beta2.0更新之后,现在AndroidXR属于明显落后了,我认为AndroidXR的官方操作系统至少落后1年的版本,不过接下来因为开放、以及设备出货量,我相信AndroidXR官方的API接口文档会更快支持。

现在的眼球追踪、以及面部追踪现在google官方还是需要用unity开发,而不是原生的安卓语言,但在今年6月份之后已经支持安卓原生语言了。所以以前做安卓或前端开发的同学也不需要去学unity开发了。

而用AndroidXR开发语言就可以完成了,接下来我相信如果开发者能够对空间计算应用够深,那么就可以明确跟着苹果的脚步走,完成眼球追踪与AI模型的结合,甚至我认为这个会成为一个标准的交互方式,成为一个标准API以后会由来自XR系统方提供。

另外我们给苹果提交的feedback现在来看也得到重视,比如最近vision OS27版本更新之后我们就第一时间收到了苹果官方的feedback


可以说我们团队正在帮助空间计算行业前进,尤其是领先的AndroidXR阵营以及vision OS阵营,相信我们的意见会让他们的系统越来越完善。

今天的分享就在这里


找我交流与合作 空间计算与脑机接口系统开发

题图来自 Unsplash ,基于 CC0 协议, 如有侵权,请联系pmtalk123删除

“分享产品经理改变世界的点滴”

产品顾问| 产品咨询|培训合作

请添加微信PMxiaowanzi

最近我的原创

不好意思,Axure仍然是我主流的原型工具

每日案例拆解库,AI等产品打卡群

我创建的产品设计打卡社群,加入后365天,每天体验一款APP。提升产品设计能力,同时有1300份体验报告帮助你找到竞品

在这里你可以随时查询到你想找的各类竞品行业APP,无须自己亲自下载就可以马上得到APP的一手产品优化、交互设计、功能描述信息。

从优化&建议、商业模式、运营、功能描述、交互设计、产品定位至少6个维度,体验一款应用。

平均1天1块钱,扫码购买即可加入

连续体验48款应用,通过后原路退回


报名后添加星球助理

PMTalk123

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
20岁伊朗女孩被判绞刑,母亲狱中探望时已面目全非,全身瘀伤头发被扯光

20岁伊朗女孩被判绞刑,母亲狱中探望时已面目全非,全身瘀伤头发被扯光

译言
2026-09-09 09:25:55
上线仅一周,罗伯特·德尼罗新片观看量暴涨70%

上线仅一周,罗伯特·德尼罗新片观看量暴涨70%

浅遇时光
2026-09-09 03:47:11
前新东方教师资助甘肃女生5年,因发现女生用苹果17promax且浓妆艳抹停止打款,反被女孩质问

前新东方教师资助甘肃女生5年,因发现女生用苹果17promax且浓妆艳抹停止打款,反被女孩质问

Mr王的饭后茶
2026-09-09 01:02:23
女篮晋级八强宫鲁鸣却成笑话!最后25秒叫出唯一暂停,还是王思雨提醒的

女篮晋级八强宫鲁鸣却成笑话!最后25秒叫出唯一暂停,还是王思雨提醒的

篮球资讯达人
2026-09-10 02:15:07
1-2被逆转!郑钦文输球原因曝光,3项数据拉胯,后续参赛计划敲定

1-2被逆转!郑钦文输球原因曝光,3项数据拉胯,后续参赛计划敲定

侃球熊弟
2026-09-10 02:08:46
霍金21岁瘫痪仍迎娶挚爱,婚后先后孕育3个子女;众人惊讶孩子如何诞生,他亲自作出解释

霍金21岁瘫痪仍迎娶挚爱,婚后先后孕育3个子女;众人惊讶孩子如何诞生,他亲自作出解释

磊子讲史
2026-09-08 14:42:13
一个国家能蠢到什么程度?看看法国就明白了:法国黑人接近800万,巴黎新生儿里70%是黑人

一个国家能蠢到什么程度?看看法国就明白了:法国黑人接近800万,巴黎新生儿里70%是黑人

怪味历史连连看
2026-09-08 01:55:32
9月1日起,建筑集团公司全面停工停产!

9月1日起,建筑集团公司全面停工停产!

新浪财经
2026-09-09 21:55:32
谁也没料到莎拉会来这一手!菲律宾副总统莎拉突然对外甩出与前武装部队总参谋长布劳纳的私聊记录,并公开了一张日期为2024年2月7日的截图

谁也没料到莎拉会来这一手!菲律宾副总统莎拉突然对外甩出与前武装部队总参谋长布劳纳的私聊记录,并公开了一张日期为2024年2月7日的截图

回京历史梦
2026-09-09 21:32:19
如果长沙男童“摸臀”事件发生在美国,会是什么结果?

如果长沙男童“摸臀”事件发生在美国,会是什么结果?

西虹市闲话
2026-09-09 16:34:34
一场2-3!输球不可怕,更可怕的是赛后蒯曼这番话:让人很揪心

一场2-3!输球不可怕,更可怕的是赛后蒯曼这番话:让人很揪心

江启
2026-09-10 00:01:07
请长沙警方回答:女子锁喉4岁男童后索要的“医药费”,到底是什么钱?

请长沙警方回答:女子锁喉4岁男童后索要的“医药费”,到底是什么钱?

不掉线电波
2026-09-09 09:57:45
女篮头号功臣!韩旭21+11连4场两双 末节14分大爆发主宰胜利

女篮头号功臣!韩旭21+11连4场两双 末节14分大爆发主宰胜利

醉卧浮生
2026-09-10 01:32:09
田里打农药遇眼镜蛇,男子对着蛇嘴猛喷农药,第二天一幕让人害怕

田里打农药遇眼镜蛇,男子对着蛇嘴猛喷农药,第二天一幕让人害怕

三农雷哥
2026-09-09 17:57:31
220万买下临街旺铺,有房本却无权锁门;法院判决:需给后方两铺留通道留门

220万买下临街旺铺,有房本却无权锁门;法院判决:需给后方两铺留通道留门

大风新闻
2026-09-09 19:55:08
数十名中国人冒充犹太人骗取德国护照,性质及其恶劣

数十名中国人冒充犹太人骗取德国护照,性质及其恶劣

以色列飛飛
2026-09-09 18:16:58
随着吴宜泽4-2,斯诺克英格兰公开赛16强已诞生12席:5名中国选手在列

随着吴宜泽4-2,斯诺克英格兰公开赛16强已诞生12席:5名中国选手在列

侧身凌空斩
2026-09-10 03:50:38
央视曝大雷!这些国民食品,全是科技与狠活?食品安全需筑牢防线

央视曝大雷!这些国民食品,全是科技与狠活?食品安全需筑牢防线

白米饭怎么吃
2026-09-09 22:31:44
“摸臀” 女网红社死,安徽母校评论区被冲烂,留学梦可能有变数

“摸臀” 女网红社死,安徽母校评论区被冲烂,留学梦可能有变数

四斤
2026-09-09 15:22:29
年薪增至1900万,是美国总统7倍:全球最高薪领导人,为何还大幅加薪?

年薪增至1900万,是美国总统7倍:全球最高薪领导人,为何还大幅加薪?

40度观察
2026-09-09 17:17:33
2026-09-10 05:28:49
Kevin改变世界的点滴 incentive-icons
Kevin改变世界的点滴
每周一次,产品案例与经验分享
389文章数 22关注度
往期回顾 全部

科技要闻

一文看懂:iPhone折叠屏顶配2万6,10月才卖

头条要闻

苹果发布首款折叠屏iPhone Duo 起售价1999美元

头条要闻

苹果发布首款折叠屏iPhone Duo 起售价1999美元

体育要闻

16年后再破门,被皇马放弃的少年没认输

娱乐要闻

郭德纲的商业版图,藏着不知道的真相

财经要闻

知情人士证实DeepSeek备战科创板IPO

汽车要闻

腾势Z9GT易三方闪充尊越型32.98万元上市

态度原创

旅游
数码
亲子
教育
公开课

旅游要闻

走过奔子栏,才懂当年马帮走滇藏路有多难,河谷风声里全是旧时光

数码要闻

229元起:苹果为iPhone 18 Pro/Max、iPhone Duo上线多款配件

亲子要闻

我不放弃,也不害怕!#彩虹糖裴曼伊#看看世界有多大#熊出没

教育要闻

今年最惨的6个专业,平均月薪跌破4000元,就业率低得离谱!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版