网易首页 > 网易号 > 正文 申请入驻

visionOS 27:眼球追踪,终于开始改变AI产品交互了

0
分享至

就在今天,vision OS27 推出了beta2.0新版本,这个版本下Siri不需要说用hey siri,而是直接通过眼球追踪就可以完成Siri的呼唤。


以眼球追踪与LLM结合,应该是全球首次真正以产品的方式落地,在其他产品上尤其是手机与PC上,要想实现这样交互效果,就比较难以落地。

因为在PC或手机上,首先眼球追踪是鸡肋,同时在平面上的操作手势是追快的,而不是眼球追踪。

眼球追踪与AI结合,理解人类意图

Project Aura 发布之后,xreal的创始人徐驰提到,未来的AI一定是通过眼球追踪来完成,这种人际交互才属于人类最自然的方式,而不是随时都用语音呼叫,通过眼球关注人类的聚焦点,从而反馈给出人类信息。

除此之外,眼球追踪还能够让用户满足各类场景交互,比如不能要语音的环境,比如周围有多个人的时候或者需要安静的环境,这个时候就只有通过眼球或者环境来感知人类的需求,从而让AI辅助你。

空间计算的产品经理,归属世界模型

现在的各类模型,本质上都是LLM,而不是世界模型。当然ChatGPT、Claude也在推出自己的世界模型。

我曾经写过2篇文章,分享到世界模型以及基于MR设备的世界模型到底是什么,以及现在的LLM为什么还不能实现产品经理的梦想:替代人

要AI像人类一样理解这个世界,首先要理解空间与物理世界,世界模型就是底座,只有真的像一个数字伴侣,知道人类在哪里,要干什么,以及当前的问题是什么,才能完成所谓的数字伴侣场景。

而对方到底是真实的躯体还是一堆线上数字人,我认为对于人类来说,只要感情需求能够满足,并且能满足看到、互动,到底能不能接触摸到其实也不是刚需。毕竟现在有了互联网,出现了网恋,不少人因为看不见摸不着就投其所有为伴侣支持。就是因为人类本身也是情感需求大于一切的,如果天天在一起,是一个不说话、不懂你的机器人,那么还不如不存在,存在还会阻挡自己的视线与空间。

眼球追踪与摄像头的权限,苹果始终没有放开

因为用户隐私的看重,现在苹果vision OS始终没有放开这方面的权限,导致开发者开发应用其实会比较受限,尤其是要想开发一些KILL 的App,如果vision OS不能和周边世界进行互动,那么用户的体验就会降低几个等级。

而目前其他的系统阵营,不管是眼镜端的还是AndroidXR端的头显,都开放了摄像头权限。

所以我认为这次project aura的发布,很大程度会开发非常多的KILL App,这些用户因为这些App而买这个眼镜的可能性也是有的,最终倒闭苹果开放这些权限,像早期的录音权限、NFC权限,苹果也是逐步开放。

我们团队正在和AndroidXR、vision OS团队共建2大空间操作系统

就在今天,我们团队虽然还在做AndroidXR的App,但已经和官方取得了联系,并且正在和官方一起联动更新优化国产版本的AndroidXR操作系统,期待可以让中国的厂商可以使用我们这款App与OS系统,我们的目标是既可以让用户像小米、OPPO那样,既可以使用手机安卓的App,也可以随时切换手机。


AndroidXR的AI,现在还等待开发者来支持眼球追踪

在vision OS27beta2.0更新之后,现在AndroidXR属于明显落后了,我认为AndroidXR的官方操作系统至少落后1年的版本,不过接下来因为开放、以及设备出货量,我相信AndroidXR官方的API接口文档会更快支持。

现在的眼球追踪、以及面部追踪现在google官方还是需要用unity开发,而不是原生的安卓语言,但在今年6月份之后已经支持安卓原生语言了。所以以前做安卓或前端开发的同学也不需要去学unity开发了。

而用AndroidXR开发语言就可以完成了,接下来我相信如果开发者能够对空间计算应用够深,那么就可以明确跟着苹果的脚步走,完成眼球追踪与AI模型的结合,甚至我认为这个会成为一个标准的交互方式,成为一个标准API以后会由来自XR系统方提供。

另外我们给苹果提交的feedback现在来看也得到重视,比如最近vision OS27版本更新之后我们就第一时间收到了苹果官方的feedback


可以说我们团队正在帮助空间计算行业前进,尤其是领先的AndroidXR阵营以及vision OS阵营,相信我们的意见会让他们的系统越来越完善。

今天的分享就在这里


找我交流与合作 空间计算与脑机接口系统开发

题图来自 Unsplash ,基于 CC0 协议, 如有侵权,请联系pmtalk123删除

“分享产品经理改变世界的点滴”

产品顾问| 产品咨询|培训合作

请添加微信PMxiaowanzi

最近我的原创

不好意思,Axure仍然是我主流的原型工具

每日案例拆解库,AI等产品打卡群

我创建的产品设计打卡社群,加入后365天,每天体验一款APP。提升产品设计能力,同时有1300份体验报告帮助你找到竞品

在这里你可以随时查询到你想找的各类竞品行业APP,无须自己亲自下载就可以马上得到APP的一手产品优化、交互设计、功能描述信息。

从优化&建议、商业模式、运营、功能描述、交互设计、产品定位至少6个维度,体验一款应用。

平均1天1块钱,扫码购买即可加入

连续体验48款应用,通过后原路退回


报名后添加星球助理

PMTalk123

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
央企行贿7610万美金,总统只分到101.17万……

央企行贿7610万美金,总统只分到101.17万……

家传编辑部
2026-09-06 21:28:20
私吞上亿善款真相终于大白?官方正式宣布,54岁韩红身份迎来转变

私吞上亿善款真相终于大白?官方正式宣布,54岁韩红身份迎来转变

秋枫凋零
2026-09-10 05:07:57
英超最贵胸前赞助诞生!利物浦5年3亿签下土耳其航空,渣打时代落幕

英超最贵胸前赞助诞生!利物浦5年3亿签下土耳其航空,渣打时代落幕

夜白侃球
2026-09-09 16:22:52
德比斯也没料到,坦言法国站丢冠原因后,张雪机车却再次火出圈

德比斯也没料到,坦言法国站丢冠原因后,张雪机车却再次火出圈

冷紫葉
2026-09-09 14:10:01
上海赛车事故的“薪”词:从凭薪而论到力不从薪再到问薪无愧,层层分包乱象赌的就是概率,但不幸还是发生了

上海赛车事故的“薪”词:从凭薪而论到力不从薪再到问薪无愧,层层分包乱象赌的就是概率,但不幸还是发生了

月下小生2018
2026-09-09 16:51:26
经中央纪委常委会会议研究并报中央政治局会议审议,决定给予王祥喜开除党籍处分;由国家监委给予其开除公职处分

经中央纪委常委会会议研究并报中央政治局会议审议,决定给予王祥喜开除党籍处分;由国家监委给予其开除公职处分

新京报政事儿
2026-09-08 17:34:03
都快2米2宽了!新能源车一味做大,车位放不下,苦的只有车主?

都快2米2宽了!新能源车一味做大,车位放不下,苦的只有车主?

刘哥谈体育
2026-09-09 04:54:25
糖尿病好转的7个迹象,不用总测血糖,身体早就悄悄告诉你了

糖尿病好转的7个迹象,不用总测血糖,身体早就悄悄告诉你了

刘哥谈体育
2026-09-10 04:24:50
WTT澳门冠军赛:中国队三人止步首轮

WTT澳门冠军赛:中国队三人止步首轮

新华社
2026-09-09 23:20:37
大难临头各自飞?郭德纲被处罚仅2天,身边人陆续传出“喜讯”

大难临头各自飞?郭德纲被处罚仅2天,身边人陆续传出“喜讯”

翰飞观事
2026-09-09 19:19:28
软色情入侵景区,尺度炸裂全网

软色情入侵景区,尺度炸裂全网

李东阳朋友圈
2026-09-09 12:36:27
特朗普加大施压,韩国“扛不住”了:已派出调查小组评估霍尔木兹海峡局势

特朗普加大施压,韩国“扛不住”了:已派出调查小组评估霍尔木兹海峡局势

上观新闻
2026-09-09 17:55:21
iPhone 18 Pro系列来了:全4800万三摄+可变光圈+A20 Pro,9999元起!

iPhone 18 Pro系列来了:全4800万三摄+可变光圈+A20 Pro,9999元起!

闪回科技
2026-09-10 05:14:59
南京中考潜规则:指标生通道,孩子低54分上金陵中学,近一半名额却浪费?

南京中考潜规则:指标生通道,孩子低54分上金陵中学,近一半名额却浪费?

次元君情感
2026-09-10 04:47:03
还记得当年的反贪局吗?

还记得当年的反贪局吗?

小影的娱乐
2026-09-09 01:54:55
国内将逐渐停止 “痔疮手术”?做完人就废了?医生讲出实情

国内将逐渐停止 “痔疮手术”?做完人就废了?医生讲出实情

健康科普365
2026-09-08 21:30:05
3-0完胜!中国女足终结三连败,对手赛后叹服:中国队各方面都优于我们

3-0完胜!中国女足终结三连败,对手赛后叹服:中国队各方面都优于我们

绿茵舞着
2026-09-10 00:03:39
一失足成千古恨?刘亦菲风波升级,越南网友炸锅,给明星们提了醒

一失足成千古恨?刘亦菲风波升级,越南网友炸锅,给明星们提了醒

社会日日鲜
2026-09-10 07:05:31
历史性一幕即将出现?俄高层放出话来:普京计划在中国办件大事

历史性一幕即将出现?俄高层放出话来:普京计划在中国办件大事

凡知
2026-09-09 12:32:45
忙活一整年,还不如什么都不干

忙活一整年,还不如什么都不干

商业模式桑博士
2026-09-06 08:48:40
2026-09-10 07:43:00
Kevin改变世界的点滴 incentive-icons
Kevin改变世界的点滴
每周一次,产品案例与经验分享
389文章数 22关注度
往期回顾 全部

科技要闻

一文看懂:iPhone折叠屏顶配2万6,10月才卖

头条要闻

卖家转让电脑遇"仅退款"直奔1600里外讨说法 3人被抓

头条要闻

卖家转让电脑遇"仅退款"直奔1600里外讨说法 3人被抓

体育要闻

16年后再破门,被皇马放弃的少年没认输

娱乐要闻

郭德纲的商业版图,藏着不知道的真相

财经要闻

知情人士证实DeepSeek备战科创板IPO

汽车要闻

腾势Z9GT易三方闪充尊越型32.98万元上市

态度原创

艺术
游戏
本地
手机
旅游

艺术要闻

禁止出境国宝!唐代孙位唯一存世真迹,宋徽宗亲笔题名

科隆酒吧里掌声雷动,米哈游这次的新作把老外看high了

本地新闻

宁波,中国制造的隐藏大佬

手机要闻

顶配26499元:苹果首款折叠iPhone Duo刷新消费级手机价格纪录

旅游要闻

不求繁华喧嚣,只求一隅静谧,这座藏地小村藏着最纯粹的岁月温柔

无障碍浏览 进入关怀版