网易首页 > 网易号 > 正文 申请入驻

Meta员工称Muse泄露私密数据,高管回应是幻觉

0
分享至

Meta把Muse定位成一位注重隐私的个人AI代理,运行在安全虚拟机内,横跨用户的各个应用。发布公告里,公司说权限由用户掌控,能访问什么由用户决定。这一定位让眼下的争议变得格外关键:对一个要跨应用干活的代理来说,边界可信不是附加功能,它就是产品本身。


问题从内部员工的讨论里冒了出来。据Ars Technica查阅的员工聊天记录,有人描述消息在没有清晰上下文的情况下出现,账号之间可能出现混淆,还有回复似乎暴露了陌生的银行余额或比特币余额。这些描述拼出的画面,像是一次安全泄露。

Meta不认这个说法。公司高管David Singleton表示,这些事件是孤立的幻觉,由测试提示词和一个bug引起。按报道中的解释,Muse是编造了财务细节,而不是取回了真实的私人财务数据。

这个区分在技术上成立,对用户却未必成立。一个拿到私密应用访问权、随后凭空说出一个银行余额的代理,和一个真的把余额暴露出来的代理,制造的实际惊慌几乎一样。用户很难判断系统到底是读错了、编造了,还是真的取到了信息。三种情况下,“访问受控”这个核心承诺都变得难以评估。

风险还被Muse的运行方式放大。Ars报道援引的独立测试发现,Muse能通过宽泛的权限和无障碍功能,触达Android与macOS上的敏感消息。问题因此不止于模型准不准,还落在模型周围的权限架构上:代理能观察到什么,如何解读这些信息,以及它能否在用户监督不足时自行采取行动。

Meta自己的文档也承认这层风险。在解释Muse指导与审批模型的帮助页面上,公司称该代理可能犯错,也可能做出意料之外的动作,并建议用户限制访问范围、监督其活动、核查Muse的信息来源与操作。

这些指引把不小的负担压给了用户。它们也暴露出Meta在从聊天机器人走向自主代理时面临的竞争难题:聊天机器人通常看回答质量就能评判,代理却要按它的访问范围和在其他产品里的行为可靠性来评判。

这会形成一道不同的商业护城河。领先的代理未必是模型最强的那一个,而是用户愿意授予最广权限的那一个。Meta在消费者触达和应用集成上有优势,可同样的优势也放大了权限出错的后果。每多接入一个应用,Muse更有用,幻觉和误操作被看成隐私侵犯的暴露面也随之变大。

对Meta来说,这是一次提醒:单靠分发拿不下代理市场。公司必须让访问可见、约束自主行为、用用户能核实的方式解释失败。在那之前,Muse最重要的产品考验不是它能做什么,而是用户能不能说清它到底做了什么。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
随着日本1-2被绝杀 亚洲9队首轮踢完 U17国足输最惨 附世界杯积分榜

随着日本1-2被绝杀 亚洲9队首轮踢完 U17国足输最惨 附世界杯积分榜

侃球熊弟
2026-11-21 22:43:40
冲上热搜!全军暂停采购八马茶业

冲上热搜!全军暂停采购八马茶业

深蓝财经
2026-11-21 16:09:33
普林斯顿博士生被拘事件​​​曝更多内幕:14岁移居纽约,全家申请政治庇护

普林斯顿博士生被拘事件​​​曝更多内幕:14岁移居纽约,全家申请政治庇护

小徐讲八卦
2026-11-21 10:28:27
TVB男星抽中台庆45万大奖,本职工作是酒店厨师,感谢妻子的付出

TVB男星抽中台庆45万大奖,本职工作是酒店厨师,感谢妻子的付出

悦君兮君不知
2026-11-20 21:32:48
台湾股市崩盘,台媒:很多人借钱炒股,股灾影响恐蔓延到日常生活

台湾股市崩盘,台媒:很多人借钱炒股,股灾影响恐蔓延到日常生活

海峡导报社
2026-11-21 15:40:07
数学界炸了!一天两方称证出“黎曼猜想”:一份借助Claude,一份纯人工

数学界炸了!一天两方称证出“黎曼猜想”:一份借助Claude,一份纯人工

可达鸭面面观
2026-11-21 08:21:38
“产品难道要卖给空气”,299台注塑机仅8名工人,引全网热议!网友:机器人必须交税,把税发给失业的人

“产品难道要卖给空气”,299台注塑机仅8名工人,引全网热议!网友:机器人必须交税,把税发给失业的人

火山詩话
2026-11-21 07:08:37
参与军采项目涉嫌违规,顺丰速运、八马茶业等被暂停全军采购资格,自11月19日起生效,范围为全军

参与军采项目涉嫌违规,顺丰速运、八马茶业等被暂停全军采购资格,自11月19日起生效,范围为全军

大风新闻
2026-11-21 17:03:03
曼城1-1富勒姆4轮不胜!哈兰德进球被吹 1.35亿标王世界波

曼城1-1富勒姆4轮不胜!哈兰德进球被吹 1.35亿标王世界波

念洲
2026-11-21 22:23:58
局势失控!英伟达内部对立加剧,10名董事+60名高管收到同一封“逼宫信”:看不到黄仁勋回归,便选择离场

局势失控!英伟达内部对立加剧,10名董事+60名高管收到同一封“逼宫信”:看不到黄仁勋回归,便选择离场

秋风妃
2026-11-21 14:13:31
别买,全是假的!又一产品大翻车,成本只有10元,很多人长期上当

别买,全是假的!又一产品大翻车,成本只有10元,很多人长期上当

命运自认幽默
2026-11-21 07:52:54
一次爆出黑料超过33年总和!纽约时报发长文痛批黄仁勋:当众折磨当下属成人礼、所有高管都是受害者

一次爆出黑料超过33年总和!纽约时报发长文痛批黄仁勋:当众折磨当下属成人礼、所有高管都是受害者

可达鸭面面观
2026-11-22 00:02:18
不匹配的高度,配得上谁?

不匹配的高度,配得上谁?

薇微笑语
2026-11-20 16:13:00
俄方称克里米亚大桥铁路运输已全面恢复

俄方称克里米亚大桥铁路运输已全面恢复

每日经济新闻
2026-11-21 19:12:52
从日本火到美国,这片果然有点猛

从日本火到美国,这片果然有点猛

虹膜
2026-11-20 23:00:34
确诊不到一年,患全球罕见变异白血病小伙去世 生前最大愿望是活着陪妈妈回四川老家

确诊不到一年,患全球罕见变异白血病小伙去世 生前最大愿望是活着陪妈妈回四川老家

红星新闻
2026-11-21 15:12:39
彻底不装了!看到中俄美平起平坐,没上桌的印度人,大胆提出“印日欧”联盟,引发舆论热议!

彻底不装了!看到中俄美平起平坐,没上桌的印度人,大胆提出“印日欧”联盟,引发舆论热议!

林杰论事
2026-11-21 18:01:18
第三次喊话力挺黄仁勋,特朗普向英伟达董事会下“政治通牒”:希望黄仁勋重返英伟达担任CEO,强调要保护像他这样的“人才”

第三次喊话力挺黄仁勋,特朗普向英伟达董事会下“政治通牒”:希望黄仁勋重返英伟达担任CEO,强调要保护像他这样的“人才”

大风新闻
2026-11-21 11:57:02
江苏淮安一退休干部被实名举报利用职权帮助子女介入超千万地产生意!纪委回应:正在调查

江苏淮安一退休干部被实名举报利用职权帮助子女介入超千万地产生意!纪委回应:正在调查

指尖新闻沈阳晚报
2026-11-21 08:51:23
突发讣告!张劲松因病医治无效于2026年11月18日逝世,享年61岁

突发讣告!张劲松因病医治无效于2026年11月18日逝世,享年61岁

往史过眼云烟
2026-11-21 11:39:08
2026-11-22 00:39:00
灰度测试中
灰度测试中
生活正在重构,目前还在灰度测试阶段,暂不全量发布。
274文章数 90关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

房产
游戏
亲子
家居
军事航空

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

PC Gamer试玩GTA6百小时:双主角出色但任务重复

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

家居要闻

2026建博会(广州) 公装联探展交流活动

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版