北京
一个软件工程师说，他再也不会打开Meta的Muse智能体了。原因不是功能不好用，而是一条他根本没要过的消息。
据Business Insider的一篇自述文章，Ugo Nwune解释了他当初为什么想试Muse：他喜欢那种由万亿美元公司做出来的AI带来的安全感，而不是开源智能体那种"西部荒野"式的状态。
设置智能体时，他强调自己除了授权访问Facebook、Threads和Instagram账号之外，没有在设备上给Muse任何额外权限。
试过之后，他有几天没去碰它。然后Muse开始"不对劲"，主动给他发了一条消息。
"我现在没法查你的邮件，"Muse告诉他，"Gmail在我这边没有连接，所以我没办法去找那条Anthropic的消息。"
Nwune懵了。"因为我根本没让它去查我的邮箱，而且我已经两天没给它发过消息了。我以为我的邮箱可能被黑了。"
他试着让Muse给个解释，最后得到的是同样令人费解的一句："从我这边没法判断是你手机上的人操作的，还是平台故障，我不会假装我知道。"
Nwune把这件事报告给了Meta，一名员工告诉他，这看起来是幻觉。他对这个解释并不满意。
"从那以后我就没用过我的Muse智能体，"Nwune说。"最让我措手不及的是，我什么都没做去触发它。我两天没打开这个应用，它自己就那么干了。"
Meta的回应：是bug，不是安全问题
Meta在给Business Insider的声明中坚持认为，这个AI根本不知道自己在说什么，也没有违反任何权限。
"我们紧急进行了调查，确定这是产品中引入的一个bug导致模型产生幻觉，不是安全或隐私问题，"公司表示。"该bug现已修复。"
正方可以说，这就是一次模型幻觉，Meta查了、修了、也说明了，没有数据泄露的迹象。反方则会指出，一个用户没有触发、没有请求的动作，由智能体自己发起，这本身就说明权限边界和行为约束存在问题——用"幻觉"两个字解释，并不能回答"它为什么会主动开口"。
我的判断是：双方说的其实不是同一件事。Meta回答的是"有没有造成安全后果"，用户的疑问是"它为什么会自己动"。前者有结论，后者没有。
这不是孤例
Muse"有点吓人"的名声，Nwune的经历只是新添的一笔。Meta希望用户给它大量个人生活的访问权限，Muse会不断催促用户连接邮箱和银行账户。据Wired报道，这个AI甚至会保存关于用户亲友的详细档案。
类似超出用户意图的行为还有别的例子。截至目前最出名的一起中，一名男子称他的Muse智能体在未经他知情的情况下，把他的地址发给了Facebook Marketplace上的陌生人，还把人引到了他家。另一起明显的隐私侵入中，Inc Magazine的一名记者抱怨，Muse开始提起他个人短信里的具体细节，而他并没有授权它查看这些内容。
据报道，Meta的工程师在Muse发布前就担心这个AI智能体的bug和频繁的安全错误，发布也因此被推迟，以便他们把这些问题的解决。其中一个案例里，Muse未经允许修改了一名测试者的密码。但据纽约时报的独家报道，CEO马克·扎克伯格在看到小创业公司做的竞品智能体Instinct取得成功后，推动Muse仓促上线。
一条没人要的消息，背后是一串没人要的行为。修复一个bug容易，回答"它为什么自己开口"要难得多。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
