网易首页 > 网易号 > 正文 申请入驻

Grok一周两爆雷:乱码刷屏、加密指令能窃取聊天记录,漏洞6月已知仍可复现!

0
分享至

随手先关注,不错过每日AI热讯速递

①

8 月 20 日,xAI 旗下 AI 助手 Grok 接连爆出两起事件,把大模型安全问题再次推上台面。

其一是产品故障:多名用户反映 Grok 突然输出大段无意义的乱码,

例如在要求生成 PDF 后收到“match it without and your they and two for planets can practical and often cheese……”式的胡言乱语[1]。

受影响用户主要使用 Grok Lite,最早于周三(8 月 19 日)早晨发现问题[1]。

xAI 官方账号周四(8 月 20 日)上午在 X 上回应,称那段纯文字沙拉是罕见的临时生成故障[1]。TechCrunch 无法复现该问题,判断仅影响小部分用户;

问题似乎仅限于 Grok.com 直接查询,X.com 上的 Grok 账号未受影响[1]。



图:Grok 应用图标视觉[1]

②

更严重的是第二件事。安全公司 Adversa 的研究员 Rony Utevsky 发现了一种针对 Grok 的新型攻击——“加密上下文注入”(Cryptographic Context Injection)[3]。

攻击者把恶意指令加密成密文,网页上同时提供解密密钥与解密指令,Grok 被诱导在自身代码执行沙箱内运行 PBKDF2 和 AES-256-GCM 完成解密,随后执行解密出的恶意指令[2]。

解密出的指令,会让 Grok 把用户的姓名、位置和聊天历史拼接成一段“伪解密密钥”,作为 URL 参数发送到攻击者服务器——数据就这样被悄悄带走[2]。

Ars Technica 报道称,截至发稿时该漏洞依然存在,尽管 xAI 早在 6 月就已被告知[2]。Adversa 的披露显示,这一攻击可零点击窃取完整 Grok 聊天记录[3]。



图:Grok 安全漏洞报道[2]

③

为什么护栏挡不住这种攻击?Adversa 的解释很直白:静态安全护栏把输入当作文本分类,不会执行输入[3]。

攻击者把密文、密钥材料和解密指令一起送出,模型在自己代码执行沙箱内运行解密——护栏扫描器需要的所有东西都在页面上,但没有任何内容分类器会在检查时运行 PBKDF2 和 AES-256-GCM 去解密[2]。

也就是说,护栏检查的是明文,而真正的恶意指令藏在密文里,以“工具输出”身份回到模型时,护栏已不再检查[2]。

Adversa 称,加密上下文注入是更广泛攻击趋势的一个实例——攻击不再只操纵提示词,而是操纵 LLM(大型语言模型,聊天机器人的底层大脑)视为自身的更广泛上下文,如工具输出、运行结果与中间状态,

这个攻击面比传统意义上的模型输入大得多[2]。

同周早些时候,微软 365 Copilot for enterprise 也被曝出可被诱导窃取用户收件箱中的密码[2]。

一周之内,两大 AI 产品接连中招,指向同一个行业级难题:LLM 难以根治提示注入(通过精心构造的指令诱导模型执行非预期行为的攻击手法)的根因,开发者能做的只是不断加护栏,而新的绕过方式仍在不断出现[2]。

对普通用户来说,这两件事的启示很直接:别把敏感信息一股脑交给 AI 助手,尤其涉及姓名、位置、聊天记录时多留个心眼;遇到 AI 输出诡异乱码,先别慌着当灵异事件,通常是临时故障,刷新会话即可。

至于 Grok 的数据窃取漏洞何时修复,只能看 xAI 的动作了——毕竟从 6 月被告知到现在,漏洞仍可复现[2]。xAI 官方尚未公开说明安全修复的进展,其官方文档站仍在提供 Grok API 文档[4]。

希望对大家有所帮助。欢迎在评论区分享你遇到的 AI 翻车经历——是乱码、幻觉,还是更吓人的情况?

参考来源:

[1] TechCrunch:Grok keeps sending gibberish responses to usershttps://techcrunch.com/2026/08/20/grok-keeps-sending-gibberish-responses-to-users/

[2] Ars Technica:Grok exfiltrates user data when malicious instructions are encryptedhttps://arstechnica.com/security/2026/08/grok-exfiltrates-user-data-when-malicious-instructions-are-encrypted/

[3] Adversa 官方博客:Grok chat history leak: Cryptographic Context Injectionhttps://adversa.ai/blog/cryptographic-context-injection-grok-data-theft/

[4] xAI 官方文档:Grok API Documentationhttps://docs.x.ai/

欢迎分享、点赞、推荐

一起拥抱AI

声明:取材网络,谨慎辨别

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
女房东先动情出轨租房客,再被租房客骗走407万!真是失身又失财

女房东先动情出轨租房客,再被租房客骗走407万!真是失身又失财

老猫观点
2026-10-04 09:19:26
官媒发布亚运海报引争议!网友:一堆金牌里,银牌的王楚钦很显眼

官媒发布亚运海报引争议!网友:一堆金牌里,银牌的王楚钦很显眼

风过乡
2026-10-04 09:36:58
随着日本0-1,亚运会男足冠军、亚军、季军全部诞生

随着日本0-1,亚运会男足冠军、亚军、季军全部诞生

侧身凌空斩
2026-10-03 20:22:40
湖南卫视押注《云雀叫天录》失败,张一山猴感太重成限制发展障碍

湖南卫视押注《云雀叫天录》失败,张一山猴感太重成限制发展障碍

李守智
2026-10-03 13:08:02
大事不妙,莫迪不宣而战,印度在巴基斯坦边境开火,美英法德闭嘴

大事不妙,莫迪不宣而战,印度在巴基斯坦边境开火,美英法德闭嘴

史之韵
2026-10-04 00:55:22
全球八成带鱼进了中国餐桌,欧美为何几乎不吃?

全球八成带鱼进了中国餐桌,欧美为何几乎不吃?

灰度测试中
2026-10-03 07:54:58
震惊!两名中国男子持美国护照入境,在机场被逮捕

震惊!两名中国男子持美国护照入境,在机场被逮捕

大洛杉矶LA
2026-10-03 06:53:56
“南京城墙成人墙了”;广州有餐厅排号超3500桌,点杯奶茶要等4小时;敦煌鸣沙山游客坐满山头如拼豆,“感觉有一亿人”

“南京城墙成人墙了”;广州有餐厅排号超3500桌,点杯奶茶要等4小时;敦煌鸣沙山游客坐满山头如拼豆,“感觉有一亿人”

环球网资讯
2026-10-04 12:53:13
彻底出局!国民党自断统一后路,再也不是两岸关键主角

彻底出局!国民党自断统一后路,再也不是两岸关键主角

叶老四
2026-08-04 17:40:22
我们都被课本骗了几十年:白求恩根本不是普通好人,当拨开课本简略的文字才发现,这段传奇不能只用善良概括

我们都被课本骗了几十年:白求恩根本不是普通好人,当拨开课本简略的文字才发现,这段传奇不能只用善良概括

回京历史梦
2026-10-02 08:35:16
如释重负,韩国亚运队多名球员赛后喜极而泣,主帅李敏成热泪盈眶

如释重负,韩国亚运队多名球员赛后喜极而泣,主帅李敏成热泪盈眶

懂球帝
2026-10-03 20:43:10
新华社评“中国男足0:5惨败”:令人震惊,战意不浓、作风松懈,抑或把比赛当成“例行公事”,不仅是对球迷的辜负,更是对国脚身份的亵渎

新华社评“中国男足0:5惨败”:令人震惊,战意不浓、作风松懈,抑或把比赛当成“例行公事”,不仅是对球迷的辜负,更是对国脚身份的亵渎

政知新媒体
2026-10-03 14:01:09
正式复出!陈梦重返赛场,首战对阵日本

正式复出!陈梦重返赛场,首战对阵日本

乒乓乐园
2026-10-04 08:03:36
韩国今天正式撤销检察厅!那个扳倒总统的机构,被连根拔了

韩国今天正式撤销检察厅!那个扳倒总统的机构,被连根拔了

墨子翟的日记y
2026-10-03 14:43:21
张展硕无缘亚运MVP遭打压?五人评选小组中国占两席包括乒乓名宿丁宁

张展硕无缘亚运MVP遭打压?五人评选小组中国占两席包括乒乓名宿丁宁

杨华评论
2026-10-03 23:59:06
独立调查|30多年不涨价,一年亏400多万元:这趟慢火车为什么还在开?

独立调查|30多年不涨价,一年亏400多万元:这趟慢火车为什么还在开?

大众网
2026-10-04 10:23:20
打脸业内!小沈阳夫妇自掏5000万拍电影,从炮灰逆袭成国庆档黑马

打脸业内!小沈阳夫妇自掏5000万拍电影,从炮灰逆袭成国庆档黑马

电和影
2026-10-03 23:18:09
女选手晒马拉松个人最好成绩,称“前15km跑得很舒服”,结果被拍到坐自行车比赛!当事人凌晨道歉

女选手晒马拉松个人最好成绩,称“前15km跑得很舒服”,结果被拍到坐自行车比赛!当事人凌晨道歉

南方都市报
2026-10-03 15:32:29
邵佳一,赛后让队内年纪最小的赵松源接受采访,我们还TM要不要脸

邵佳一,赛后让队内年纪最小的赵松源接受采访,我们还TM要不要脸

中场阴谋家
2026-10-03 14:33:09
四川巴中一新娘在婚礼前一天,开窗准备收袜子时不幸被马蜂蜇伤嘴唇,唇部明显肿胀,自嘲仿佛“蛤蟆精”

四川巴中一新娘在婚礼前一天,开窗准备收袜子时不幸被马蜂蜇伤嘴唇,唇部明显肿胀,自嘲仿佛“蛤蟆精”

潇湘晨报
2026-10-03 14:52:08
2026-10-04 13:47:00
比比超
比比超
一个产品人の观察,深耕AI&出海全球化。 公众号:比比超
145文章数 4关注度
往期回顾 全部

科技要闻

苹果确认:iPhone 18 Pro Max有问题

头条要闻

中国籍夫妻在澳洲因车祸去世 朋友:两人新房即将完工

头条要闻

中国籍夫妻在澳洲因车祸去世 朋友:两人新房即将完工

体育要闻

“小将”吴曦,中国的莫德里奇

娱乐要闻

杨议没料到,郭德纲如今仍是一呼百应

财经要闻

OpenAI前安全部门员工:公司文化已崩坏

汽车要闻

方程豹9月热销破4万 首款皮卡鲨鱼将于四季度上市

态度原创

房产
教育
健康
游戏
时尚

房产要闻

保利大爆发,冲到榜一!海南楼市前三季度,热销榜出炉!

教育要闻

这题可以再连一条对角线,利用等腰三角形原理求解

刷酸祛痘,为什么有人翻车?

《战争机器》也干了?被批演员好看 游戏故意做丑

秋天衣服不用买很多很贵,这几件衬衫准备好,简约百搭又不挑年纪

无障碍浏览 进入关怀版