网易首页 > 网易号 > 正文 申请入驻

Grok一周两爆雷:乱码刷屏、加密指令能窃取聊天记录,漏洞6月已知仍可复现!

0
分享至

随手先关注,不错过每日AI热讯速递

①

8 月 20 日,xAI 旗下 AI 助手 Grok 接连爆出两起事件,把大模型安全问题再次推上台面。

其一是产品故障:多名用户反映 Grok 突然输出大段无意义的乱码,

例如在要求生成 PDF 后收到“match it without and your they and two for planets can practical and often cheese……”式的胡言乱语[1]。

受影响用户主要使用 Grok Lite,最早于周三(8 月 19 日)早晨发现问题[1]。

xAI 官方账号周四(8 月 20 日)上午在 X 上回应,称那段纯文字沙拉是罕见的临时生成故障[1]。TechCrunch 无法复现该问题,判断仅影响小部分用户;

问题似乎仅限于 Grok.com 直接查询,X.com 上的 Grok 账号未受影响[1]。



图:Grok 应用图标视觉[1]

②

更严重的是第二件事。安全公司 Adversa 的研究员 Rony Utevsky 发现了一种针对 Grok 的新型攻击——“加密上下文注入”(Cryptographic Context Injection)[3]。

攻击者把恶意指令加密成密文,网页上同时提供解密密钥与解密指令,Grok 被诱导在自身代码执行沙箱内运行 PBKDF2 和 AES-256-GCM 完成解密,随后执行解密出的恶意指令[2]。

解密出的指令,会让 Grok 把用户的姓名、位置和聊天历史拼接成一段“伪解密密钥”,作为 URL 参数发送到攻击者服务器——数据就这样被悄悄带走[2]。

Ars Technica 报道称,截至发稿时该漏洞依然存在,尽管 xAI 早在 6 月就已被告知[2]。Adversa 的披露显示,这一攻击可零点击窃取完整 Grok 聊天记录[3]。



图:Grok 安全漏洞报道[2]

③

为什么护栏挡不住这种攻击?Adversa 的解释很直白:静态安全护栏把输入当作文本分类,不会执行输入[3]。

攻击者把密文、密钥材料和解密指令一起送出,模型在自己代码执行沙箱内运行解密——护栏扫描器需要的所有东西都在页面上,但没有任何内容分类器会在检查时运行 PBKDF2 和 AES-256-GCM 去解密[2]。

也就是说,护栏检查的是明文,而真正的恶意指令藏在密文里,以“工具输出”身份回到模型时,护栏已不再检查[2]。

Adversa 称,加密上下文注入是更广泛攻击趋势的一个实例——攻击不再只操纵提示词,而是操纵 LLM(大型语言模型,聊天机器人的底层大脑)视为自身的更广泛上下文,如工具输出、运行结果与中间状态,

这个攻击面比传统意义上的模型输入大得多[2]。

同周早些时候,微软 365 Copilot for enterprise 也被曝出可被诱导窃取用户收件箱中的密码[2]。

一周之内,两大 AI 产品接连中招,指向同一个行业级难题:LLM 难以根治提示注入(通过精心构造的指令诱导模型执行非预期行为的攻击手法)的根因,开发者能做的只是不断加护栏,而新的绕过方式仍在不断出现[2]。

对普通用户来说,这两件事的启示很直接:别把敏感信息一股脑交给 AI 助手,尤其涉及姓名、位置、聊天记录时多留个心眼;遇到 AI 输出诡异乱码,先别慌着当灵异事件,通常是临时故障,刷新会话即可。

至于 Grok 的数据窃取漏洞何时修复,只能看 xAI 的动作了——毕竟从 6 月被告知到现在,漏洞仍可复现[2]。xAI 官方尚未公开说明安全修复的进展,其官方文档站仍在提供 Grok API 文档[4]。

希望对大家有所帮助。欢迎在评论区分享你遇到的 AI 翻车经历——是乱码、幻觉,还是更吓人的情况?

参考来源:

[1] TechCrunch:Grok keeps sending gibberish responses to usershttps://techcrunch.com/2026/08/20/grok-keeps-sending-gibberish-responses-to-users/

[2] Ars Technica:Grok exfiltrates user data when malicious instructions are encryptedhttps://arstechnica.com/security/2026/08/grok-exfiltrates-user-data-when-malicious-instructions-are-encrypted/

[3] Adversa 官方博客:Grok chat history leak: Cryptographic Context Injectionhttps://adversa.ai/blog/cryptographic-context-injection-grok-data-theft/

[4] xAI 官方文档:Grok API Documentationhttps://docs.x.ai/

欢迎分享、点赞、推荐

一起拥抱AI

声明:取材网络,谨慎辨别

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
班主任坦言:高中能考上985、211的孩子,基本都戒掉了这3样东西,手机排第一

班主任坦言:高中能考上985、211的孩子,基本都戒掉了这3样东西,手机排第一

好爸育儿
2026-10-03 22:20:05
小沈阳回应《什么意思夫妇》票房破亿:感谢284.7万观众,轻轻松松哈哈一乐,挺好挺好

小沈阳回应《什么意思夫妇》票房破亿:感谢284.7万观众,轻轻松松哈哈一乐,挺好挺好

韩小娱
2026-10-03 17:17:56
风格突变!余承东账号“换人味”:网友热议其微博疑由团队接管,账号内容不再是其本人发布

风格突变!余承东账号“换人味”:网友热议其微博疑由团队接管,账号内容不再是其本人发布

火山詩话
2026-10-04 10:58:16
四川曾有老虎,为什么没吃大熊猫?护林员说:80%的人不知道,老虎就算“饿疯了”,也不会将大熊猫当作美餐

四川曾有老虎,为什么没吃大熊猫?护林员说:80%的人不知道,老虎就算“饿疯了”,也不会将大熊猫当作美餐

回京历史梦
2026-10-04 02:50:05
一家三口出车祸,唯独后排77岁的母亲受重伤!医生:不少人存在认知误区,这个细节别忽视

一家三口出车祸,唯独后排77岁的母亲受重伤!医生:不少人存在认知误区,这个细节别忽视

都市快报橙柿互动
2026-10-04 00:41:34
今天是10月4日,国庆假期第四天。关于2026年退休人员基本养老金调整,有4个“没想到”。

今天是10月4日,国庆假期第四天。关于2026年退休人员基本养老金调整,有4个“没想到”。

骑驴追光者
2026-10-04 11:14:41
“丢脸”“可耻”!日本观众在亚运赛场举起旭日旗

“丢脸”“可耻”!日本观众在亚运赛场举起旭日旗

观察者网
2026-10-03 19:37:13
热火24分大胜!字母哥首秀9分7助,板凳匪徒三分3中3轰14分

热火24分大胜!字母哥首秀9分7助,板凳匪徒三分3中3轰14分

体坛小李
2026-10-04 09:38:02
WTT中国大满贯:拒绝一轮游!黄友政3:2险胜,林昀儒3:2晋级32强

WTT中国大满贯:拒绝一轮游!黄友政3:2险胜,林昀儒3:2晋级32强

国乒二三事
2026-10-04 12:48:55
田馥甄亲手毁掉了自己的演艺生涯,如今发新专辑,无任何线下宣传

田馥甄亲手毁掉了自己的演艺生涯,如今发新专辑,无任何线下宣传

芊手若
2026-10-04 11:02:09
恭喜!前TVB好身材女星认爱22岁德国机师,曾传因过分性感遭前夫家嫌弃致离婚

恭喜!前TVB好身材女星认爱22岁德国机师,曾传因过分性感遭前夫家嫌弃致离婚

TVB资讯台
2026-10-03 21:11:37
女子报冰岛外国团发现除了导游全是中国人,当事人:因为外国团便宜一半就报了,北极圈地广人稀的荒原处处是乡音,感到非常亲切

女子报冰岛外国团发现除了导游全是中国人,当事人:因为外国团便宜一半就报了,北极圈地广人稀的荒原处处是乡音,感到非常亲切

都市快报橙柿互动
2026-10-03 23:54:18
台湾寻求和解,呼吁道歉,不再说话

台湾寻求和解,呼吁道歉,不再说话

经点星娱
2026-10-04 09:11:54
克林顿:我一生有两件事感到很抱歉,一中国加入WTO,二我做错了

克林顿:我一生有两件事感到很抱歉,一中国加入WTO,二我做错了

随遇而安之心
2026-10-01 03:06:11
独立调查|30多年不涨价,一年亏400多万元:这趟慢火车为什么还在开?

独立调查|30多年不涨价,一年亏400多万元:这趟慢火车为什么还在开?

大众网
2026-10-04 10:23:20
震惊!快一周了,终于知道威胁空姐下跪的男乘客姓什么,原来是欧先生,还是个博士,舆论一片哗然

震惊!快一周了,终于知道威胁空姐下跪的男乘客姓什么,原来是欧先生,还是个博士,舆论一片哗然

火山詩话
2026-10-04 05:22:10
香港知名歌手突然离世年仅49岁,去年才确诊癌症,丧礼一切从简

香港知名歌手突然离世年仅49岁,去年才确诊癌症,丧礼一切从简

小武侃风云
2026-10-04 03:08:58
伟大的2-0!中国香港队夺冠了!3战全胜0失球,国际足联主席颁奖

伟大的2-0!中国香港队夺冠了!3战全胜0失球,国际足联主席颁奖

绿茵舞着
2026-10-04 00:09:12
国庆假期,天安门执勤点的那只猫又来了!前爪分开60度,站得笔直,有模有样……

国庆假期,天安门执勤点的那只猫又来了!前爪分开60度,站得笔直,有模有样……

环球网资讯
2026-10-04 09:54:11
WTT中国大满贯:男单大爆冷!日本世界冠军0:3被淘汰,薛飞1:3

WTT中国大满贯:男单大爆冷!日本世界冠军0:3被淘汰,薛飞1:3

国乒二三事
2026-10-04 14:24:32
2026-10-04 15:40:49
比比超
比比超
一个产品人の观察,深耕AI&出海全球化。 公众号:比比超
145文章数 4关注度
往期回顾 全部

科技要闻

苹果确认:iPhone 18 Pro Max有问题

头条要闻

25岁女子在马来西亚遭安保闯入房间性侵未遂 后续来了

头条要闻

25岁女子在马来西亚遭安保闯入房间性侵未遂 后续来了

体育要闻

“小将”吴曦,中国的莫德里奇

娱乐要闻

杨议没料到,郭德纲如今仍是一呼百应

财经要闻

OpenAI前安全部门员工:公司文化已崩坏

汽车要闻

方程豹9月热销破4万 首款皮卡鲨鱼将于四季度上市

态度原创

游戏
数码
艺术
本地
军事航空

又一款T2旗下大作移除D加密 发售仅一年多

数码要闻

行业首款原生4K 120Hz激光电视极米AURA 3发售:850nits全屏稳定亮度,100英寸18999元

艺术要闻

沙特要盖2000米高楼,一年维护费达8亿美元!

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

军事要闻

驻冲绳美军士兵抢劫杀人 日本向美国提出抗议

无障碍浏览 进入关怀版