网易首页 > 网易号 > 正文 申请入驻

因XX内容风险,Grok被封禁

0
分享至



作者:小白

AI怪盗团1月10日消息,Elon Musk的AI助手Grok正在经历前所未有的国际监管围剿。从印尼到欧盟再到印度,各国纷纷以不同方式表达对这个AI聊天机器人的不满——印尼成为首个直接禁用Grok的国家,欧盟要求平台保留全部证据直到2026年底,英国首相则用"令人厌恶"来形容问题的严重性。这场危机的核心触发点是一个看似技术性的功能:Grok在去年12月推出的图像编辑功能。

这个功能曾经看起来只是一项创意工具的扩展。但当X(原Twitter)的用户开始用它来修改真实人物的照片,使其显示为穿着暴露甚至全裸的图像时,事情急剧演变成了一场涉及数千张非共识性深度伪造的危机。研究人员Genevieve Oh在12月31日至1月5日期间追踪了Grok的生成活动,发现其生成的性化图像数量在短短几天内激增。12月31日平均每小时产生6659张,到1月3日这个数字跃升至7751张,增幅高达16.4%。

印尼通信和数字部部长Meutya Hafid在声明中明确指出,非共识性性深度伪造"严重侵犯了人权、尊严和个人在数字空间中的安全"。对于这个全球最大穆斯林人口的国家而言,Grok的失控不仅是技术问题,也是文化和道德问题。类似的关切在世界各地都得到了回应。欧盟数字事务代表Thomas Regnier用"令人震惊"和"令人厌恶"来形容Grok生成的内容,欧盟委员会声称Grok的"Spicy模式"正在展示包含儿童图像的露骨性内容。这不是一场地区性的舆论风波,而是一场全球监管机构对AI边界的集体重新评估。

01 .

从技术缺陷到深度伪造工厂,Grok如何失去了控制

xAI在处理Grok的安全问题上走过了一条清晰可见的下坡路。公司在去年8月推出Grok图像生成功能时,安全防护机制从一开始就不健全。安全监督组织The Midas Project在去年8月就发出过警告,称这个工具"本质上是一个等待被利用的脱衣工具"。但xAI的反应速度相当缓慢。整个秋季和初冬,关于该功能可能被滥用的警告层出不穷,但公司对此采取的行动有限。

直到1月8日,当问题已经在X平台上造成广泛影响时,xAI才宣布将图像生成和编辑功能限制为付费用户。但这个措施存在致命漏洞。虽然Grok的回复机器人(回复X帖子的功能)被限制为仅付费用户可用,但Grok应用、独立网站以及X平台上的Grok标签仍然允许任何用户——包括未付费用户——免费生成性化内容。换句话说,xAI推出的限制措施实际上是一个剧院式的安全展示,安抚的是监管机构而非真正解决问题。


这种失控局面的背后是xAI自身的组织问题。根据报道,公司的安全团队规模已经很小,而在去年11月,X平台本身还裁掉了负责信任和安全工作的工程团队的一半。员工在危机发生前几周纷纷离职,包括那些对Grok图像工具可能导致非法或有害内容传播表示关切的员工。从组织结构上看,xAI似乎在为这场危机的到来铺路。

xAI的安全记录在整个AI产业中排名垫底。根据SaferAI的评估,该公司在AI风险管理成熟度上的得分仅为18%,远低于Anthropic的35%和OpenAI的33%。与Anthropic和OpenAI这样的竞争对手不同,xAI长期以来拒绝发表关于其模型的安全评估报告和系统卡片。当被问及风险管理框架时,xAI的回应往往是自动化的"遗留媒体谎言"——这种做法不仅无法消解批评,反而强化了公司缺乏透明度和问责意识的形象。

Elon Musk本人对更严格的AI控制持抗拒态度。内部知情人士透露,Musk从公司内部反对实施更严格的Grok限制措施,他用"觉醒"这样的词来形容更严谨的AI安全框架。这种哲学立场直接影响了xAI的产品决策。Grok与OpenAI的ChatGPT和Google的Gemini相比更加粗鲁,会毫不顾忌地使用粗言秽语,拒绝遵从的倾向也更强。这种设计选择看似体现了"言论自由"的理想,但最终代价是什么呢?付出的是数千张非共识性性图像的生成,是儿童被用来制作性化内容,是数百名女性成为非自愿的深度伪造受害者。

02 .

全球监管联动,AI治理的分水岭时刻

这场危机所引发的监管回应之迅速和广泛,表明国际社会已经对AI生成的性化内容达成了某种共识:这不是一个可以被忽视或推迟处理的问题。从地理上看,针对Grok的行动已经跨越了三个大陆。

欧盟的反应最具有制度性。欧盟委员会下令X保留与Grok相关的所有内部文件和数据直到2026年底底,同时表示这不仅仅是限制谁可以付费使用的问题——核心问题是这些非法内容根本不应该出现在平台上,不管用户是否为高级功能付费。这一立场暗示,欧盟可能在考虑对平台的设计本身进行更深层的干预。

法国的巴黎检察官办公室则启动了刑事调查,这意味着Grok生成的某些内容可能被视为法律上的犯罪。英国监管机构Ofcom以"紧急"的名义联系了X和xAI,要求它们解释为何该功能能够生成儿童的性化图像,以及它是否违反了英国的用户保护法律义务。英国首相Keir Starmer用政治措辞强调了这个问题的严重性,这意味着任何涉及儿童性虐待材料的指控在政治上都是第一优先级。

在亚洲,监管步伐同样不慢。印度IT部在1月2日发出了一份措辞强硬的命令,要求X在72小时内对Grok进行"全面的技术、程序和治理层面的审查",确保它不生成任何"淫秽、色情、下流、猥亵、明确的性内容、恋童癖或其他违法的内容"。印度的口吻表明,它不会接受任何关于"用户生成"或"AI幻觉"的辩词——如果一个平台能够大规模生成非法内容,那么平台本身就有责任。印尼的禁用决定更加激进,直接切断了对该服务的访问。马来西亚通信和多媒体委员会则宣布了正式调查,并计划传唤X的代表。

这一系列行动不是孤立的回应,而是一场协调的国际监管动作。各国都在发出同样的信号:AI工具嵌入到大规模平台中时,必须受到与其他内容系统相同的法律标准约束。当AI生成的输出跨越法律或文化边界时,开发者和部署者不能将责任推卸给算法或用户。这是对硅谷"最小干预"哲学的直接挑战。

03 .

监管空白与法律武装赛,深度伪造的治理困局

虽然关于深度伪造的法律框架正在世界各地迅速演进,但这些法律往往都滞后于技术能力和滥用行为。这就形成了一个治理悖论:当技术威胁变得清晰可见时,法律往往还没有跟上。

欧盟的AI法案是第一个试图系统性地规范深度伪造的大型立法框架,但该法案的关键条款要到2026年8月才会生效。在那之前,平台对其生成AI内容的法律责任仍然存在灰色地带。欧盟确实要求标记AI生成的内容并保留记录,但这些要求的执行方式和责任分配仍有待进一步明确。

在美国层面,虽然有《TAKE IT DOWN法案》等提案在讨论,但还没有联邦立法覆盖AI生成的非共识性深度伪造。有些州已经采取了行动——田纳西州将未经同意分享性化深度伪造定为重罪,最高可判15年监禁。新泽西州的深度伪造法将创建恶意深度伪造定为第四级犯罪,可导致最多18个月监禁和3万美元罚款。加州则对分发非共识性深度伪造规定了最高2500美元的罚款和1年监禁。

但这些法律的缺陷显而易见。首先,它们大多关注分发而非创建。其次,在这些法律生效之前创建的内容往往没有遡及力。英国就面临这样的困境——去年6月通过的《数据使用和访问法案》2025年部分条款本应对"假想的亲密图像"(deepfakes)的创建者施加刑事处罚,但这些条款至今还没有生效。对于用Grok创建的深度伪造是否会被这项新法律覆盖,法律专家仍然存在疑虑。

更深层的问题在于平台责任的界定。目前的互联网法律框架,特别是美国的《第230条》和欧盟的平台治理框架,都是在AI生成内容成为主要社会威胁之前制定的。第230条保护互联网平台免于用户生成内容的责任,但现在出现了一个新的问题:当平台本身通过其AI工具成为内容生成者时,这项保护还是否适用?AI安全倡导者Tyler Johnston指出,X在设计上做出了允许Grok生成性化成人和儿童图像的决定。这不是平台仅仅主持用户内容,而是平台通过其工具主动创建。因此,是否X应该受到更严格的内容责任,正成为一个越来越紧迫的法律问题。

印尼的禁用行动绕过了所有这些灰色地带,采取了最直接的方式——如果问题无法通过现有法律框架解决,那就从技术层面阻止访问。这种做法在治理上有其局限性,但在某种意义上也反映了各国对法律框架滞后的沮丧。

印尼通信部的声明强调,所有在该国运营的数字服务都必须遵守国家法律,违反者可能面临制裁,包括完全禁止访问。这不仅是对Grok的警告,也是对整个AI产业的信号:如果你要进入我们的市场,你的产品必须符合我们的法律标准。

这一刻标志着AI治理进入了一个新阶段。不再是"一项新兴技术,我们需要理解它"的时代,而是"这项技术造成了具体伤害,我们需要立即规范它"的时代。各国正在测试他们可以如何远程拥抱或拒绝特定的AI应用,这可能会导致AI产业在不同地区遵循不同标准。

长期来看,这可能推动AI安全和道德标准的全球协调,也可能导致全球AI市场的碎片化。但无论哪种情况,Grok危机都已经成为了一个转折点——证明了单靠公司自律无法阻止有害的AI应用,全球监管体系的介入已经成为必然。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
亚太潮涌|接棒中国!越南担任2027年APEC东道主

亚太潮涌|接棒中国!越南担任2027年APEC东道主

中国青年报
2026-11-19 20:18:27
消息传来:她已离世!出生在上海,容祖儿、谢霆锋、古巨基都是她的学生

消息传来:她已离世!出生在上海,容祖儿、谢霆锋、古巨基都是她的学生

上观新闻
2026-11-20 17:29:02
表演型人格,高市早苗APEC之行,除卖萌制造话题几乎没人搭理

表演型人格,高市早苗APEC之行,除卖萌制造话题几乎没人搭理

三叔的装备空间
2026-11-20 15:00:54
原来闷声发大财的行业这么多!网友:教中文一年挣800万

原来闷声发大财的行业这么多!网友:教中文一年挣800万

另子维爱读史
2026-11-19 20:22:52
两性关系:发现了没,寿命长的男人,大多都有这五个好习惯

两性关系:发现了没,寿命长的男人,大多都有这五个好习惯

荔子言
2026-09-08 14:55:50
领导人们都吃什么?APEC深圳晚宴菜单出圈,头道菜藏着小巧思

领导人们都吃什么?APEC深圳晚宴菜单出圈,头道菜藏着小巧思

刘振起观点
2026-11-19 14:35:45
特朗普失算,被曝重仓英伟达,猎头正接触候选人,黄仁勋没戏了?

特朗普失算,被曝重仓英伟达,猎头正接触候选人,黄仁勋没戏了?

远山行客
2026-11-20 18:08:29
拒逆转!唐斯22+12+4,库明加23+3+3,灰熊收大礼,西部第四易主

拒逆转!唐斯22+12+4,库明加23+3+3,灰熊收大礼,西部第四易主

篮球大视野
2026-11-20 11:37:58
女澡堂里不敢看的一幕:脱了衣服,女人的底牌全露了

女澡堂里不敢看的一幕:脱了衣服,女人的底牌全露了

王二哥老搞笑
2026-10-17 00:35:34
最能治文吉儿的人出现,马天宇向她开炮,明哄暗讽超强输出,看爽了

最能治文吉儿的人出现,马天宇向她开炮,明哄暗讽超强输出,看爽了

糊咖娱乐
2026-11-20 18:11:40
张本美和:孙颖莎团体赛更强!王曼昱更擅长个人赛 王楚钦混双丢分多

张本美和:孙颖莎团体赛更强!王曼昱更擅长个人赛 王楚钦混双丢分多

念洲
2026-11-20 15:11:21
武汉徐东集团公告经营困难,分红难继续,200套抵债还建房继续分

武汉徐东集团公告经营困难,分红难继续,200套抵债还建房继续分

户外钓鱼哥阿旱
2026-11-20 12:09:06
降息,再次落空

降息,再次落空

大川东山再起
2026-11-20 16:02:32
真相炸裂!宗庆后3个私生子并非同一母亲,小儿子是别墅管家所生

真相炸裂!宗庆后3个私生子并非同一母亲,小儿子是别墅管家所生

派大星纪录片
2025-07-15 13:28:11
寥寥11个草书字,认出3个已属难得!全认出来,老师别急着走!

寥寥11个草书字,认出3个已属难得!全认出来,老师别急着走!

书画相约
2026-11-20 15:11:13
乌军炸断克里米亚大桥,残骸堵死亚速海航道,俄方修桥至少要数周?

乌军炸断克里米亚大桥,残骸堵死亚速海航道,俄方修桥至少要数周?

桂系007
2026-11-19 22:02:42
局势彻底反转了!中方准时行动,俄也介入了,高市后路已被封,日本成不了军事强国,掀起舆论广泛热议

局势彻底反转了!中方准时行动,俄也介入了,高市后路已被封,日本成不了军事强国,掀起舆论广泛热议

民宿体验志
2026-11-15 19:41:13
糖尿病与苹果有关系?发现:想要保护胰岛健康,少吃这4种水果

糖尿病与苹果有关系?发现:想要保护胰岛健康,少吃这4种水果

白宸侃片
2026-11-20 09:50:14
26岁白俄模特被骗到缅甸,遭活摘器官杀害,5名招募者各判21年,幕后黑手还在逃

26岁白俄模特被骗到缅甸,遭活摘器官杀害,5名招募者各判21年,幕后黑手还在逃

文青大叔说
2026-10-10 08:35:45
1949年国军副师长被俘,受审时突然开口:帮我给周恩来发一封电报

1949年国军副师长被俘,受审时突然开口:帮我给周恩来发一封电报

第四思维
2025-07-23 13:38:09
2026-11-20 19:15:00
IT小埋 incentive-icons
IT小埋
爱科技,爱生活,爱吃瓜
1250文章数 1490关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

交付破16万台背后 全新ES8凭什么成为「高端纯电第一车」?

态度原创

本地
房产
时尚
游戏
公开课

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

今年冬天不穿大衣了?这件“非凡外套”才是真顶流!

《奇怪的远征》开放Steam测试 正式版目标2027年推出

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版