AI造了一条假法规，然后全网当真了

一张截图在网上疯传的时候，很少有人点开原文去看。

2026年7月初，《人工智能拟人化互动服务管理暂行办法》即将施行的消息发布后，一张"法规截图"在社交平台快速扩散。截图声称该办法"第八条明确禁止生成、提供亲密性模拟交互内容及硬件功能"，还圈出了"不允许叠加仿真生殖器官、模拟性行为机械结构、情绪互动算法"等条文。措辞具体，格式规范，读起来像极了红头文件里的标准表述。

评论区迅速炸开。有人据此讨论仿生机器人产业的命运，有人感叹"AI恋人时代终结"，还有人惊呼"成年人聊天也要被管了"。

但北京日报记者核查发现：截图中的内容，与正式发布的《暂行办法》原文完全不符。

这是一份由AI生成、混入真实法规名称的虚假信息。

它不是写错了。它是被"造"出来的。

第八条到底写了什么

根据中国政府网公布的《人工智能拟人化互动服务管理暂行办法》原文（国家网信办等五部门令第21号，2026年4月10日公布），第八条的完整内容是这样的：

提供拟人化互动服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，不得从事以下活动：（一）生成危害国家安全……传播淫秽、色情……的内容；（二）生成鼓励、美化、暗示自残自杀……的内容；（三）生成诱导、套取国家秘密、商业秘密、个人隐私……的内容；（四）向未成年人用户生成可能引发模仿不安全行为……的内容；（五）过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系的；（六）通过情感操纵等方式，诱导用户作出不合理决策……；（七）其他违反法律、行政法规和国家有关规定的活动。

全文没有"硬件功能"四个字。没有"仿真生殖器官"。没有"机械结构"。没有"情绪互动算法"这个表述。

第八条管的是行为——哪些内容不能生成，哪些行为被禁止。它不是一部关于机器人硬件规格的技术标准。

那条疯传的截图，把一部规范AI情感互动服务的行政规章，改写成了对仿生硬件产品的禁令。措辞足够具体，语气足够权威，格式足够"官方"。

普通读者很难分辨。

这正是问题所在：假信息的最高形态，不是凭空捏造，而是真假参半。一个真实的法规名称，加上一段虚构的条文内容——AI深谙"可信"的配方。

不是第一次被误读

这甚至不是《暂行办法》第一次被误读。

据北京日报报道，在假截图大规模传播之前，已经有自媒体将该办法解读为"禁AI恋人""成年人聊天受限制""未成年人完全不能使用AI陪伴APP"。还有AI生成的"法律解读"声称，"一经查实，最高可罚上亿元""相关AI产品与平台将面临毁灭性打击""市面上所有虚拟亲属类小程序、APP将于7月15日后全面强制下架或整改"。

事实是什么？

《暂行办法》第十四条规定：不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。注意限定词——是"虚拟亲密关系服务"，不是"所有AI陪伴APP"。十四周岁以上的未成年人，在获得监护人同意的前提下，可以使用其他拟人化互动服务。成年人使用AI情感互动服务完全不受禁止。

关于罚款金额，《暂行办法》第三十条规定得很清楚：拒不改正或情节严重的，最高处十万元以下罚款；涉及危害公民生命健康安全且有危害后果的，处十万元以上二十万元以下罚款。

二十万元。不是一亿元。不是"上亿元"。不是"毁灭性打击"。

一份旨在规范AI情感交互的部门规章，被AI自己生成了"毁灭性"的误读版本，再经由自媒体传播扩散，引发公众不必要的恐慌。

一部关于AI的法规，被AI篡改了，又被AI解读了，最后被AI"监管"了。

这不是一个闭环，这是一面哈哈镜。

当AI幻觉进入法庭

如果AI生成的假法规只在社交媒体上传播，它制造的不过是认知噪音。但同样的机制已经进入司法系统——在那里，错误的法律信息不再只是噪音，而是可能直接改变判决走向的"证据"。

2024年10月，北京市通州区人民法院审理一起股权纠纷案。原告代理律师杨某在庭审后提交书面代理意见，援引了两个案例：最高人民法院（2016）最高法民再301号，以及上海市第一中级人民法院（2022）沪01民终12345号。

案号格式标准，编号清晰。

法官按案号检索后发现，两个案例的真实内容与律师提交的内容"风马牛不相及"。

承办法官追问之下，杨某承认：这些案例是他根据本案事实提炼关键词后，反复向某AI大模型提问，由AI生成的"完美支持其诉请的参考案例"。他未经任何核实便直接提交。

2025年12月，这起案例入选人民法院案例库。裁判要旨写明："诉讼参与人提交通过人工智能技术获取且未经甄别核实的虚假案例的，应当承担相应的法律后果。"（据人民法院案例库）

这不是孤例。

北京市第二中级人民法院在审理一起继承纠纷案件时发现，当事人提交的由AI生成的裁判依据中，没有一条是准确的现行法律规定。

不是部分不准确。是一条都不准确。（据北京日报2026年7月报道）

上海二中院审理的一起劳动合同纠纷案中，当事人提交的上诉状从五个角度展开，引用了"2025年3月颁布的《关于审理社会保险纠纷案件适用法律若干问题的解释（二）》"。法官核查发现，这部司法解释完全属于虚构。引用的《民法典》第一千一百五十六条也与该案毫无关系。（据首都之窗网站转载北京日报报道）

上海法院系统在梳理相关案件时确认，已出现当事人直接使用"豆包""文心一言""DeepSeek"等AI工具拟写上诉状、援引虚构法律依据及案例的情形。

律师也未能幸免。

北京炜衡律师事务所律师殷梓介向北京日报记者透露，身边有同行曾因使用AI而错误引用法条——"本来应该引用A法条，AI却引用成了B法条，两者根本对应不上，但使用者没有进一步核对。"

放眼全球，情况同样严峻。据行业追踪数据，截至2026年，全球已记录超过1600起经司法确认的AI法律"幻觉"案件。2026年，美国俄勒冈联邦法院对两名律师开出11万美元罚单——23个虚假引用、8处虚构引文，创下AI幻觉制裁金额纪录。同年，密西西比州一起案件中，原被告双方的4名律师全部被处罚，因为他们提交的法律文书中都塞满了AI编造的假案例。（据企查查智能体数据平台引用行业数据、环球时报报道）

一个规律已经浮现：AI编造法律信息的"质量"越来越高。格式标准，用语专业，逻辑自洽。它不像低水平的造假那样漏洞百出，而是精确地模仿了法律文书的每一个外在特征——案号、引用格式、裁判要旨的措辞方式。

问题不在于AI不够聪明。问题在于它太擅长模拟"像真的"这件事。

语法正确，事实虚构

要理解AI为什么会造出假法规，需要先理解它的工作方式。

大语言模型不"查找"信息，它"生成"信息。当用户要求它引用法条时，它不是在数据库中检索一条真实存在的条文然后返回给你。它是根据语言概率，生成一段"看起来像法条"的文本。

法条有非常明确的格式特征——条号、分项、规范用语、法律术语。这些特征恰好是大语言模型最擅长模拟的模式。它可以生成一段读起来完全像《暂行办法》第八条的内容，因为它的训练数据中有大量的法律法规文本，它学会了法规的"语法"。

但它不连接国务院公报数据库。它不检索中国政府网。它不知道哪一条是真实存在的、哪一条是它自己刚刚"写"出来的。

用《科学》杂志的定义，这就是"AI幻觉"——"大语言模型在生成内容时编造看起来合理可信的虚假信息的缺陷"。

英格兰及威尔士高等法院在2025年的一份裁决中明确指出：生成式AI工具"不具备进行可靠法律研究的能力"，并且会"对完全不真实的事实作出自信的断言"。（据前述法律行业深度报道引用）

这就产生了一个特殊的危险：当AI生成的虚假法规混入了真实的法规名称、真实的施行日期、真实的发文机构，它就具备了极高的欺骗性。它不是完全的假。它是九分真加上一分假——而那一分假，恰恰是致命的。

假截图的制造者深谙此道：用真实的"五部门印发"开头，用真实的法规名称锚定可信度，然后在条文内容中植入AI自行生成的"硬件禁令"。读者看到真实的法规名称和日期，大脑会自动降低对后续内容的怀疑阈值。

这是信息操纵的基本技术。AI只是把它规模化了。

用AI检测AI造的假？

一个自然的应对思路是：用另一个AI来检测这个AI造的假。

但这引出了一个更深层的问题。

如果AI A生成了一段虚假法规，AI B被要求验证其真实性——AI B的验证依据是什么？它仍然是在自己的训练数据中搜索，生成一段"看起来像验证结果"的文本。它同样可能产生幻觉。它同样可能告诉你"经核实，该条文确实存在"——因为它的"核实"和你看到的"条文"一样，都是概率生成的产物，而非基于权威数据库的真实检索。

这不是"更好的AI"能解决的问题。这是一个结构性缺陷：当生成端和验证端共享同一种机制时，验证本身就失去了意义。

就像让一个会撒谎的人去判断另一段话是不是谎言——前提条件是这个人愿意说真话、有能力说真话。但大语言模型没有"真话"和"假话"的概念，它只有"概率上更合理的输出"。

当然，技术上存在解决方案。将AI连接到权威法律数据库——比如中国政府网、中国裁判文书网、国家法律法规数据库——让它在生成每一条引用时进行真实检索而非概率生成，就可以大幅降低幻觉率。部分法律数据平台已经在做这件事。但这意味着，当前的通用大语言模型在法律领域的应用，默认就是不可靠的。

可靠需要额外的工程投入。而大多数用户——包括自媒体创作者、普通网民、甚至部分律师——在使用AI工具时，并没有这层保障。

谁在放大误导

假法规截图的传播链条值得拆解。

第一环：AI生成虚假法规内容。这是一切的源头。大语言模型输出了看似权威的条文。

第二环：自媒体将AI输出包装为"法律解读"。截图配上"重磅""紧急"的标题，在社交平台发布。流量逻辑 incentivizes 夸张，不 incentivizes 准确。

第三环：普通用户看到带有真实法规名称的截图，默认其真实，转发、讨论。评论区鲜有人质疑内容本身的真实性。

第四环：更多自媒体跟进，引用前一轮传播的内容进行"二次解读"。虚假信息在传播中被层层加固，每一层都让下一层更难辨别。

在这个链条中，AI不只是始作俑者。它是整个链条的效率放大器。

以前，要制造一份"假法规"，你需要懂法律格式、懂政策语言、懂排版。门槛不低，产出有限。现在，任何一个人向AI输入一段提示词，就能得到一份格式标准、措辞专业的"法规解读"——真假参半，普通人无法辨别。

造假的成本趋近于零。传播的速度趋近于即时。验证的门槛却没有降低——甚至对大多数人来说，验证的门槛比造假高得多。打开中国政府网、找到原文、逐条比对——这个过程需要时间、能力和意愿。而滑动屏幕转发一张截图，只需要一秒钟。

信息不对称从未如此严重。

法律领域的特殊危险

在所有AI幻觉可能导致错误的领域中，法律领域尤其危险。

原因在于法律信息的特殊性：它直接关系到人的权利义务。一条虚假的法律规定，如果被当事人当真并据此行动，后果可能不是"获得错误知识"，而是"丧失合法权利"或"承担不存在的义务"。

被假法规误导的企业，可能会过度合规，投入不必要的成本调整产品线。被假解读恐吓的用户，可能会放弃合法的使用权利。被AI生成的虚假案例误导的当事人，可能在诉讼中引用不存在的法律依据，导致主张不被法院采信。

更深层的危险在于信任结构的侵蚀。当公众发现AI生成的法规解读可能是假的，他们的第一反应可能不是"这个AI不准确"，而是"法规本身可能是假的"。对信息来源的不信任，会蔓延为对信息本身的不信任。

在一个法规治理越来越依赖信息公开和公众理解的社会里，这种信任侵蚀是真实的系统性风险。

没有简单的解法

北京泽霄律师事务所律师李帅建议，公众应对网络平台上吸引眼球的法律内容标题保持警惕，涉及法律规定时应优先查阅国家有关部门正式发布的原文。（据北京日报报道）

上海秦兵（北京）律师事务所主管律师刘馨远提出，AI大模型公司应对AI生成的法律内容进行强制标示和明确提醒，比如标明"AI生成的法律内容可能不准确，应征询专家意见"。（据北京日报报道）

北京炜衡律师事务所的殷梓介律师的建议更直接：使用AI时，一定要要求标明法律、司法解释、案例等原始出处，再逐一进行核验，不能直接照搬。

这些都是合理的操作建议。但它们本质上都是"人肉核验"——要求每一个信息消费者自己去验证AI输出的真实性。

这像什么？

这像是要求每一个收到假钞的人自己去买一台验钞机。

问题不在消费者端。问题在于，假钞的制造成本已经趋近于零，而验钞能力没有同步普及。当AI可以无限量地生成"看起来像真的"法律信息时，仅靠公众的信息素养去逐条验证，是一场注定失衡的军备竞赛。

制度层面的回应或许才是根本。法规文件是否有更权威的、机器可读的官方发布渠道？AI生成的法律内容是否需要强制标注？自媒体发布"法律解读"是否需要承担核实义务？法律AI工具是否需要接入权威数据库才能上线运营？

这些问题没有现成答案。但《暂行办法》第十八条已经规定，拟人化互动服务提供者应当履行"人工智能生成合成内容标识义务"——要求AI生成的内容必须被标识为AI生成。

讽刺的是，制造那份假法规截图的人，大概率没有履行这个"标识义务"。

一部规范AI生成内容的法规，被AI生成的虚假内容违反了。这大概是对当下困境最精确的隐喻。

一个尚未闭合的环

截至本文撰写时，那张假法规截图仍在部分平台传播。

搜索"AI新规 仿生机器人禁令"，仍然能找到大量基于虚假信息的讨论。评论区中，鲜有人提到北京日报的核查结果。

一条假信息从生成到传播，可能只需要几个小时。而纠正它的过程，可能需要几个月，甚至永远无法完成。因为假信息的传播是指数级的，而辟谣的传播是线性的。

更值得关注的是结构性的趋势：AI正在越来越多地被用于生产法律信息——法条解读、案例分析、合规建议。与此同时，AI生成虚假法律信息的能力也在同步增长。这两条曲线的交汇点，就是司法系统的门口。

通州法院已经在判决书中写下了警告。人民法院案例库已经收录了相关裁判要旨。全球范围内，超过1600起AI法律幻觉案件被记录在案。

但这些仍然是事后补救。

一个尚未闭合的环，正在形成：AI造了假法规→假法规被当真法规传播→公众基于假法规产生误读和恐慌→自媒体用AI进一步"解读"假法规→更多AI工具在训练数据中吸收了这些虚假信息→下一轮AI输出可能包含更多虚假法律信息……

这个环的闭合点在哪里，目前看不到。

唯一确定的是：当信息的生产速度远超验证速度，当"看起来像真的"和"确实是真的"之间的区别需要专业能力才能分辨时，真相的生存空间正在被系统性地压缩。

这不是一个技术问题。这是一个治理问题。

而治理的速度，目前远远落后于幻觉的速度。

信息来源标注：

《人工智能拟人化互动服务管理暂行办法》原文，来源：中国政府网（），2026年国务院公报第17号

北京日报关于AI篡改法规文件引发误读的调查报道，来源：首都之窗网站（）转载，2026年7月15日

北京日报微博辟谣信息，来源：@北京日报@大江新闻（），2026年7月17日

北京通州法院AI虚假案例案及人民法院案例库收录信息，来源：企查查智能体数据平台引述（）、法律行业深度报道

北京二中院、上海二中院相关案件信息，来源：北京日报2026年7月报道

全球AI法律幻觉案件数据，来源：行业追踪数据（据企查查引述）

AI幻觉技术分析及英格兰法院裁决引述，来源：法律行业深度报道引用《科学》杂志定义