又一例：律师陷入AI幻觉，被法官当庭训诫

有的案号与对应案件信息无法匹配，有的案例事实与实际裁判文书内容不符，有的司法解释条文被篡改，还有部分引用内容无法找到真实来源。一问竟是AI生成的！

7月20日，湖北省宜昌市西陵区法院发布信息称，法官在审理一起“以非药品冒充药品”案中，发现代理律师提交的案例材料大部分为AI生成的不实案例。据此，承办法官当庭对该律师予以训诫。

案件审理中，代理律师为支持自己的诉讼请求，向法庭提交了一组案例材料作为参考依据。法官对相关案例当庭核查，发现其中多数案例存在明显异常。

例如，其中一份材料提供了相似案例，案件网址和案例均属实，但法官核实发现，其虚构裁判要旨，误导审判。

另一份材料提供了外省某地法院判决的相关案例，并附有案号和中国裁判文书网网址链接，法官在中国裁判文书网查询，并没有材料上的这个案号，案例属虚构。

还有一份材料，虽然案号是存在的，但案号对应的案例是一起帮信罪判决书，与材料里提供的案例毫无关系。

还有材料提供了最高法最高检的司法解释条款，法官对比发现，司法解释条文被篡改；还有的材料引用了国家相关部门的通知，却虚构文件的核心条款。

庭审中，法官指出相关材料存在的问题，并要求说明情况。律师称这些材料并非自己逐一整理，而是由助理借助AI工具收集汇总后形成，且在提交前未经全面核实。

法院认为，部分案例内容与实际情况不符，不具备参考价值。律师作为案件代理人，无论材料来源于助理整理，还是借助人工智能工具生成，对提交法庭的材料负有审查核实义务。最终，该律师因未尽到应有审查责任当庭受到训诫。

AI在法律领域的运用已经势不可挡，但其会提供虚假法律资料已经是公开的秘密

最近两年，人工智能AI技术的发展，在之前仅是资料搜索的基础上，越来越多发展出材料编辑、加工、分析的能力，其中的重要领域就包括法律行业。

网上，有人发布自己的事例称，自己并非法律科班出身，之前买了一盒普洱茶，回家发现是三无产品。商家不退货，市场监管部门罚了商家5000多元，但却对其要求的商家退货退款没有做出处理，建议另行解决。

于是，他向AI求助，得到的答复是，可以起诉，并直接帮其他列出打官司需要的，付款截图、实物照片、包装、市场监管处罚信息等证据材料，并列出了消费者权益保护法、食品安全法等法律根据，提示可以主张10倍赔偿。

根据以上材料，AI还给出了一份起诉状。材料提交给法院，按照法院规定的步骤，立案、开庭，结果一审赢了。对方不服，上诉到深圳中院，还请了律师。

他把对方上诉状发给AI，再把AI给出的反驳意见写进答辩状。二审维持了一审判决，自己没有请律师，法院也支持了1.7万多元。

今年4月1日，“深圳特区报”报道称，深圳法院人工智能辅助审判系统已全面覆盖民事、行政、刑事诉讼，立案、阅卷、庭审、文书制作等审判业务的四大环节85项流程，实现人工智能全链条赋能。

报道中，深圳中院一位法官表示：“系统就像是给每个法官配备了24小时工作的数字助手，很多难点、痛点、耗时多的任务都可以由它提供辅助。”在深圳中院审理的一起合同纠纷案件中，系统自动匹配推送了23个类似案例，将庭审准备时间从以往的3天缩短至1天，同时确保了裁判标准的统一性。

可见，法律领域的人工智能，不仅社会大众在用，法律专业人士的律师、法官也都在用。

7月17日到20日在上海召开的世界人工智能大会上，公开资料显示，众多厂商推出了多款法律AI产品。科大讯飞副总裁、星火晓法（上海）科技有限公司总经理雍文渊介绍：

展望未来，法官、检察官、律师、企业法务乃至普通民众，都会拥有专属AI法务助理；法律服务持续下沉普惠，AI降低服务门槛，覆盖租房纠纷、邻里侵权等日常法律需求；AI补足涉外法律人才供给短板，支撑跨国并购、跨境投融资等高阶涉外业务。

不过，AI幻觉话题，也成了世界人工智能大会绕不开的话题。此前北京通州法院入选全国法院案例库的判例就显示，有律师直接把 AI 生成的虚假案例提交法院，被法官白纸黑字写进判决书批评教育。

近日，一篇《AI判定我持有假记者证》的文章在媒体圈刷屏。一位拥有国家新闻出版署核发记者证的记者，将证件发给采访对象后，对方认为记者证是伪造的。后者给出的理由是，一大段条理分明的文字，并称系来自AI判断。

近日，还有媒体报道，近期多地曝出有市民用AI识图功能判断野生菌有没有毒，最终误食有毒菌而中毒的事件。多地疾控部门发布安全预警，提醒公众不能使用AI识别工具、识图软件等判断野生菌类能否食用。

语人君在使用AI搜索时，也曾经遇到过，AI给出了具体的法条，但一看便知道，其给出的法条内容，跟现行的法条根本不一致。事后想想，应该是这几年法律条文变化太快了，AI数据库稍有更新不及时，或是入库版本混乱，都会导致AI给出的结果混乱。

如何在法律事务处理、司法诉讼中，运用好AI工具，同时又要避免被AI幻觉所欺骗，进而遭到法院的驳斥和处罚，总结起来就是一点，对于AI提供的具体法条、法院案例，一定要有一一进行查找核对原文。