关注 | 司法规则护航人工智能创新

面对越来越多的AI换脸拟声、大数据杀熟、自动驾驶事故、生成式AI侵权等新型法律纠纷，责任该如何认定？近日出台的《关于依法审理涉人工智能纠纷案件的意见》对此作出系统回应。文件聚焦社会广泛关注的涉人工智能审判突出问题，在划清法律“红线”的同时支持人工智能技术创新，为产业健康发展筑牢法治防线。

原文 ：《司法规则护航人工智能创新》

作者 |上海政法学院数智法学院副院长、副教授 黄芹华

图片 |网络

《关于依法审理涉人工智能纠纷案件的意见》（以下简称《意见》）就人格权益保护、模型训练、自动驾驶、开源软件、专利授权确权、证据审查等问题分别作出规定。《意见》通过明确责任边界，为人工智能创新提供指引。规则能否落地，还取决于法院理解技术、查明事实的能力，以及裁判标准的持续完善。

以明确的规则稳定创新预期欧盟通过《人工智能法案》回应技术发展带来的问题。我国专门的人工智能法尚未出台，《意见》在现有法律框架下，先为相关纠纷提供裁判规则，并按场景加以区分。这种从具体纠纷出发完善规则的方式，可以为将来立法积累经验。

司法先行也面临裁判标准不一致、统一规则形成需要时间的问题。规则由分散的个案累积而成，不同法院、不同审级之间出现分歧的可能性更高；规则形成的速度，取决于案例指导机制能否有效运转。第二十二条要求对具有规则确立意义的案件提级审理，正是对这一问题的回应。

《意见》在争议最大的几处作了审慎处理。归责上，法律规定适用无过错责任或过错推定责任的从其规定，没有规定的一律适用民法典第一千一百六十五条第一款的过错责任原则，即没有过错不承担责任。模型训练上，在合理范围内处理个人已合法公开的信息且个人未明确拒绝的，一般不认定为侵害个人信息权益。开源软件上，以免费方式提供研发所需代码模块并公开说明其功能与安全风险的，他人使用该模块导致侵权时可以认定开发者、提供者不承担责任。三处的处理有一个共同取向：把规则的确定性与责任的严格程度区分开来，明确规则不等于加重责任。

《意见》针对大数据杀熟、网络开盒、模型训练、自动驾驶、换脸拟声等具体场景分别给出具体的裁判规则，便于法官适用。但规则的覆盖范围受起草时的预见能力所限，仍需回应不断出现的新场景。

提升法院审理人工智能案件的能力《意见》规范了人工智能技术使用者，也对法院自身提出要求。后者较少被注意，至少有四处：第十七条的技术调查官与专家辅助人，第十八条的完善证据审查规则，第二十二条的人民法院案例库运用，第二十三条的与网信、公安等部门协作等。这可以总结为“技术问题如何转化为可以裁判的问题”，涉及人、规则、工具、基础四个方面。

人的问题由第十七条直接点出。技术调查官和专家辅助人可以帮助法官查明技术事实，需要建立稳定的专业支持机制，及时积累办案经验。法官也应接受必要的技术素养培训，以便理解和审查专家意见。算法为何给出某个结果、生成内容与已有作品有多相似，需要法学与技术领域合作研究，形成便于审判运用的方法。同时，《意见》的出台也为进一步推动法学教育与人工智能的交叉融合提供了一个契机。

在规则层面，第十八条关注技术性证据如何审查，例如数据来源是否可靠、分析方法是否科学。法院自身使用人工智能工具，也需在既有规范基础上细化要求：裁判权由法官行使，智能工具只能辅助；工具辅助结果应当便于法官理解和核验；当事人应当知晓工具在案件中的作用，并有机会提出异议。这里需要厘清的是智能工具如何影响裁判，而非要求一概公开算法源代码。

智能工具也应符合审判需要。检索相似案件、校验证据、直观呈现技术事实，都需要相应的技术支持。关键在于需求由谁确定：若由技术供应方主导，产品的设计偏好就可能影响裁判。上线前的准确性检验和偏差测试，应由司法机关设定标准，不能由供应商自己出题、自己打分。

在基础方面，第二十二条、第二十三条分别提出案例指导和部门协作的要求。案例库供法官参考同类案件，专家名录的作用是便于寻找专业支持，安全可控的计算环境适用于处理敏感数据，跨部门协作则有助于核实相关信息。人、规则、工具、基础相互支撑，任何一项存在短板，都会影响其余三项效能的发挥。将这些要求落实为日常办案能力，仍需完善配套机制。

面向未来完善裁判规则一是过错认定中“技术上的可能性”如何量化。大模型开发者与中小企业的技术能力差距较大，采用同一标准可能造成实质上的不公平。全国首例“AI幻觉”侵权案中，杭州互联网法院根据服务提供者是否履行提示义务、是否采取同行业通行的技术措施保障内容准确性，来判断其有无过错，并驳回诉讼请求。这一处理已把“技术上的可能性”落到具体义务上，但如何随主体和场景调整判罚标准，仍需更多司法案例。二是人格权侵害禁令中“难以弥补的损害”“必要限度”两项的判断标准，有待通过案例逐步类型化，同时要防止这项制度被用于不正当竞争。三是对于文件未作明确规定的问题，如人工智能生成物的权利归属难题，如何避免裁判结果不一致，有赖于司法实践逐步积累共识、形成统一的裁判标准。

《意见》提供的可预期性是优化营商环境的重要抓手，对上海这样的人工智能产业高地尤其如此。上海法院可在司法改革中积累先行先试经验，也可以在涉人工智能案件审理中形成可复制的地方做法。

文章为社会科学报“思想工坊”融媒体原创出品，原载于社会科学报第2019期第4版，未经允许禁止转载，文中内容仅代表作者观点，不代表本报立场。

本期责编：狄书一

《社会科学报》2026年征订

点击下方图片网上订报↓↓↓