【作者】陶朗逍(北京科技大学文法学院副教授)
【来源】北大法宝法学期刊库《比较法研究》2026年第4期(文末附本期期刊目录)。因篇幅较长,已略去原文注释。
内容提要:随着我国“人工智能+司法”的深化发展,各地司法机关参与研发的人工智能司法助手开始在证据审查、量刑建议、社会危险性评估等环节发挥辅助司法决策的作用。这带来了司法决策黑箱化、阅卷权形式化、质证权失焦化等新风险,威胁有效辩护的实现。在此背景下,有必要提出“算法辩护权”这一新兴权利,作为传统辩护权在人工智能时代的拓展,以维护程序正义、重构控辩平等、保障被追诉人诉讼权利。该权利的核心要素包括算法知情权、质证权、救济权等。确立该权利的制度探索可以从技术管理、立法赋权、司法解释三方面协同推进:建立人工智能司法助手的全生命周期管理规则;在我国刑事诉讼法中增设算法辩护权条款;通过解释论路径活化阅卷、质证、专家辅助人等现有规定。
关键词:算法辩护权;人工智能司法助手;智能量刑建议;算法风险;有效辩护
目次 一、问题的提出 二、AI司法助手对有效辩护的挑战 三、算法辩护权的法理证成 四、算法辩护权的核心要素 五、算法辩护权的制度展开 六、结语
一
问题的提出
当前,以人工智能(artificial intelligence, AI)为代表的第四次工业革命正以前所未有的深度与广度重塑社会结构,国家治理体系和司法系统亦身处这场深刻变革的中心。在我国,“智慧法院”“智慧检务”建设已从早期的信息化、网络化阶段,迈入了以数据驱动、智能决策为特征的“智能化”新阶段。最高人民法院发布的《关于规范和加强人工智能司法应用的意见》等政策文件,明确将AI定位为提升司法质量、效率和公信力的关键引擎。在这一顶层设计的推动下,AI司法助手已超越“打字机”或“数据库”的简单工具属性,开始扮演更为积极的司法决策辅助者角色。一些地区法院、检察院推行的“案件智能辅助系统”,能够自动抓取案卷中的关键要素,与刑事证据标准数据库进行比对,生成包含瑕疵提示、证据链条完整度评估的审查报告。“智慧量刑系统”则能根据输入的案件情节,自动推送类似判例,并给出量化的刑期建议区间。这种技术赋能在提升司法效率、统一裁判尺度、减少裁量任意性等方面展现出巨大潜力,促成了“数字中国”与“法治中国”战略交汇的生动实践。
然而,技术的引入必然改变原有司法程序的运作生态。算法的复杂性、系统的不透明性以及相关程序规则的缺失,共同导致了一个困境:代表国家追诉与审判的权力因技术而增强,而个体的防御权利却因技术的壁垒而相对减弱。由于司法机关是AI司法助手的研发主导者及首要用户,侦查机关、检察机关、审判机关率先获得强大的AI辅助工具,从而极大地增强了其发现事实、审查证据、预测裁判和形成决策的能力。与之形成鲜明对比的是,作为防御一方的被追诉人及其辩护人,在技术获取、数据访问、算法理解与应用能力上,均存在难以逾越的鸿沟。这种发展态势深刻威胁着被追诉人的辩护效果,若法定辩护权的内涵一成不变,有效辩护的价值目标将难以实现。
现有研究已经关注到了AI深入刑事司法的危机,但多从司法机关规范化适用AI的视角出发,缺乏以辩护权为思路的展开。在此背景下,提出并证成“算法辩护权”这一新学理概念具有时代必要性和紧迫性。它并非旨在取代传统辩护权,而是作为辩护权在算法时代的功能性拓展,特指被追诉方为对抗“算法赋能型国家追诉”所必需享有的知情、质证、救济等一系列技术性防御手段的权利集合。需要明确的是,现有AI司法助手包括追诉方、审判方所使用的两类AI系统,尽管二者在诉讼角色上存在差异,但对辩护权的侵蚀效应本质上是相通的。本文首先系统分析AI司法助手对辩护活动的具体影响,再从刑事诉讼原理出发,论证算法辩护权作为一项新兴程序性权利的正当性与必要性,最终尝试构建其核心要素体系,并探讨将其融入我国现行刑事诉讼法框架的制度路径。
二
AI司法助手对有效辩护的挑战
AI司法助手对传统辩护权的冲击是系统性的,集中体现为司法决策黑箱化、阅卷权形式化、质证权失焦化三大风险,它们共同阻碍有效辩护的实现。
(一)司法决策的黑箱化风险
传统司法决策以证据构造的事实为依据、以法律为裁判的准绳,决策过程相对透明;法官的心证形成虽具主观性,但可通过庭审调查、合议庭评议、判决书说理等制度进行追溯和检验。然而,AI司法助手的介入,尤其是基于深度学习等复杂模型的系统,带来了显著的“黑箱”风险。
一方面,算法决策过程的不透明性导致辩护难以有的放矢。当AI系统基于海量数据生成诸如“证据链条完整度95%”“被告人再犯风险系数高”“量刑建议为有期徒刑3—5年”等结论时,其内在的推理逻辑往往难以被直观理解。例如,一个用于评估社会危险性的模型,可能综合考虑了被告人的犯罪记录、教育背景、社交关系,甚至消费行为等数千个特征,并通过复杂的非线性关系进行加权计算。对于辩方而言,他们看到的只是一个输入案件信息后输出的最终分数或结论,却无法知晓是哪些具体因素、以何种权重、通过何种关联关系主导了这一结果。这使得辩护律师无法针对算法逻辑的合理性、数据特征的选取是否科学、模型是否存在偏见等核心问题进行有效挑战。辩护活动从“针对事实与法律的辩论”部分转变为“面对一个难以理解和质疑的技术结论”,陷入“无知之幕”的困境。
美国卢米斯案所涉及的COMPAS再犯风险评估系统问题,便是黑箱风险的经典例证。在该案中,被告人卢米斯质疑威斯康星州法院将COMPAS生成的风险评估报告作为量刑参考,认为这侵犯了他的正当程序权利,因为他无法获知该评估系统背后的具体算法和数据的权重。威斯康星州最高法院最终驳回了卢米斯的诉求,确认COMPAS系统属于可以不公开算法的商业机密,同时承认可能存在不准确数据等问题,但仍认为法官将其作为“多项量刑信息之一”使用不构成违法。此案凸显了黑箱算法的司法应用即使在其可靠性存疑的情况下,仍可能被采纳,而辩方因无法触及算法核心而陷入难以有效抗辩的窘境。
此外,黑箱结论可能异化为新的“权威证据”,不当影响司法人员的心证。尽管当前国内外司法政策均强调,AI辅助决策的参考性而非决定性,但鉴于其宣称的“科学性”“客观性”和“大数据基础”,其输出的结论极易对司法人员产生潜在的、强大的心理暗示。司法人员可能出于对技术的信任或规避错案追责的考虑,不自觉地采纳算法建议,弱化了独立判断。更危险的是,若司法人员自身也无法完全理解算法的推理过程,其决策说理部分可能流于形式,简单地援引AI结论作为主要支撑,怠于开展深入的法律论证。这极易架空调查与辩论的实质作用,使辩护意见在无形的“算法权威”面前显得苍白无力。这种由黑箱性助长的“算法权威”尤为危险,因为它可能掩盖或固化算法中固有的偏见。有实证研究表明示,COMPAS系统输出的结果包含针对特定种族的歧视。即使是经验丰富的司法人员、辩护律师也难以发现并防范这些算法风险,致使固有的社会不公无法通过刑事司法活动得以矫正,甚至催生新的不公。
我国虽然尚未出现与域外相似并引起广泛关注的司法案例,但多地法院、检察院正在推广的证据审查、智能量刑、社会危险性评估等系统,基本技术原理与COMPAS有一定的相似之处。有学者对上海“206工程”等本土量刑智能辅助系统进行考察,发现此类系统普遍存在参数设置不公开、权重计算不可视等问题,受访法官、检察官反馈“技术无法支撑复杂事实认定”。这表明,本土的黑箱风险正在由“潜在”转为“现实”。
(二)传统阅卷权的形式化风险
《中华人民共和国刑事诉讼法》(以下简称“《刑事诉讼法》”)赋予辩护律师阅卷权,其可以查阅、摘抄、复制案卷材料,这是辩护方获取信息、形成辩护策略的基础。在纸质卷宗时代,阅卷权的核心是保障辩护方能够接触到与指控相关的全部书面和实物证据。但在AI司法助手应用的场景下,传统的阅卷权面临着形式化的危机。
其一,算法的输入、加工与输出本身成为了至关重要的新型“电子卷宗”,却未被纳入法定阅卷范围。当前司法机关应用的AI系统,其运作依赖于对原始案卷材料进行电子化、结构化处理后的数据。例如,贵州省清镇市人民检察院开发了“盗窃案件审查智能体”,其通过对卷宗全要素的智能提取,自动构建犯罪嫌疑人信息,摘录、概括书证、证人证言等在案证据,自动比对证据之间的逻辑一致性,通过法律语义解析技术梳理、概括案件事实,智能关联相关法条、司法解释和量刑指导意见,生成法律适用建议及相关文书。在此过程中,系统用于训练和推理的模型参数、特征工程规则、决策阈值设置等,共同构成了影响案件处理结果的“算法卷宗”,这些由算法生成的中间结论和最终建议,显然对案件的走向具有实质性影响。
然而,现行的阅卷制度通常只允许律师获取原始的、未经算法处理的案件材料,而无法接触到这些经过系统加工的数据集、模型参数以及关键的计算结果。辩护方能够看到“原料”,却看不到将“原料”加工成“成品”的“配方”和“工艺流程”,这使得其难以发现算法在信息提取、归类和分析过程中可能存在的错误或偏见。
其二,即使开放算法卷宗的访问权,技术壁垒也使有效阅卷难以实现。假设立法要求公开算法逻辑和数据,对于不具备计算机科学和统计学专业知识的辩护律师而言,理解这些高度技术化的内容也几乎是一项不可能完成的任务。庞大的数据集、复杂的代码和数学模型,远非通过简单的“查阅”和“摘抄”所能掌握。这造成了事实上的信息不对称:控方、审方拥有技术团队的支持,经过培训能够理解和运用算法结论;而辩方则被困在技术的门外。传统阅卷权所要保障的“知情”在数字时代大打折扣,极易沦为一种形式上的权利,无法转化为有效的防御能力。已有研究认识到,我国律师在这场“人工智能+司法”改革中缺席,导致辩护律师无权参与系统开发、无法访问数据,这将给阅卷的全面性、有效性带来显著危机。
(三)传统质证权的失焦化风险
在讨论算法场景下的质证困境之前,有必要先厘清“算法”在刑事诉讼中的两种不同性质的分类。一种作为“算法证据”纳入法定证据体系,适用传统质证规则。人工智能通过对原始数据进行加工、比对、预测所形成的输出结果,例如人脸识别比对得分、声纹鉴定相似度、DNA混合图谱的概率分析结论,本质上是对电子数据的深度加工产物,可视为电子数据的延伸或衍生形态,进而适用传统质证规则。另一种则是作为“影响司法人员自由心证的辅助材料”。人工智能系统输出的风险评估系数、量刑建议区间、证据链完整度评分等结论,并不属于法定证据种类,亦不列入证据清单,其实际作用是作为司法人员形成心证过程中的参考性加工材料,辅助司法人员对事实认定与法律适用的判断。本文的讨论主要围绕第二种算法角色展开,即当人工智能输出结论以“心证辅助材料”而非“法定证据”的身份进入刑事司法程序时,法律应当如何保障辩护方对这一影响裁判结论的加工环节知情、质疑并实现权利救济。
传统意义上,质证权被界定为被告人在法庭上对控方证据进行辩解、质疑与反驳的权利,其对象限定于法定证据种类。既有研究大多未对质证权如何作用于算法输出的“非证据的心证辅助材料”这一前提性问题作出正面回应。对此,本文对质证权作功能层面的拓展:在算法场景下,辩方有权对司法人员心证形成过程中所依赖的算法加工环节的可靠性进行审查与挑战。笔者之所以仍沿用“质证权”之名,是因为其功能内核与传统质证权一脉相承:均为辩方对控方、审方决策依据进行“检验—挑战—反驳”的程序性权利,只不过决策依据从法定证据扩展至“算法加工过程”。既有研究有采取此种做法的示例。司法决策依据随诉讼实践而变化,质证权的针对目标也应同步延展。
在此理论框架下,算法质证的困境在于,传统质证权核心围绕的是“人与人的对抗”,主要表现为对对方出示的证据进行当面质疑与辩驳,当一方缺位,这一权利的行使便面临着失焦的问题。
第一,质证对象虚无化。传统的质证针对的是具体自然人、自然人形成的书面意见、自然人获取的实物证据等,辩护律师可以通过一连串有针对性的提问,揭示自然人感知、记忆、表述的不可靠性,挑战鉴定方法的不科学性,乃至质疑物证获取的方式不合法。然而,当质证对象从传统证据变为AI系统时,传统质证所依赖的“通过对相关自然人的诘问来检验证据”的机制难以奏效,因为辩方面对的不是一个可以传唤到庭接受询问的“人”,而是一个由代码和数据构成的复杂系统。这种可被诘问主体的缺失,使传统的询问技巧、质证方法在面对机器时失效。
第二,质证内容发生技术性偏移。为了挑战算法结论,辩方必须将质证的重点从证据本身转移到算法的可靠性这一技术性问题上。这包括但不限于:训练数据是否具有代表性,特征选择是否合理,模型是否经过充分的验证,决策过程是否符合逻辑。然而,现行刑事诉讼规则并未对此类“算法质证”设立专门的程序。首先,在证明责任分配方面,是控方需要首先证明其所使用算法的普遍有效性与在本案中的适用性(即承担证明算法可靠的责任),还是辩方需要提出合理怀疑并证明算法在本案中的可能错误?若遵循“谁主张、谁举证”的原则,要求辩方证伪一个复杂算法,无疑是一项几乎不可能完成的任务,违背了控辩平等的基本精神。其次,质证标准是模糊的。法庭应以何种标准来判断算法结论是否可采?规则的空白使法庭在面对算法争议时无法可依,容易导致质证环节流于形式,或法官以“技术问题过于复杂”为由拒绝深入调查,从而剥夺了被追诉人实质性的质证权利。最后,如何以技术专家辅助辩护也是未知。辩方是否有权申请有算法知识的技术专家出庭,就算法的可靠性发表意见?其诉讼地位是等同于专家辅助人、鉴定人,还是作为一种新的诉讼参与人,其意见的法律效力如何?这些问题都没有明确答案。
总之,AI司法助手带来的多重新风险,已对有效辩护构成了结构性威胁。传统辩护权框架在算法权力面前显得力不从心,亟需理论层面对权利体系的拓展。
三
算法辩护权的法理证成
算法辩护权的提出,并非对传统辩护权的颠覆,而是在数字时代对其理论内核的深化与拓展。其正当性根植于程序正义、控辩平等与权利保障等历经淬炼的法理原则,是这些原则从“为什么”“是什么”“为什么是这样”三个层次回答了算法辩护权存在的原因。
(一)程序正义理论的数字演进
程序正义作为司法公正的两条生命线之一,其精髓在于通过公平的程序设计保障诉讼参与人的权利,并赋予结果以正当性。AI司法的兴起,并未使程序正义原则过时,而是要求其内涵必须进行一场深刻的数字化革命,从保障“对人的过程参与”升级为保障“对算法的理解与挑战”。
1.程序正义理论:从古老智慧到现代法治文明的基石
程序正义的观念源远流长,其思想雏形可追溯至古罗马法中的“人不能裁判与有关自己的诉讼”理念,以及英国法中的“自然正义”原则。自然正义的两项基本要求——“任何人不得做自己案件的法官”和“必须听取双方当事人的陈述”——构成了程序正义最古老的智慧结晶。这一古老智慧随殖民扩张传入北美,在美国宪法第五修正案和第十四修正案中被凝练为“正当法律程序”这一具有宪法位阶的宏大原则。其内涵也从最初的“程序性正当程序”,即要求政府剥夺公民生命、自由或财产时必须遵循公平的程序,逐步发展出“实质性正当程序”,即关注法律本身内容的公平性与合理性。
在欧洲大陆,程序正义理念与“法治国”原则深度融合,并通过《欧洲人权公约》第6条得以具体化:在决定某人的公民权利与义务或对其提起任何刑事指控时,其有权获得在合理的期限内、由独立无私的法庭进行公正公开的审理。这一权利包括被告知指控的性质和原因、有充分的时间和便利准备辩护、由本人或自己选择的律师进行辩护、讯问不利于己的证人等,这些内容构成了一个完整的程序正义保障体系。
在我国,尽管《刑事诉讼法》并未直接使用“程序正义”这一表述,但立法任务、基本原则等条款的精神内核已深刻浸润了程序正义理念的要求。庭审中心主义的改革、非法证据排除规则的确立、辩护制度的完善、判决说理制度的强化等,无不是程序正义理念在中国司法实践中的具体制度呈现。
2.算法时代程序正义理论的必然发展
算法决策的嵌入,对程序正义所依赖的“沟通理性”构成了结构性挑战。传统程序正义的实现,依赖于一个以“人”的理性沟通为核心的相对透明的决策场域。其核心要素,如参与性、对等性、及时性、理性等,均建立在决策者能够理解并回应程序参与方意见的前提之上。然而,算法决策的“黑箱”特性,对这套运行数百年的程序正义逻辑造成了挑战。系统论进一步揭示了这一困境:法律系统与科技系统拥有各自封闭的运作逻辑,算法作为科技系统的产物,当其输出被直接植入法律系统时,两个系统之间存在着“结构耦合”的紧张关系。法律系统要求的理由说明、逻辑推理与价值权衡,难以直接翻译或兼容科技系统的统计相关性与模型权重。
因此,程序正义理论必须在算法时代实现内涵的拓展与重构,域外理论界已经提出了“算法正当程序”的构想。这一构想并非颠覆传统,而是将“沟通理性”的要求进行技术语境下的转译。具体的要求包括:第一,可理解性,决策逻辑应向受其影响者开放,使其能够理解决策是如何形成以及基于何种因素作出;第二,可辩论性,立法应为受影响的当事人提供针对算法决策进行有效质疑和反驳的制度化渠道,这意味着算法结论不能作为不容置疑的“科学证据”,而必须接受法庭上的交叉询问与辩论;第三,可归责性,最终决策的责任必须明确归属于人类决策者,算法不能成为责任真空的借口。国内也有学者提出了相似的论述,强调技术性程序正义需要“以人为本”,保持“人主机辅”的应用格局。还有学者强调“主观程序正义”,即程序的构造应当以关照当事人视角下算法应用的感受为核心。
综上所述,“算法正当程序”的三项核心要求,揭示了算法时代辩护权拓展的价值基础。可理解性要求为辩方构造穿透技术黑箱的渠道,可辩论性要求为辩方提供检验算法加工环节的工具,可归责性要求为辩方铺设纠正算法错误的路径。这三个方向性要求共同回答了第一个层次的问题:为什么需要算法辩护权?因为传统程序正义的沟通理性在算法黑箱面前失灵,必须通过新的权利来恢复程序正义。然而,这些价值要求尚停留在抽象层面,要使其在诉讼实践中落地,就必须进一步追问第二个层次的问题:这些价值要求应当以何种形态的权利来承载?这需要从控辩平等的诉讼结构中去寻找答案。
(二)控辩平等原则的算法维度
控辩平等原则,或称“平等武装原则”,其理念根植于对抗制诉讼模式的精髓。追溯其历史脉络,可以看到一条从形式平等向实质平等不断演进的清晰轨迹。
在古罗马早期的诉讼中,诉讼双方的地位与能力高度依赖于其社会身份与财富。随着程式诉讼的发展,法官的介入和程序规则的细化开始为弱势一方提供一定的保护。中世纪欧洲的纠问式诉讼则彻底颠覆了平等理念,被告人沦为诉讼客体。直至启蒙运动与资产阶级革命后,伴随个人权利意识的觉醒,控辩平等作为一项基本原则才在英美对抗制和欧陆职权主义诉讼中得到不同程度的确认与发展。例如,英国通过一系列判例逐步确立起控方的证据开示义务,以平衡其强大的侦查资源与被追诉者弱小个人之间的力量对比悬殊;美国宪法第六修正案明确规定了被告人与对方证人对质以及获得律师帮助的权利。在欧陆法系,虽然职权主义传统强调法官的积极作用,但《欧洲人权公约》第6条确立的“公平审判”原则及其衍生的判例法,已成为衡量各成员国刑事程序正当性的核心标尺。欧洲人权法院在诸多判例中反复申明,刑事诉讼的每一方都必须被赋予充分和适当的机会,在对其不利的证据面前陈述己方意见。这一原则不仅禁止明显的歧视,更要求积极采取措施弥补辩方因资源、能力不足而导致的结构性劣势。
在中国,西周时期就开始出现“两造俱备”的司法传统,强调在控辩双方均到场的情况下,法官才能作出裁决,这是早期的诉讼构造中的控辩关系认知。1996年《刑事诉讼法》引入当事人主义因素,标志着控辩平等原则在我国的正式确立,2012年《刑事诉讼法》进一步强化控方举证责任、明确辩护方质证权利、建立非法证据排除规则等,2018年《刑事诉讼法》确立值班律师制度,这些都是控辩平等原则的持续深化。
然而,算法技术的引入,正在解构历经数个世纪才逐步建立的“平等武装”诉讼格局。如前文所述,它制造了控辩之间的技术信息鸿沟,控方掌握算法模型、训练数据及解读能力,而辩方面对的是一个难以理解甚至无从知晓、充满“科学权威”的“黑箱”。同时,法院对AI司法助手的使用也进一步强化了公权力的压迫性,加剧了辩方的技术弱势。这与历史上因教育程度、经济状况差别导致的不平等有质的不同,是一种基于技术垄断的新型不平等。面对这种算法引发的结构性失衡,传统的控辩平等原则必须注入新的时代内涵。法律不能仅满足于保障辩方拥有律师,还必须确保辩方拥有理解和挑战算法的“技术能力”。确立算法辩护权正是实现这一升级的核心,即有必要通过制度设计弥补辩护方的技术弱势,实现实质性的控辩平等。从传统意义上讲,国家的义务主要体现为不侵犯公民权利的消极义务,而在算法司法时代,国家还必须承担积极义务,为辩护方提供必要的技术支持和制度保障。刑事诉讼“尊重和保障人权”的立法宗旨,在算法时代应当包含保障被追诉人获得技术性武装的积极义务。
总之,算法辩护权并非是凭空创造的新权利,而是控辩平等这一古老原则在面对算法这一新型权力工具时,为维持诉讼结构平衡而必须进行的权利拓展与深化。控辩平等原则将程序正义的价值要求进一步具体化为诉讼结构中的权利需求:可理解性在控辩关系中就体现为辩方需要有知悉算法决策依据的信息获取权;可辩论性在控辩关系中就体现为辩方需要拥有挑战算法可靠性的技术检验权;可归责性在控辩关系中就体现为辩方需要拥有一条纠正算法错误的救济通道。这三类权利作为算法辩护权的子集,是第二个层次问题的答案。然而,这三类权能之间是否存在内在的逻辑关联?这需要从权利保障的历史演进中寻找最终的结论。
(三)被追诉人权利保障的发展
现代刑事诉讼法的发展史,本质上是一部被追诉人权利不断扩张与强化的历史,其背后蕴藏着从国家权力本位向个人权利本位价值转向的深刻法哲学思想。辩护权作为“权利之权利”,居于刑事诉讼权利的核心地位,因为它是抑制公权力滥用、保障人权的最主要武器。这一权利体系并非是静态的,而是随着国家权力行使方式的变化而不断演进,体现出鲜明的适应性与发展性。新技术催生新权力,新权力催生新权利,这是权利演变史上的一个基本规律。审视算法辩护权的生成逻辑,可以从历史上类似的技术冲击与权利回应中找到清晰的参照系,其中最为贴切的莫过于“科学证据时代”催生的“专家辅助权”。
在法医学、痕迹鉴定、毒物分析等现代科学技术广泛应用于司法之前,法庭证明主要依赖对人证、物证的直观审查。随着19世纪以来科学技术的迅猛发展,专业性的科学鉴定结论在诉讼中扮演越来越关键的角色。然而,这随即带来了新的控辩权力失衡:控方凭借国家资源,可以轻易聘请顶尖专家提供鉴定意见,形成强大的“科学权威”证据;而被告方往往因财力、知识所限,面对晦涩难懂的专业报告毫无辩驳之力。这种基于专业知识垄断的不平等,严重威胁到案件的公正审判。正是为了制衡这种由科学技术带来的新型权力,英美法系和大陆法系通过不同路径发展出了“专家辅助权”。在美国,这一权利通过最高法院判例被逐步纳入宪法第六修正案“获得律师帮助权”的延伸解释中,即当科学证据对案件至关重要且被告人资源匮乏时,国家有义务为其提供专家协助。德国作为大陆法系国家,则通过扩大辩护人的权利范围,允许其自行聘请专家证人出庭,对控方鉴定意见进行质询,形成了“双重鉴定”制度。我国2012年刑事诉讼法也正式确立了专家辅助人制度,允许有专门知识的人就鉴定意见提出疑问,这同样是顺应科学技术发展、平衡控辩双方专业能力的立法回应。
专家辅助权的确立过程,清晰地展示了权利生成的逻辑:新技术的司法应用产生了新的权力形态,打破了原有的诉讼平衡,于是需要法律通过创设新的程序性权利予以制衡、恢复平衡。将这一历史逻辑投射至算法时代,可以清晰地看到一条平行的演进轨迹:随着AI司法助手应用的增加,公权力获得了更强的算法决策权,这必然对传统诉讼平衡带来改变,进而需要构建更显著的程序性权利予以制衡,这种权利的核心就是算法辩护权。更何况,算法权力相较于传统的科学鉴定权力,具有更强烈的黑箱性、更广泛及更难以挑战的自动化偏见。因此,作为回应的算法辩护权,其内涵也必然比专家辅助权更为丰富和系统化,它不仅仅是需要获得一个专家帮助的权利,而应该是一个包含知情、质疑、救济等多元结构在内的“权利束”。
这一历史参照有力地驳斥了“算法无需特殊规制”的立场,法律对技术性权力的警惕与制衡是其一贯传统。算法辩护权的提出,不是对技术的敌视,而是对法律自身维护公平正义核心功能的坚守。正如专家辅助权并未阻碍科学技术在司法中的运用,反而通过规范其使用促进了科学证据的健康发展一样,算法辩护权的确立,可以为算法的司法应用划定公正的轨道,通过保障有效的质疑和检验,最终提升算法参与司法决策的可靠性、公正性与公信力。从专家辅助权的历史类比中可以清晰地看到,新技术带来的权力膨胀,总是催生出包含“知情—质疑—救济”三重结构的综合性权利,专家辅助权如此,算法辩护权亦然。这是因为,单一维度的权利无法形成有效的防御闭环:不知情则无从质疑,不质疑则错误无从暴露,无救济则错误无从纠正。这就是第三个层次问题的答案。
四
算法辩护权的核心要素
算法辩护权与传统辩护权构成拓展而非替代的关系:传统辩护权旨在保障被追诉人在“人对人”的司法程序中的公平地位;而算法辩护权则聚焦于应对“权力技术复合体”带来的新型挑战,旨在保障被追诉人在“人对算法”的互动中同样拥有实质性的知情、质疑与救济能力。因此,算法辩护权的核心功能在于,通过赋予被追诉人一系列具有可操作性的新型程序性权能。
(一)算法的知情权
算法知情权是算法辩护权的逻辑前提与程序起点,其核心法理在于,任何可能对公民权益产生不利影响的公权力行为,其依据与过程必须具有基本的可理解性与可预期性。当国家运用算法辅助乃至实质影响司法决策时,该行为的“依据”已从纯粹的人类法律逻辑延伸至不透明的数据模型。因此,传统上针对“事实与法律依据”的知情权,必须扩展至对“算法依据”的知情。此权利旨在扭转因技术壁垒造成的、较之传统司法更为严重的信息落差,确保被追诉方不因“无知”而丧失防御的可能。
首先,算法知情权应确立一种分层化、场景化的信息披露义务体系。此体系需平衡辩护方的知情需求、司法机关的实践负担、第三方的技术秘密与系统安全等多重价值。信息披露不应是笼统或一次性的,而应根据算法在具体案件中的“参与深度”与“影响权重”,动态调整披露的范围与程序。
第一层为基础性告知义务,适用于所有引入算法工具的案件。以普通人可以理解的方式告知以下主要内容:所使用的算法系统名称、开发主体、核心功能与设计目标声明;该系统训练数据的基本概况,如数据来源的领域、时间跨度、样本规模等;该系统在本案中运作所依赖的关键输入变量列表。例如,在使用评估审前羁押必要性的风险预测模型时,必须明确告知其结论参考了被追诉人的涉嫌罪名、前科记录、固定住所情况、本地社会联系等具体因子。这一层次知情的目的,在于使辩护方能够判断算法所关注的“特征”是否与法律规定的考量因素大体吻合,初步识别潜在的“特征滥用”。
第二层为深度披露义务,当算法生成的结论对司法人员心证产生重大影响时,在辩护方提出合理质疑的情况下触发。在此种情形,控方或审方有义务提供更具体的技术性信息,包括但不限于:该算法在权威测试集上的性能评估报告;算法已知的局限性声明,如在处理某类新型犯罪、特定方言语音、模糊图像时可靠性下降;针对本案输出的可解释性说明,这个说明需以可视化或自然语言报告形式,阐明本案中各个输入特征对最终输出结果的贡献方向与大致强度,生成一份“本案专属的算法决策理由说明”。此举并非要求公开作为“黑箱”的完整模型参数或源代码,而是通过技术手段在“黑箱”上打开一个探视本案逻辑的“玻璃孔”,其法理类似于要求鉴定人就其鉴定意见的依据与方法接受询问。
其次,在充分知情的基础上,还应延伸出具有程序制约力的算法选择权。知情的目的在于为理性的程序选择奠基。此权利旨在承认算法的应用并非是一种绝对的、不可放弃的司法善品,其本身即带有不确定性风险。被追诉人作为程序主体,应有权在特定条件下,对该技术工具在本案中的适用表达意愿,从而在程序起点上引入制衡。具体而言,当披露信息显示存在以下情形之一时,辩护方应有权申请启动审查程序,以决定是否在本案中排除或限制该算法的适用:第一,所用算法的训练数据与本案关键情节存在显著差异,模型可能处于其预测的“分布外”区域;第二,算法存在已知的、且与本案被追诉人所属群体相关的公平性缺陷,如已被研究证实对某一地域、种族或性别群体存在偏见;第三,针对本案的局部可解释性说明显示,算法的决策过度依赖于某些在法律上无关或伦理上存疑的特征。司法机关需对该异议进行审查并说明决策理由,若异议成立,可决定在本案中排除该算法结论,或仅将其作为效力极低的参考。
最后,知情权的保障还应该延伸至重大、疑难案件中的算法退出权。前述选择权主要针对的是算法应用的“适当性”问题,然而,在涉及公民生命、自由等重大法益的案件中,如可能判处死刑、无期徒刑刑罚的案件,仅停留在“司法机关是否适当使用算法”的审查层面是不够的。必须赋予被追诉人更彻底的算法退出权,即有权在充分知情的情况下,要求在全案中完全排除AI系统的使用,回归纯粹由司法人员进行决策的传统模式。其法理依据在于利益衡量的最高位阶性,当诉讼涉及的利益达到生命、终身自由剥夺的极端程度时,对程序公正的要求应达到顶峰,任何引入不可预测风险、削弱人类直接责任与情感衡平的技术工具,其适用都应当让位于对绝对公正的追求。这也是维护司法权威与公信力的必然要求。在社会高度关注的重大、疑难案件中,裁判结果不仅关乎个人,更关乎司法系统的形象,一个完全由人类法官经过缜密庭审与合议作出的裁决,其可接受度和公信力更高。对于疑难案件,特别是涉及新兴社会问题的案件,如果算法所依赖的历史数据本就存在争议和缺失,则难以输出准确的决策建议,应当允许被追诉人自主选择是否拒绝该系统的适用。
综上所述,算法的知情权,连同其延伸出的选择权与退出权,共同构成了一个强度递进、场景适配的防御体系,确保被追诉人在算法司法时代能够从信息获取到程序选择,再到根本性的模式决定上,保有实质性的参与能力和主体尊严。
(二)算法的质证权
知情权打开了算法“黑箱”的外壳,质证权则要深入其内部进行检验与辩驳,实现“技术性挑战”的诉讼化改造。
第一,构建以“技术专家辅助人”为核心的深度质证支持体系。首先,应将涉及复杂算法评估的案件列为“应当”为无力聘请专家的被追诉人提供技术专家法律援助的情形,实现控辩双方在技术能力上的最低限度平等。其次,应明确技术专家辅助人在算法质证中的权能,应远超出单纯“发表意见”。审前程序中,有权查阅控方提供的算法透明度报告及相关技术文档;庭审程序中,有权就算法的可靠性问题直接向法庭提交书面技术评估报告,有权询问控方技术专家或算法系统代表,质询内容可深入至训练数据的采集清洗方法、特征工程的设计逻辑、模型选择与验证流程的潜在缺陷、本案特定数据点在模型决策空间中所处的位置等专业问题。这实质上是将法庭的“技术调查”职能部分地外包给对抗的双方,通过“对抗性科学”的呈现,帮助事实裁判者理解技术争议焦点。
第二,创设判断算法是否具有可靠性的标准。需引入“基础可靠性”门槛,为算法生成的结论设立专门的审查规则。控方若欲将算法结论作为指控的实质支撑,应首先证明该算法系统在总体上具备科学有效性与公正性。例如,证明该算法经过独立的第三方验证、其开发遵循了公认的算法审查标准、在过往的类似案件应用中保持了稳定的性能等。这类似于对科学证据的“多伯特标准”审查,该标准要求专家证言背后的科学推理须经受检验,算法场景同样要求AI结论背后的算法逻辑须可检验、可质疑,二者的共同点在于都对“非直观的技术性结论进入司法决策”设置了准入门槛。在算法评判层面,法庭应被指引综合考虑一系列因素,包括但不限于:其一,技术可靠性,该算法在本案所涉问题上的准确率、鲁棒性;其二,公平性,在相关统计学分组上的误差率是否在可接受范围;其三,可解释性,针对本案提供的解释是否清晰、合理,且与常识、经验法则无重大冲突;其四,适用语境匹配度,本案的具体情况是否落在该算法设计时所预设的适用边界之内;其五,人类监督强度,司法人员在决策中对算法结论的采纳是否进行了独立的批判性分析。通过这份“审查清单”,法庭可以将模糊的技术判断转化为透明化的法律裁量。
第三,确立以“对抗性测试”为代表的技术性质证方法。在程序保障和资源允许的情况下,应鼓励并规范辩护方进行“对抗性检验”。例如,在获知模型的关键特征后,辩护方专家可以构建“反事实样本”进行测试:轻微调整某个输入特征(如将“退赔金额”从“部分”改为“全部”),观察输出结果(如“缓刑建议概率”)是否发生符合法律逻辑的平滑的变化,以此检验模型的稳健性与合理性。对于以算法为核心支撑的技术性结论,辩护方应有权申请委托具有资质的独立技术机构,使用不同算法或同一算法不同参数配置进行对抗性复算,并将复算结果作为质证依据。这种“算法对算法”的检验,能将抽象的质疑转化为具体、可视的技术报告,极大提升质证的穿透力。当然,这需要以充分的审前信息披露、平等的技术资源获取渠道以及相应的诉讼权利保障为前提。
总之,挑战算法的质证权,通过专家辅佐的实质化、算法可靠性判断标准的具体化以及质证方法的技术化,重塑了数字法庭上的对抗格局。它确保了针对算法的辩论不再是外行的泛泛而谈,而是能够深入其数理逻辑内核的专业交锋,从而将“以审判为中心”的诉讼制度改革真正落实到算法辅助决策的审判之中。
(三)算法的救济权
无救济则无权利。算法辩护权若止步于庭审中的质疑,而缺乏对错误结果的刚性纠正与责任追溯机制,则其终究是孱弱的。算法错误因其隐蔽性、系统性及可能源于训练数据深层次偏见等特点,使得事后救济尤为重要。算法救济权旨在构建一个从个案纠正到系统追责、从程序内上诉到程序外监督的全方位、多层次救济网络,确保算法决策的任何偏差都能被及时发现、矫正,并使责任得以落实,从而形成威慑,预防错误的重复发生。
一方面,强化程序内的审级救济与再审监督。上诉与再审程序是纠正错误裁判的核心途径,应明确将“可能影响公正审判的算法应用错误”作为一项独立的启动事由,具体应包括以下情形。第一,程序性违法。原审法院未依法履行算法信息披露义务,或无理拒绝辩护方合理的算法异议、鉴定或专家辅助申请,剥夺当事人质证权利的。第二,实体性错误。法官在事实认定或量刑裁决中明显依赖存在重大争议或有明显缺陷的算法结论,且未在裁判文书中进行充分说理和审查。第三,新证据事由。裁判生效后有新的证据表明原裁判所依据的算法结论很可能是错误的,例如,该算法被权威机构审计发现存在系统性缺陷,或针对同类案件的批量错误被证实。上级法院或再审法院在审理此类案件时,应重点审查原审中对算法结论的审查是否达到了“充分质证”与“实质审查”标准,并对算法本身的可靠性进行重新评估。这要求一审判决书必须详细记载算法应用情况、双方争议焦点及法官的采信理由,实现司法透明与算法问责的结合。
另一方面,明确混合决策下的人机责任归属,探索算法致害的国家责任。必须坚持和重申人类最终责任原则,即无论算法结论如何,案件的最终裁判责任必须由承办人员独立承担。在错案追究中,需重点审查司法人员是否履行了“合理的谨慎审查义务”。如果司法人员对一个已被揭露存在明显问题或辩护方已提出有力质疑的算法结论而未加审慎核查便予采纳,则其应承担相应的个人责任,不能以“技术中立”或“系统建议”作为免责理由。在更宏观的层面,如果因国家采购、部署或开发的司法算法存在固有设计缺陷,导致不特定多数公民的合法权益受到系统性侵害,如某一量刑辅助系统导致特定群体被普遍判处更重刑罚时,应积极探索国家赔偿责任的落实,包括探索建立针对此类系统性损害的公益诉讼制度,为受害者提供集体救济渠道。
综上所述,算法辩护权的权能体系由三个逻辑递进、功能互补的要素构成:算法的知情权有利于破解初始的信息与权力不对称,是防御的逻辑起点;算法的质证权有利于构建实质性的、技术化的程序对抗空间,是防御的核心过程;算法错误的救济权有利于系统性的纠偏与责任回溯,是防御的最终保障。
五
算法辩护权的制度展开
算法辩护权从理论构想走向司法实践,绝非仅依靠原则性宣示即可达成,其有赖于一套周密、可操作的制度保障,需要从技术管理、立法赋权与司法解释三个层面,探讨其制度构建的具体路径。
(一)构建AI司法助手适用管理体系
算法辩护权的有效行使,离不开对AI司法助手本身的规范管理。不透明、不可靠、不受监督的算法系统适用,将使知情权、质证权、救济权等各项权能沦为空谈。然而,当前AI司法助手的研发和使用缺乏有效管理,主要由各地司法机关自主选择与科技公司开展合作,算法的数据来源、算法的设计流程、算法的应用效果等均缺乏统一监督和评估,致使现有AI司法助手的质量和公正性难以保障。急需构建一个覆盖AI司法助手研发、部署、适用及监管全生命周期的管理体系,从源头上规范算法权力的生成与运行,这并非是游离于算法辩护权之外的配套措施,而是其赖以实现的制度前提。
1.研发准入阶段
AI司法助手的研发是其在司法程序中应用的起点,也是规制其潜在风险的第一道防线。需改变当前各地司法机关与AI技术公司任意开展研发合作的现况,改变由技术逻辑主导、追求单一效率目标的研发模式,将“公平、公正、透明、可问责”的算法正义原则内嵌于技术设计的全过程。
一方面,应建立强制性的前置伦理审查制度。所有拟用于刑事司法环节的AI系统,在研发立项和部署前,必须由独立的、多学科组成的“司法科技伦理委员会”进行审查。该委员会应当由中央司法机关及有关权力部门牵头组成,成员不仅应包括计算机科学家、法学家、司法实务人员,还应吸纳律师、伦理学家乃至社会公众代表。该委员会负责在AI系统投入研发和使用前,应审查三项核心内容。第一,训练数据的代表性。数据来源是否全面、是否存在对特定群体的系统性数据缺失或偏见。第二,模型设计的可解释性。模型选择是否优先考虑可解释性强的算法,若必须使用复杂黑箱模型,是否配备了足够可靠的事后解释工具。第三,预设功能的合法性。AI系统的设计目标是否严格限定于“辅助”司法决策,是否内置了防止其替代办案人员最终判断的机制。只有通过审查的AI系统,才具备开展研发或投入使用的基础资质。
另一方面,应提高行业规范性,推动建立国家统一的算法标准与认证体系。可借鉴域外以技术标准进行规制的思路,由中央司法机关联合国家标准化管理委员会、科技部等部门,制定司法领域AI系统国家标准。标准内容应涵盖数据质量、模型可解释性、鲁棒性、安全性、隐私保护以及基本权利影响评估等多个维度。对于通过认证的系统,应颁发相应等级的安全与可信认证标志。司法机关在选用AI系统时,应优先考虑选择符合国家标准且获得认证的产品。此举不仅可以为研发企业提供明确的技术指引,还可以为司法机关的选型提供权威依据,从源头提升AI司法助手的整体质量与可信度。
2.司法适用阶段
在司法适用阶段,AI的应用需根据案件性质、应用的司法环节、对公民权利的影响程度等因素进行精细化划分,以确保技术赋能与权利保障的平衡。基于刑事手段的终局性,AI司法助手的适用应当最为严格和审慎。
首先,应当强调AI司法助手的辅助性定位,即在任何场景都不能替代司法人员作出决策。最高人民法院《关于规范和加强人工智能司法应用的意见》确立了“辅助审判原则”,明确“无论技术发展到何种水平,人工智能都不得代替法官裁判,人工智能辅助结果仅可作为审判工作或审判监督管理的参考”。域外其他国家也尚不存在彻底替代型AI的应用,理论界对于这一基本立场亦持肯定态度。即使AI司法助手输出结论性建议,该建议也仅可作为司法人员作出裁判的参考,司法决策的核心价值判断仍然只能由司法人员负责。
其次,对于法院裁判的核心环节,应严格禁止AI司法助手输出结论性建议。在刑事案件中,法院对罪与非罪的最终认定,必须由人类法官独立作出。该决策深植于人类特有的伦理判断、同理心和对个案正义的复杂权衡,应严格禁止AI司法助手输出任何具有决断性的参考结论,以防止对法官的自由心证造成隐性干扰。
再次,在程序性、事务性工作中,可积极推广AI司法助手的应用。针对文书生成、卷宗目录自动化整理、法条与案例索引、诉讼时限计算及庭审排期等辅助性事务,AI的应用不直接处分当事人的实质权利,且输出结果需经办案人员人工复核,技术风险具有可控性,符合提升司法效率的导向。
最后,对于具有一定裁判影响力但非最终决策的环节,AI可提供受控制的辅助。刑事案件的此类场景包括证据关联性分析、量刑裁量(通常包括为公诉量刑建议、审判量刑决策提供可参考的量刑区间)、社会危险性评估、批准逮捕判断、羁押必要性判断等。在此范围内,AI司法助手可以在满足可解释性、可归责性等基础条件后,允许输出结论性参考建议,但应设置限制、排除适用的例外。
3.监管与评估阶段
AI司法系统的风险并非一成不变,会随着数据的更新、模型的老化以及社会环境的变迁而动态演化。因此,必须建立一个贯穿其全生命周期的持续性监管体系。
一方面,推行强制性的定期算法审查制度。司法科技伦理委员会应制定AI司法助手的监督与评估规范,赋权第三方专业机构定期开展审查工作,审查内容应主要包括以下几点。第一,性能审查。评估系统在实际运行环境中的准确率、召回率等指标是否与宣称的性能相符,是否存在性能衰减。第二,公平性审查。使用最新的公平性度量标准,检测系统在不同群体间是否存在显著的差异性影响,及时发现算法偏见。第三,影响评估审查。评估系统部署后对司法实践的实际影响,例如,是否导致了特定类型案件处理结果的趋同化或极化,是否影响了司法人员的自由裁量权行使等。司法科技伦理委员会有权依据审查结果,对违反规定的AI研发和应用行为进行调查、建议整改乃至追责。
另一方面,建立统一的AI司法应用登记与案例库。建议由司法科技伦理委员会牵头建立全国性的司法AI应用登记平台,要求各级法院、检察院登记其使用的AI系统信息、应用场景以及由此产生的典型案例。该平台不仅便于有关部门进行宏观监控和趋势分析,更能为学术界、律师界乃至社会公众提供研究、监督和质疑的基础数据,形成多元共治的监管格局。
综上,建立以司法科技伦理委员会为核心的监督管理机构,能避免出现“多头管理、无人负责”的局面,实现涵盖事前研发、事中适用、事后监管的全流程管理,规范AI司法助手的运行,为算法辩护权的确立明确场景前提。
(二)《刑事诉讼法》应增设算法辩护权条款
算法辩护权从理论构想走向司法实践,最终必须通过立法予以确认和保障。算法辩护权的制度化路径主要有二:制定AI司法应用的专门法,或通过修订《刑事诉讼法》将算法辩护权纳入现有辩护权体系。
1.立法路径选择:专门立法与修法融入之辨
算法辩护权立法路径的选择关乎其制度化的效率、效能及与现有法律体系的融合度。专门立法论主张制定一部如欧盟《人工智能法》的专门性法律,此路径具有显著的系统性和前瞻性优势,能够全面规制AI在司法中的研发、认证、部署、使用、监管、追责等全流程问题,为算法辩护权的实现提供清晰的法律框架。欧盟《人工智能法》采用风险分级规制模式,对高风险AI系统设置严格义务,为司法AI的专门立法提供了重要参考。
然而,专门立法的劣势亦十分突出:立法周期长、程序复杂、成本高昂,且易与现有刑事诉讼法律体系衔接不畅,形成“法律孤岛”。更重要的是,算法辩护权本质上是程序性权利,是传统辩护权在数字时代的自然延伸。若脱离程序基本法而另立门户,可能削弱其作为基本程序权利的属性,在实践中面临被虚置或边缘化的风险,很难与阅卷权、质证权等既有权利形成有效合力。
笔者认为,随着AI司法助手的扩大适用,无论针对算法的专门性领域立法是否涉及算法辩护权的方面,《刑事诉讼法》在修法时都应当尽早将其融入现有辩护权体系。算法辩护权旨在解决刑事诉讼程序内部因技术应用产生的权力失衡问题,是程序正义、控辩平等等刑事诉讼基本原理在算法时代的具体化,将其直接纳入《刑事诉讼法》,能够最直接地赋予其法律效力,使其与传统辩护权构成有机整体,便于司法实践。我国刑事诉讼法有较多通过修法回应新兴问题的经验,如2012年修法确立非法证据排除规则和2018年修法确立认罪认罚从宽制度,灵活的修法足以及时回应司法实践的迫切需求。
2.算法辩护权条款的核心内容设计
借鉴认罪认罚从宽制度的修法设计,算法辩护权应当采用“原则引领、程序配套”的立法方案,在《刑事诉讼法》第一编“总则”第一章“任务和基本原则”中增加AI司法应用的基本原则条款,并在第四章“辩护与代理”中增设算法辩护权核心条款。
基本原则条款可以表述为:“人民法院、人民检察院和公安机关在刑事诉讼中运用人工智能技术,应当遵循辅助性、透明性、公平性与安全性原则。”该条款可以明确AI辅助司法决策的基础定位,强调办案人员的最终决策权力与责任,同时兼顾透明度要求和平等保护价值,为算法辩护权提供总体依据。
“辩护与代理”章的专门条款可以表述为:“人民法院、人民检察院和公安机关在使用人工智能系统辅助办理刑事案件时,应当保障犯罪嫌疑人、被告人依法享有的辩护权,并及时履行下列义务:(一)将所采用人工智能系统的基本情况、主要功能以及输出结论的内容,告知犯罪嫌疑人、被告人;(二)经犯罪嫌疑人、被告人申请,应当告知系统训练数据的来源、主要参数及关键影响因素等必要信息;(三)保障犯罪嫌疑人、被告人有权对系统输出结论提出异议、申请重新审查;(四)对重大、疑难案件,犯罪嫌疑人、被告人有权申请在关键事实认定和法律适用中排除人工智能系统的辅助。人民法院、人民检察院和公安机关不得因犯罪嫌疑人、被告人行使本条规定的权利,而作出对其不利的推定。”该条款的功能主要是:第一,明确算法辩护权的权利属性,确立其作为基本程序性权利的地位,是传统辩护权条款的延伸;第二,通过对司法机关权利保障义务的细化,赋予被追诉人最核心的知情权、质证权和退出权;第三,通过设置“禁止不利推定”的保障性规定,防止权利条款被虚置。
(三)以解释论路径推动算法辩护权的落实
《刑事诉讼法》在纳入算法辩护权条款后,还需要通过体系解释、目的解释等方法,将《刑事诉讼法》的条文扩展适用于算法辩护场景,为算法辩护提供暂时的细节规范。这一路径并非替代立法,而是在新制度立法相对原则性的情况下,通过司法能动性填补法律缝隙,实现算法辩护权的细化落地。法律条文本身具有开放性和适应性,能够通过解释的方法回应社会变迁和技术挑战。尤其在我国成文法体系下,司法解释和案例指导制度具有准立法功能,可为算法辩护权提供弹性保障。
第一,阅卷权条款的扩张解释。《刑事诉讼法》第40条规定的阅卷权,在算法司法背景下应当进行目的性扩张。传统阅卷权针对的是纸质卷宗材料,但在适用AI系统的案件中,应当将阅卷对象解释为:算法系统生成的结果报告、系统训练数据的基本描述、针对本案的算法决策逻辑说明等。这种扩张解释符合阅卷权保障知情权的立法目的,能够缓解辩护方面临的信息不对称困境。具体而言,中央司法机关可通过司法解释明确:司法机关在采用AI司法助手生成结论性意见时,辩护律师有权查阅、复制算法的输出报告及其辅助性技术文档(如输入变量列表、模型版本信息等)。若算法涉及商业秘密,可借鉴“保密审查”机制,由法庭指定中立技术专家进行审查,并向辩护方提供脱敏后的概要说明。
第二,专家辅助人制度的活化解释。《刑事诉讼法》第197条规定的“有专门知识的人”,可以通过司法解释扩张适用于算法场景。在算法生成的建议性结论对案件裁判有重大影响时,辩护方有权申请技术专家出庭,就算法结论发表意见。此外,司法解释应当明确:专家辅助人范围应当包括算法、数据科学等领域的专业人士;专家意见对象不限于传统鉴定意见,还应包括算法结论;专家辅助人权限应当包括审阅算法相关材料、参与庭审质证等。
第三,质证条款的适应性解释。通过目的解释和体系解释,将现有质证权条款的功能拓展至算法场景。其一,质证对象的扩大化。传统质证针对的是法定证据,而算法场景下的质证对象应从“证据”扩展至影响心证形成的算法加工过程。当控方在支持指控中援引算法结论时,以及审方在量刑等裁判活动中参考算法结论时,辩方有权就算法结论生成过程的可靠性进行质疑。其二,质证的技术化转译。法官应当有权通知算法开发者、技术维护人、控方指定的技术代表出庭说明算法原理,并接受辩方询问。若算法为商业产品,法庭可要求开发者提供技术白皮书或第三方审查报告,作为质证基础。其三,为弥补辩方技术弱势,应明确算法可靠性的证明责任:控方或审方若欲采用算法结论辅助指控或审判时,需首先证明该算法具有基础可靠性,如符合国家标准、经过第三方验证等;辩方只需提出合理质疑,如指出算法在类似案件中的错误案例或存在已知的公平性缺陷等,即可触发控方或审方更进一步的、深入的证明义务;如果进一步的证明不足以排除合理怀疑,则该算法相关结论应当被排除。
第四,辩护权保障条款的整体解释。以《刑事诉讼法》第14条为代表的一系列条款,强调了司法机关对被追诉人辩护权有保障义务。通过体系解释,这些条款应涵盖算法辩护场景。例如,司法机关需依职权主动审查算法应用的合规性,并确保辩护方有充分机会挑战算法的可靠性;对于技术能力不足的辩方,司法机关应履行说明和告知义务,提示其可申请技术专家进行辅助。对于侵犯辩护权所导致的救济程序,如启动上诉、再审等,也应当拓展至侵犯算法辩护权的情形。
综上,通过解释论路径,可将传统辩护权灵活适用于算法司法场景,为算法辩护权注入丰富内容。随着司法实践的积累,解释论经验可为未来《刑事诉讼法》再修法提供立法积累,最终实现算法时代有效辩护的全面保障。
六
结语
每一次重大技术变革进入司法场域,都会引发权力与权利之间关系的调整。当人工智能开始参与证据审查、量刑建议、社会危险性评估等诉讼环节,辩护权所面对的不再仅仅是公权力机关的指控、审判行为,更是一个由代码、数据和模型构成的“权力技术复合体”。传统辩护权框架下以“人对人”对抗为预设的程序机制,在算法黑箱、信息鸿沟、自动化偏见面前呈现出结构性局限。算法辩护权的提出,正是对这一权力形态变迁的回应。知情权打开技术黑箱,质证权构造对抗空间,救济权形成纠偏闭环,三者共同构成一个完整的防御链条,使被追诉人从被动的技术承受者转变为能够实质参与算法决策的程序主体。这一权利体系的制度化,有赖于技术管理、立法赋权、司法解释的协同推进,其意义不止于刑事诉讼技术规则的调适,更是“坚持以人民为中心”司法理念在数字时代司法领域的具体体现。赋予被追诉方应对算法权力的实质性权利,确保司法科技的进步不被困于“技术至上”的迷思,是践行司法为民、实现“努力让人民群众在每一个司法案件中感受到公平正义”的必然要求。
-向上滑动,查看完整目录-
《比较法研究》2026年第4期目录
【习近平法治思想研究】
1.试论动态平衡诉讼价值观
陈光中、田博博(1)
2.生态环境法典“系统治理”原则的教义学展开
秦天宝(13)
【中国自主法学知识体系】
3.不动产以物抵债执行异议之诉的法律构造
唐力(29)
4.算法辩护权:人工智能时代的权利拓展
陶朗逍(43)
5.裁量基准过程性司法审查研究
任佳艺(58)
【专题研讨:数字法治前沿】
6.用户画像风险识别与法律规制
杨芳(71)
7.风险社会中的自动人脸识别措施:宪法回应与刑事诉讼之规制
李倩(87)
8.智能视频监控的法律规制:以自动化水平为中心
朱铮(103)
【论文】
9.股东失权与认缴资本信用的系统修复
赵玉(117)
10.论未成年人的个人信息同意
袁治杰(133)
11.人工智能自动行为的法律认定及责任归属
——以“养龙虾”模式为例
游文亭(149)
12.公平竞争标准嵌入备案审查的法理与实现路径
蔡倩梦(165)
13.分层分类体系下新业态劳动者权益保护规则的重构
许剑波(180)
14.困境与出路:减刑、假释案件中财产性判项履行情况证明
罗海敏(196)
15.从脑信号到作品:脑机接口技术对著作权保护的挑战与因应
夏毓镁(208)
![]()
《比较法研究》是由中华人民共和国教育部主管、中国政法大学主办、中国政法大学比较法学研究院编辑的法学期刊,为双月刊,逢单月25日出版发行。《比较法研究》是纯学术性法学期刊,主要刊载比较法学研究的学术论文,现设有“论文”、“专题研讨”、“法政时评”、“法学译介”等栏目。
点击进入下方小程序
获取专属解决方案~
责任编辑 | 沈尧方
审核人员 | 孙妹 白雪
本文声明 | 本文章仅限学习交流使用,如遇侵权,我们会及时删除。本文章不代表北大法律信息网(北大法宝)和北京北大英华科技有限公司的法律意见或对相关法规/案件/事件等的解读。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.