人工智能量刑应用的风险分析与应对思考

　　随着近年信息技术革命的兴起，人工智能对司法活动的辅助作用日益彰显，许多国家和地区的法院对司法智能化的项目非常热忱。然而，当前司法实践领域运用的“人工智能”技术尚未达到像“人”一样思考的程度，人工智能在是非辨识、价值判断、法律援引等司法裁判应用方面还面临一系列难题。特别是将其用于刑事案件量刑，涉及到被告人生命、自由等重要法益，须慎之又慎。本文从梳理当前人工智能在国内外量刑应用出发，重点分析人工智能量刑应用风险，探索防范对策，以期保障被告人合法权益，彰显司法公正。

　　一、现状分析：人工智能量刑的应用价值

　　经过调研，人工智能在国内外司法实践中被广泛的运用于刑事案件量刑领域。

　　（一）人工智能量刑在美国司法实践中的应用

　　早在二十世纪七十年代，美国刑事司法系统就已经开始开发和运用风险评估工具。目前美国主流的三种风险评估软件分别是COMPAS、PSA和LSI-R，其中COMPAS系统应用最广。COMPAS系统作为犯罪矫正替代性制裁分析管理的工具，可以对诱发犯罪的行为因素和犯罪再犯可能性进行评估，被美国刑事司法系统用于协助提出保释和量刑的建议。然而，有学者研究称，该系统对某一群体的风险预估的准确性远大于对于某一个人的风险预估。

　　（二）人工智能量刑在国内司法实践中的应用

　　山东淄川区法院2006年推出的电脑量刑系统是国内最早的人工智能在刑事量刑领域的应用。北京高院2016年底推出了可以为法官提供量刑分析的“睿法官”智能研判系统。2017年，“刑事案件智能辅助办案系统”在上海市法院投入应用，该系统具备量刑参考、类案推送、社会危险性评估等24项功能。同年9月，最高人民法院启动量刑智能辅助系统的开发，计划构建一个完善的全国法院量刑智能辅助系统，实现量刑现代化。

　　（三）人工智能量刑在司法实践中的应用价值

　　最高法院周强院长指出，研发与应用各类人工智能办案辅助平台，利用大数据对案件进行标准化认定，可以推进司法公正。一方面，人工智能量刑可以提升司法裁判公正性。量刑辅助系统为法官提供量刑建议、类案推送，法官可参考类案情况下相似的量刑，一定程度解决“同案不同判”问题。另一方面，人工智能量刑可以提升审判效率。量刑辅助系统处理审理案件前、裁判过程中的事务性、技术性任务，为法官进行自由裁量预留更多时间，有效提升审判效率、缓解人案矛盾。

　　二、困境解读：人工智能量刑的应用风险

　　人工智能作为新一轮科技革命和产业变革的重要驱动力量，其快速发展的同时，机遇与风险相伴相生。尤其是应用到司法裁判领域，还存在诸多风险问题需要加紧解决。

　　（一）扮演角色定位不准可能颠覆传统司法模式

　　虽然当前人工智能的“智能化”水平还处于“弱人工智能”阶段，但是其技术及应用水平仍然有非常大的进步空间。现阶段，传统的严格以人为法定主体的司法模式仍然牢不可撼。法律不应当被技术牵制，而应当规范技术对人类社会的影响，让人类社会向着美好的方向发展。如果不明确人工智能参与量刑是担任辅助角色还是代替人类法官，当其智能化程度发展到一定阶段，将可能完全替代司法人员办案，颠覆传统司法模式，很可能引发不可逆转的灾难。

　　（二）算法偏见和数据匮乏可能影响司法裁判公正

　　人工智能量刑是在高度不完全结构化前提下，基于海量数据支撑，用算法做出的合理预测。如果算法设计者缺乏司法知识构成、司法经验积累与司法伦理观念，极有可能导致算法偏见。如使用COMPAS系统量刑的“威斯康星州诉埃里克·卢米斯”案，就曾被怀疑有算法歧视的倾向。同时，有限数据归纳得出的预测结论会缺乏稳定性。国内司法领域人工智能研发的数据支撑主要依赖于中国裁判文书网公开的裁判文书，但其统计的文书类型繁杂、未包含不宜公布的类型、新增罪名公开文书数量有限，很难达到大数据的体量标准和特征数。

　　（三）人工智能系统自主决策可能引发司法责任问题

　　解决人工智能系统自主决策的自主性、智能系统算法的封闭性引发的司法责任问题，是一个不可回避的议题。不同于相对简单的语音识别转录技术功能，量刑智能化将直接影响被告人的权利、义务和责任，细微的参数调整就可能带来较大的量刑出入。人类可以为自己的决定造成的不利后果承担责任，可是人工智能如何担责？责任主体模糊可能会使人工智能决策陷入审查难、问责难的窘境。公众或许会因此对人工智能的决策产生怀疑，从而影响司法公信力，损害司法权威。

　　三、完善途径：人工智能量刑的应用思考

　　人工智能辅助刑事量刑的积极意义是毋庸置疑的，但有必要采取有效措施防止不可逆的危害结果发生。

　　（一）明确研发方向，限定人工智能辅助量刑角色定位

　　应当明确人工智能量刑在当前乃至未来很长一段时间内，只是辅助司法人员更加精准量刑的工具，避免当人工智能的智能化程度发展到一定阶段时完全替代司法人员办案，颠覆传统司法模式。无论研发团队的专业能力有多么出众，都不可能一步到位、不经过试错就研发出一个完全成熟的司法人工智能系统。只有在明确有实力的研发主体的条件下，将辅助司法办案人员作为现阶段人工智能的准确定位，循序渐进的夯实研发基础，尊重和适应科技发展、司法审判的客观规律，人工智能在刑事裁判领域的应用才可能越走越远。

　　（二）杜绝研发风险，提升算法透明度和数据广度

　　司法机关大多采用与科技公司合作研发的模式开发人工智能系统，研发技术、成果多数掌握在公司手里。在合作过程中，司法机关有义务促其增强算法的透明度，明确告知人工智能运用时可能产生的偏见和错误。同时，建立司法数据库，自己掌握数据，逐步有效解决当前数据匮乏的问题。推动裁判文书网上公开，加速法院历史档案电子化进程；打破公检法司之间的信息壁垒，实现信息共享；谨慎的与非官方的科研机构、律师事务所等合作，进一步完善司法数据库。

　　（三）探索不同途径，组建人机结合的新型司法模式

　　虽然法律人对人工智能介入司法领域往往持犹疑与不信任的态度，对其角色定位更倾向于法官的“助手”并非“替身”，但是以人类法官为核心的司法制度并不是完美的。这点从发生的“冤假错案”上就能推断出来，毕竟人总会犯错，准确率的确不能和机器比拟。人工智能的介入恰恰能弥补这一不足，它可以辅助办案人员查漏补缺，也可以成为维护司法规则的正义的监督者。人工智能辅助刑事量刑，提供了组建人与人工智能结合的新型司法模式的可能。

　　结 语

　　“欲速则不达”。人工智能量刑应用的开发需要长时间、专注的投入与坚持，绝非俯仰之间即可成熟运用。人工智能量刑应用的研发之路也许不会一帆风顺，可能会遇到很多艰难险阻，但我们相信，最终总能寻求到正确的方法，突破当前种种壁垒，让人工智能量刑应用在智慧法院建设中大展拳脚。

　　责任编辑：广汉