nav emailalert searchbtn searchbox tablepage yinyongbenwen piczone journalimg journalInfo journalinfonormal searchdiv searchzone qikanlogo popupnotification paper paperNew
2018, 06, No.262 76-85+157
人工智能辅助刑事裁判的不确定性风险及其防范——美国威斯康星州诉卢米斯案的启示
基金项目(Foundation): 中国法学会2016年度部级法学研究课题“人工智能风险治理的法治化问题及我国的对策研究”[CLS(2016)C12]的阶段性成果;; 上海市欧美同学会研究中心对后续研究的资助
邮箱(Email):
DOI: 10.14167/j.zjss.2018.06.012
摘要:

审判体系和审判能力智能化是当前我国司法改革的取向之一,智能辅助刑事裁判系统的建设和应用具有重要的现实意义。美国卢米斯案中智能辅助量刑引发的争议启示我们应当注意人工智能辅助刑事裁判的不确定性、可解释性风险。应当坚守法官的主体性和智能裁判系统的工具性,防止出现对于智能工具的过度依赖和锚定效应。确立司法智能化改革和智能辅助裁判系统应用的制度框架,制定智能辅助裁判工具设计与使用的伦理准则,加强人工智能法学复合型人才培养,着力实现司法公开和司法正义。

Abstract:

Judicial system and judiciary intelligence are one of the orientations of China's judicial reform. The construction and application of the Intelligent Auxiliary Criminal Judgment System(IACJS) has important practical significance. The controversy of the case of State v. Loomis, 881 N.W.2 d 749(Wis.2016) alerts us to the uncertainty and the interpretative risk of IACJS. In the design and application of it,we should stick to the subjectivity of judges and the instrumentalities of IACJS to prevent over-reliance and anchoring effects. We should also establish the institutional framework of IACJS, formulate ethical guidelines for the design and use of the intelligent tools, strengthen the cultivation of compound talents with artificial intelligence technology and legal knowledge, and strive to achieve judicial openness and judicial justice.

参考文献

(1)崔亚东:《人工智能让司法更加公正高效权威——人工智能在司法领域应用的理论分析与实践探索》,载《中国审判》2017年第31期。

(2)Sartor,Giovanni.Introduction:Judicial Applications of Artificial Intelligence.Artificial Intelligence&Law 6.2-4(1998):105~110.

(3)黄京平:《刑事司法人工智能的负面清单》,载《探索与争鸣》2017年第10期。

(4)See European Parliament Resolution of 16 February2017,Report with Recommendations to the Commission on Civil Law Rules on Robotics(2015/2103(INL)),available at European Parliament:http://www.europarl.europa.eu/sides/get Doc.do?type=REPORT&reference=A8-2017-0005&language=EN(last visit:2017/10/11).

(5)(8)(15)(23)(47)(48)(49)See Review,Harvard Law.Criminal Law-Sentencing Guidelines-Wisconsin Supreme Court Requires Warning before Use of Algorithmic Risk Assessments in Sentencing-State V.Loomis.Harvard Law Review 130(2017).

(6)宋英辉、孙长永、朴宗根等著:《外国刑事诉讼法》,北京大学出版社2011年版,第94页。

(7)See Christopher Markou,Why using AI to sentence criminals is a dangerous idea?Available at The Conversation:http://theconversation.com/why-using-ai-to-sentence-criminals-is-a-dangerous-idea-77734(last visit:2017/10/11).

(9)该修正案于1791年起生效,其内容为:“在所有刑事案中,被告人应有权提出下列要求:要求由罪案发生地之州及区的公正的陪审团予以迅速及公开之审判,并由法律确定其应属何区;要求获悉被控的罪名和理由;要求与原告的证人对质;要求以强制手段促使对被告有利的证人出庭作证;并要求由律师协助辩护。”

(10)(14)Loomis v.Wisconsin,Petition for certiorari denied on June 26,2017,available at:http://www.scotusblog.com/case-files/cases/loomis-v-wisconsin/(2018/3/2).

(11)王虹霞:《个殊性司法之反思——评〈初审法院——美国司法中的神话与现实〉》,载陈金钊、谢晖主编:《法律方法》第18卷,山东人民出版社2015年版,第462页。

(12)黎宏:《刑法学总论》,法律出版社2016年版,第359页。

(13)杨东亮:《刑罚个别化的正当程序载体:判决前调查报告》,载《证据科学》2013年第3期。

(16)Sonja B.Starr,Evidence-Based Sentencing and the Scientific Rationalization of Discrimination,66 STAN.L.REV.803,806(2014).

(17)See Cecelia Klingele,The Promises and Perils of Evidence-Based Corrections,9I NOTRE DAME L.REV.537,577(2015).

(18)Jason Tashea,Courts Are Using AI to Sentence Criminals.That Must Stop Now,available at Wired:https://www.wired.com/2017/04/courts-using-ai-sentence-criminalsmust-stop-now/(last visit:2017/11/03).

(19)See Sam Corbett-Davies et al.,A Computer Program Used for Bail and Sentencing Decisions Was Labeled Biased Against Blacks.It's Actually Not That Clear,WASH.POST(Oct.17,2016).

(20)李斌、徐富明、王伟等:《锚定效应的种类、影响因素及干预措施》,载《心理科学进展》2010年第18期。

(21)刘新慧:《刑事冤案中的锚定效应探究》,载陈金钊、谢晖主编:《法律方法》2016年卷,第90~104页;杨彪:《司法认知偏差与量化裁判中的锚定效应:基于精神损害赔偿案件的实证分析》,载《中国法学》2017年第6期。

(22)See Clewer,Alan.The Cambridge Dictionary of Statistics(3rd.edition).Cambridge University Press,2006:226.

(24)陈瑞华著:《刑事证据法学》,法律出版社2012年版,第70页。

(25)周蔚:《大数据在事实认定中作用机制分析》,载《中国政法大学学报》2015年第6期。

(26)张吉豫:《大数据时代中国司法面临的主要挑战与机遇》,载《法制与社会发展》2016年第6期。

(27)张效祥主编:《计算机科学技术百科全书》(第2版),清华大学出版社2005年版,第586页。

(28)王烨捷:《鼻祖迈克尔·乔丹给AI泼了盆冷水》,载《中国青年报》2017年10月31日第10版。

(29)Fei-fei Li,Visual Intelligence Beyond Image Net,Future Forum,Beijing,2017-10-28.

(30)黄民烈、朱小燕:《期待人工智能突破鲁棒性可解释性局限》,载《中国电子报》2017年9月1日第7版。

(31)Castelvecchi,Davide.“Can we open the black box of AI?”Nature 538.7623(2016):20.

(32)丁晓东:《算法与歧视》,载《中外法学》2017年第6期。

(33)Oren Etzioni,Answer to what shortcomings do you see with deep learning?https://www.quora.com/session/Oren-Etzioni-1/1(last visit 2018/3/17).

(34)See European Parliament,Council of the European Union,Regulation(EU)2016/679 of the European Parliament and of the Council of 27 April 2016 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data,and repealing Directive 95/46/EC(General Data Protection Regulation):(63).

(35)Wachter,Sandra and Mittelstadt,Brent and Floridi,Luciano,Why a Right to Explanation of Automated DecisionMaking Does Not Exist in the General Data Protection Regulation(December 28,2016).International Data Privacy Law,2017.

(36)Dillon Reisman,Jason Schultz,Kate Crawford,etc.Algorithmic Impact Assessments:A Practical Framework For Public Agency Accountability,April 2018.

(37)Slobogin,Christopher,Principles of Risk Assessment:Sentencing and Policing(February 27,2018).Ohio State Journal of Criminal Law,Vol.15,2018.

(38)(41)[英]维克托·迈尔-舍恩伯格、肯尼斯·库克耶著,盛杨燕、周涛译:《大数据时代:生活、工作与思维的大变革》,浙江人民出版社2013年版,第45、67、247页。

(39)张效祥主编:《计算机科学技术百科全书》(第2版),清华大学出版社2005年版,第706页。

(40)高菲:《基于机器学习的计算机辅助量刑初探》,华东政法学院2005年刑法学专业硕士学位论文。

(42)See National Artificial Intelligence Research and Development Strategic Plan,available at:https://www.nitrd.gov/PUBS/national_ai_rd_strategic_plan.pdf(last visit:2017/12/03).

(43)[美]劳伦斯·莱斯格著,李旭、沈伟伟译:《代码2.0:网络空间中的法律》,清华大学出版社2009年版,第5页。

(44)吴习彧:《司法裁判人工智能化的可能性及问题》,载《浙江社会科学》2017年第4期。

(45)陈学勇:《最高人民法院立项开发建设量刑智能辅助系统》,载《人民法院报》2017年9月27日第1版。

(46)周强:《最高人民法院工作报告(摘要)》,《人民日报》2018年3月10日第2版。

(50)熊永明:《电脑量刑的效用研究》,载《湖北警官学院学报》2008年第3期。在此意义上,南京市中级人民法院2017年1月关于否认引入机器人辅助办案的公开声明具有值得肯定之处——尽管其主要目的在于回击相关商业公司的市场炒作,该声明中称:“司法是具有经验和价值判断性质的工作,再聪明的机器或软件都不能完全替代法官的工作,只能为法官提供办案支持与辅助。”参见崔佳明:《南京法院拟引入机器人辅助判案?官方回应系编造》,载中国新闻网:http://www.chinanews.com/gn/2017/01-02/8111563.shtml(访问日期:2017/11/02)。

(51)《最高人民法院关于常见犯罪的量刑指导意见》(法发[2017]7号)。

(52)(53)[美]理查德·波斯纳著,苏力译:《法官如何思考》,北京大学出版社2009年版,第5页。波斯纳法官在此处的脚注中特别指出:“我不知道原旨主义者和其他法条主义者为什么不热情支持人工智能。”

(54)[美]巴里·海格著,曼斯菲尔德太平洋事务中心译:《法治:决策者概念指南》,中国政法大学出版社2005年版,第61页。

(55)值得注意的是,继“206工程”(即上海刑事案件智能辅助办案系统)运行后,上海市高级人民法院已于2017年11月30日宣布“民商事、行政案件智能辅助办案系统”试运行。参见余东明:《民商事法官用上“智能助手”》,载《法制日报》2018年1月22日第5版。

(56)See IEEE,Ethically Aligned Design:A Vision for Prioritizing Human Wellbeing with Artificial Intelligence and Autonomous Systems,available at Ieeexplore:http://ieeexplore.ieee.org/document/8058187/?part=1(last visit:2017/11/18).

(57)张保生:《人工智能法律系统的法理学思考》,载《法学评论》2001年第5期。

(58)Peter Stone,Rodney Brooks,Erik Brynjolfsson,etc.“Artificial Intelligence and Life in 2030.”One Hundred Year Study on Artificial Intelligence:Report of the 2015-2016Study Panel,Stanford University,Stanford,CA,September2016.

基本信息:

DOI:10.14167/j.zjss.2018.06.012

中图分类号:D971.2;DD914

引用信息:

[1]朱体正.人工智能辅助刑事裁判的不确定性风险及其防范——美国威斯康星州诉卢米斯案的启示[J].浙江社会科学,2018,No.262(06):76-85+157.DOI:10.14167/j.zjss.2018.06.012.

基金信息:

中国法学会2016年度部级法学研究课题“人工智能风险治理的法治化问题及我国的对策研究”[CLS(2016)C12]的阶段性成果;; 上海市欧美同学会研究中心对后续研究的资助

发布时间:

2018-06-13

出版时间:

2018-06-13

检 索 高级检索

引用

GB/T 7714-2015 格式引文
MLA格式引文
APA格式引文