高级检索

学术资源

工商行政法

当前位置: 首页 -> 学术资源 -> 部门行政法学 -> 工商行政法 -> 正文

王禄生:司法大数据与人工智能技术应用的风险及伦理规制

信息来源:《法商研究》2019年第2期 发布日期:2019-04-14

【注释】

*东南大学法学院研究员、东南大学人民法院司法大数据研究基地研究人员

  基金项目:国家社会科学基金项目(17ZDA131)、最高人民检察院检察理论研究课题(GJ2017C09)、东南大学优秀青年教师教学科研资助计划

  [1]截至2018年3月,全国86%的法院建成高度信息化的智能化诉讼服务大厅,包括智能导诉机器人等一批应用投入使用。参见刘子阳、王芳:《铆足马力创新发展深化智能应用》,《法制日报》2018年3月13日。

  [2]马长山教授提出人工智能技术可能给社会带来伦理风险、极化风险、异化风险、规制风险与责任风险。参见马长山:《人工智能的社会风险及其法律规制》,《法律科学》2018年第6期。

  [3]参见於兴中:《人工智能、话语理论与可辩驳推理》,载葛洪义主编:《法律方法与法律思维》(第3辑),中国政法大学出版社2005年版,第122~123页。

  [4] See Henry Prakken, AI &Law on Legal Argument: Research Trends and Application Prospects, 5SCRIPTed: A Journal of Law, Technology and Society, 449-451(2008).

  [5]转引自李彦宏等:《智能革命:迎接人工智能时代的社会、经济与文化变革》,中信出版社2017年版,第17页。

  [6]当前司法人工智能应用的核心思路被人工智能专家概括为“大数据、小任务范式”(big data for small task,也称作“鹦鹉模式”)。换言之,本文论证的司法人工智能实际上属于“大数据智能”的流派。然而,“大数据智能”并非当前实现人工智能的唯一方向。“小数据、大任务”(也称作“乌鸦模式”)的人工智能研发已经展开。我国《新一代人工智能发展规划》就将人工智能分为大数据智能、跨媒体智能、群体智能、混合增强智能、自主智能等领域。美国资深人工智能学者钱德拉塞克拉曾谈到:“最近几年,人工智能在很大程度上集中于统计学与大数据。我同意由于计算能力大幅提高,这些技术曾经取得过某些令人印象深刻的成果。但我完全有理由相信,虽然这些技术还会继续改进、提高,总有一天这个领域(指AI)会对它们说再见,并转向更加基本的认知科学研究。”参见周志华:《机器学习》,清华大学出版社2018年版,第i-ii页。

  [7]参见周英、卓金武、卞月清:《大数据挖掘:系统方法与实例分析》,机械工业出版社2016年版,第7页。

  [8]参见黄茂荣:《大数据如何看待理论、因果与规律——与齐磊磊博士商榷》,《理论探索》2016年第12期。

  [9]参见[英]维克托·迈尔-舍恩伯格、肯尼思·库克耶:《大数据时代:生活、工作与思维的大变革》,盛杨燕、周涛译,浙江人民出版社2014年版,第197页。

  [10]“K最近邻算法”(K-Nearest Neighbor, KNN)广泛被应用于相似度的计算,其在类案推荐中的详细技术逻辑,参见佘贵清:《基于规则和案例推理集成的刑事案件量刑决策支持研究》,电子工业出版社2016年版,第108~115页。

  [11]参见姚海鹏、王露瑶、刘韵洁:《大数据与人工智能导论》,人民邮电出版社2017年版,第29页。

  [12]参见涂子沛:《数据之巅:大数据革命,历史、现实与未来》,中信出版社2014年版,第268页。

  [13]以“伤情”这一维度为例,包含的属性值就有轻微伤、轻伤、重伤等不一而足。参见佘贵清:《基于规则和案例推理集成的刑事案件量刑决策支持研究》,电子工业出版社2016年版,第94页、附录E。

  [14]简单来说,标量(scalar)是一个数,向量(vector)是一列数,矩阵(matrix)是一张二维的数据表,而张量(tensor)则是三维数据表。

  [15]参见左卫民:《信息化与我国司法——基于四川省各级人民法院审判管理创新的解读》,《清华法学》2011年第5期。

  [16]参见李万涛:《我国法院信息化建设研究》,载王小林主编:《信息化时代司法公开的逻辑与进路》,人民法院出版社2015年版,第520页。

  [17]《最高人民法院关于加快建设智慧法院的意见》提出“深度分析用户诉讼行为,挖掘用户个性化需求,精准推送司法公开信息”。其实质是在借助网页浏览记录进行“用户画像”的基础之上分析当事人的关注点,并推荐符合当事人需求的司法公开信息。

  [18]2018年1月,科技部发布了国家重点研发专项“公正司法与司法为民关键技术研究与应用示范”专题第一批指南,拟投入4.5亿进行16项司法大数据与人工智能技术的研发,其中就包括诉讼结果的预测。上述应用的技术逻辑通常是从海量裁判文书中抽取情节和裁判结果,通过机器学习等形成量刑预测模型,并在新的案件出现时自动提取情节、匹配模型进而做出判决结果预测。

  [19]《人民法院信息化建设五年发展规划(2016-2020)》第30条规定“建设基于大数据智能服务的审判支持系统”。以证据统一化为例,上海与贵州法院通过海量卷宗的挖掘,构建刑事案件证据模型,把统一的证据标准镶嵌到数据化的程序之中,系统会自动预警证据中存在的瑕疵。参见余东明:《上海应用“人工智能”办案防范冤假错案全国首个“智能辅助办案系统”问世》,《法制日报》2017年7月11日;汤婷婷:《“智慧法院”高效公正》,《贵州日报》2017年7月11日。

  [20]通过被执行人的“人物画像”(社交关系、财产状况),预警财产转移风险、形成精准化执行策略的应用也逐步在全国各地试点运行。参见徐隽:《司法大数据这样助力审判执行》,《人民日报》2017年5月24日。

  [21]基于对大数据的挖掘,可以形成案件发展趋势的模型,进而对当前乃至未来一段时间内犯罪方式的演化、审判态势的发展提供预测和管理决策。浙江省高级人民法院就通过数据挖掘形成危险驾驶罪高发地段的地图并预测醉驾的数量。参见高敏:《高院牵手阿里“智慧法院”充满魅力》,《浙江法制报》2015年11月25日。

  [22]参见丁国锋:《八种“机器人”助力苏州法官判案》,《法制日报》2017年4月15日;顾元森:《江苏将推广“智慧法院”庭审效率可提高30%》,《现代快报》2017年4月15日。

  [23]法院信息化1.0以“数字化”为核心,关注的是纸质文档向电子文档的转换;法院信息化2.0以“网络化”为核心,关注的是法院工作方式由线下向线上转换;法院信息化3.0则以“智能化”为核心,是在数字化与网络化基础之上通过大数据与人工智能技术实现智能化。

  [24]习近平:《坚定不移推进司法体制改革》,《新华日报》2017年7月11日。

  [25]郭声琨:《以习近平新时代中国特色社会主义思想为指导 奋力开创新时代政法事业新局面》,《公安日报》2017年11月1日。

  [26]周强:《以习近平总书记系列重要讲话指导司法改革和司法实践》,《人民法院报》2015年7月3日。

  [27]美国联邦最高法院首席大法官罗伯茨认为,尽管当今世界科学技术的发展突飞猛进,但法院应该像执着的乌龟一样回应。参见[美]罗伯茨:《美国联邦最高法院2014年年终报告》,黄斌、杨奕编译,《人民法院报》2015年1月16日。

  [28]参见蔡长春:《“智慧法院”为司法事业插上腾飞翅膀》,《法制日报》2016年4月13日。

  [29]参见张毅:《促进电子商务健康快速发展外经贸部成立国际电子商务管理司》,《人民日报》(海外版)2001年8月31日。

  [30]2009年8月19日,上海市第一中级人民法院启动了全国首家“网络法院”,从而使整个诉讼过程具备了网络化。参见《首家网上法院上海开庭具备完善诉讼过程》,《人民日报》(海外版)2009年8月21日。

  [31]参见中国社会科学院法学研究所国家法治指数研究中心、中国社会科学院法学研究所法制指数创新工程项目组:《中国法院信息化第三方评估报告》,中国社会科学出版社2016年版,第5~7页。

  [32]关于科技异化的相关论述,参见李桂花:《科技哲思——科技异化问题研究》,吉林大学出版社2011年版,第182~183页。

  [33]参见王琦、安晨曦:《时代变革与制度重构:民事司法信息化的中国式图景》,《海南大学学报》(人文社会科学版)2014年第5期。

  [34]参见[法]米歇尔·福柯:《规训与惩罚》(修订译本),刘北成、杨远婴译,生活·读书·新知三联书店2017年版,第29页。

  [35]参见[法]米歇尔·福柯:《规训与惩罚》(修订译本),刘北成、杨远婴译,生活·读书·新知三联书店2017年版,第251页。

  [36][法]让-弗朗索瓦·利奥塔尔:《后现代状态:关于知识的报告》,车槿山译,生活·读书·新知三联书店1997年版,第17页。

  [37]参见王禄生:《大数据与人工智能司法应用的话语冲突及其理论解读》,《法学论坛》2018年第5期。

  [38]参见郑戈:《算法的法律与法律的算法》,《中国法律评论》2018年第2期。

  [39]参见丁国锋:《八种“机器人”助力苏州法官判案》,《法制日报》2017年4月15日;顾元森:《江苏将推广“智慧法院”庭审效率可提高30%》,《现代快报》2017年4月15日。

  [40]该系统被称作“庭审智能巡查系统”或“庭审智能督查系统”,在搜索引擎上键入上述关键词即可发现已有产品面世。

  [41]参见闵凌欣、詹旋江:《智慧法院:释放不一样的司法红利》,《福建日报》2018年4月21日。

  [42][美]德沃金:《法律帝国》,李常青译,中国大百科全书出版社1996年版,第361页。

  [43]“数据主义”(data-ism)是一种视一切为数据并以数据为中心的世界观,大数据技术的发展极大地推动并强化了“数据主义”。参见高兆明:《“数据主义”的人文批判》,《江苏社会科学》2018年第4期。

  [44]参见郑戈:《算法的法律与法律的算法》,《中国法律评论》2018年第2期。

  [45]参见王馥芳:《警惕技术权力这把“双刃剑”》,《社会科学报》2016年3月3日。

  [46]参见陈爱华:《哈贝马斯科技伦理观述——评哈贝马斯〈作为“意识形态”的技术与科学〉解读》,《伦理学研究》2007年第3期。

  [47]参见余东明:《上海应用“人工智能”办案防范冤假错案全国首个“智能辅助办案系统”问世》,《法制日报》2017年7月11日;汤婷婷:《“智慧法院”高效公正》,《贵州日报》2017年7月11日。

  [48]类似的“智慧公诉辅助办案系统”在检察机关已经投入使用,两者的技术逻辑是一致的,只是场景由法院替换为检察院。参见范跃红、关巧巧:《办理“醉驾”案驶入“快车道”》,《检察日报》2018年6月13日。

  [49]参见刘永谋:《论技治主义:以凡勃仑为例》,《哲学研究》2012年第3期。

  [50]参见向玉琼:《论公共政策的“公共性”》,《浙江社会科学》2016年第2期。

  [51]关于中国司法系统的“技术性改革”,可参见宋远升:《技术主义司法改革与法治现代化》,上海人民出版社2017年版,“序言”第1~2页。

  [52]关于现代技术的单一性、潜在性与不确定性的相关论述,参见庄友刚:《风险社会中的科技伦理:问题与出路》,《自然辩证法研究》2005年第6期;李文潮:《技术伦理面临的困境》,《自然辨证法研究》2005年第11期。

  [53]参见庄友刚:《风险社会中的科技伦理:问题与出路》,《自然辩证法研究》2005年第6期。

  [54]参见庄友刚:《科技伦理讨论:问题实质与理论自觉》,《观察与思考》2017年第3期。

  [55]参见郑戈:《人工智能与法律的未来》,《探索与争鸣》2017年第10期。

  [56]安宝洋、翁建定:《大数据时代网络信息的伦理缺失及应对策略》,《自然辩证法研究》2015年第12期。

  [57]由英国学者科林格里奇在1980年提出,意指一个技术在发展初期若不充分规制,发展壮大后就将无法规制。参见陈凡、贾璐萌:《技术控制困境的伦理分析——解决科林格里奇困境的伦理进路》,《大连理工大学学报》(社会科学版)2016年第1期。

  [58]李文潮:《技术伦理面临的困境》,《自然辨证法研究》2005年第11期。

  [59]陈瑞华:《司法权的性质——以刑事司法为范例的分析》,《法学研究》2000年第5期。

  [60]《人民法院信息化建设五年发展规划(2016-2020)》第30条要求,建设基于大数据智能服务的审判支持系统,建设线索发现等审判支持应用。

  [61]参见陈瑞华:《司法权的性质——以刑事司法为范例的分析》,《法学研究》2000年第5期。

  [62]参见李本:《美国司法实践中的人工智能:问题与挑战》,《中国法律评论》2018年第2期。

  [63]远程庭审是传统司法信息化建设的内容。不过,随着司法大数据与人工智能技术的引入,远程庭审开始增加智能模块,包括根据在调案件情况智能生成调解预案、调解书,并给调解员推荐相似案件。

  [64]参见侯猛:《互联网技术对司法的影响——以杭州互联网法院为分析样本》,《法律适用》2018年第1期。

  [65]参见裴炜:《个人信息大数据与刑事正当程序的冲突及其调和》,《法学研究》2018年第2期。

  [66]参见陈瑞华:《司法权的性质——以刑事司法为范例的分析》,《法学研究》2000年第5期。

  [67]参见吴月辉:《人工智能会取代人类吗》,《人民日报》2017年7月7日。

  [68]参见张新宝:《把握法律人工智能的机遇迎接法律人工智能的挑战》,《法制日报》2017年6月28日;沈寅飞:《人工智能+法律=?》,《检察日报》2017年7月26日。

  [69]胡凌:《大数据影响下的法律实践与法学研究》,《光明日报》2014年12月3日。

  [70]参见高奇琦、张鹏:《论人工智能对未来法律的多方位挑战》,《华中科技大学学报》(社会科学版)2018年第1期。

  [71]“垃圾进、垃圾出”(garbage in, garbage out)是人工智能领域最为重要的难题,在司法领域是指模型训练过程中如何确保训练样本都是正确的判决书(生效判决不一定就是正确判决),其实质是司法人工智能训练数据的可靠性难题。关于司法大数据与人工智能技术面临的障碍,参见王禄生:《司法大数据与人工智能的技术限度》,《中国法律评论》2018年第2期。

  [72]2018年7月,科技部发布了国家重点研发专项“公正司法与司法为民关键技术研究与应用示范”专题第二批指南,拟投入1.5亿进行5项司法大数据与人工智能技术的研发,其中就包括司法公开精准推送技术。

  [73]“反向匿名”是数据挖掘的一种方式,既在数据“匿名化”的前提下通过挖掘反推相应人员的身份。

  [74][联邦德国]马克斯·霍克海默:《批判理论》,李小兵等译,重庆出版社1990年版,第250页。

  [75]李文潮:《技术伦理面临的困境》,《自然辨证法研究》2005年第11期。

© 北大法宝:(www.pkulaw.com)专业提供法律信息、法学知识和法律软件领域各类解决方案。北大法宝为您提供丰富的参考资料,正式引用法规条文时请与标准文本核对。

欢迎查看所有产品和服务。法宝快讯:如何快速找到您需要的检索结果?法宝V6有何新特色?


上一页 [1] [2]