【注释】
基金项目：本文系国家社会科学基金重大项目《信息法基础》(16ZDA075)、司法部一般项目《人工智能时代算法治理的法律制度构建研究》(18SFB2010)以及2018年天津市人工智能发展战略研究项目《人工智能对社会治理模式变革影响研究》(18LZNGX00030)的阶段性成果，同时受到博士后面上基金资助。
作者简介：张凌寒(1982-)，女，河北张家口人，法学博士，东北师范大学政法学院副教授，北京航空航天大学博士后研究人员，主要研究方向：刑法学。感谢龙卫球老师在本文撰写过程中给予的悉心指导，作者文责自负。
[1]Northpoint公司开发的犯罪风险评估算法COMPAS对犯罪人的再犯风险进行评估，并非出一个再犯风险分数，法官可以据此决定犯罪人所遭受的刑罚。Kirchner, Julia Angwin Surya Mattu, Jeff Larson, Lauren.2016.‘Machine Bias: There’s Software Used Across the Country to Predict Future Criminals. And It’s Biased Against Blacks.’ ProPublica.https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing.2017年11月1日访问。
[2]参见[美]克里斯托弗斯坦纳：《算法帝国》，李筱莹译，人民邮电出版社2014年版，第21页。
[3]参见[美]克里斯托弗斯坦纳：《算法帝国》，李筱莹译，人民邮电出版社2014年版，第22页。
[4]参见王迁：《论“信息定位服务”提供者“间接侵权”行为的认定》，载《知识产权》2006年第16期。
[5]参见胡泳：《众声喧哗：网络时代的个人表达与公共讨论》，广西师范大学出版社2008年版，第116页。
[6]参见王迁：《信息网络传播权保护条例中“避风港”规则的效力》，载《法学》2010年第6期。
[7]参见Metro-Goldwyn-Mayer Studios, Inc.v. Grokster, Ltd.，545U. S.913 at948(2005).
[8]见北京市高级人民法院《(2007)高民初字第1201号民事判决书》。
[9]如美国、澳大利亚等国版权法学界与实务界均认为，提供指向侵权文件站点的链接并非“直接侵权”。有关搜索链接行为法律性质的认定对于信息定位链接行为不是“网络传播行为”、不构成“直接侵权”的结论，在国际上是高度一致的。参见梁志文：《论版权法之间接侵权责任》，载《法学论坛》2006年第5期。
[10]“信息定位服务”提供者一般有监视被链接信息内容的能力。因此，在早期的网络侵权诉讼中，法院通常会基于“信息定位服务”提供者没有发现并及时制止他人利用自己的服务实施侵权而推定其至少存在过错，应当承担侵权法律责任。但随着信息网络技术的飞速发展，法院这一“过错推定”的做法极大地影响了网络服务业的发展。法澄清适用于网络环境的“帮助侵权”规则。美国《千禧年数字版权法》以及欧盟《电子商务指令》均一致规定：网络服务商没有监视网络、寻找侵权活动的义务。对此，尽管我国尚未有法律明确承认这一规则，但相关判例却认可了该规则。
[11]“空白搜索框”的搜索模式是，“信息定位服务商”通过设置搜索框向用户提供其所选定的关键词的搜索链接。在这种搜索模式下，搜索引擎按照用户输入的关键词进行自动查找并列出指向第三方网站或其中文件的链接，用户选择输入什么样的关键词直接决定了其搜索信息的精确性，而不能决定该搜索出的信息是否侵权。换句话说，它可以搜索出任何内容，搜索出的信息既可能是侵权的，也可能是公有领域的信息，或者经权利人许可传播的不侵权的内容。因此，从这种意义上说，“空白搜索框”是一个中立的技术工具，具有“实质性非侵权用途”。
[12]参见王迁：《“索尼案”二十年祭——回顾、反思与启示》，载《科技与法律》2004年第4期。
[13]参见梅夏英、刘明：《网络侵权归责的现实制约及价值考量——以侵权责任法第36条为切入点》，载《法律科学(西北政法大学学报)》2013年第2期。
[14]互联网平台，也被称为互联网服务提供商。相关研究可参见周汉华：《论互联网法》，载《中国法学》2015年第3期。
[15]转引自赵鹏：《私人审查的界限——论网络交易平台对用户内容的行政责任》，载《清华法学》2016年第6期。
[16]参见赵鹏：《私人审查的界限——论网络交易平台对用户内容的行政责任》，载《清华法学》2016年第6期。
[17]参见Hogan B. The presentation of self in the age of social media: Distinguishing performances and exhibitions online. Bulletin of Science, Tech- nology & Society, 2010，30(6): 377-386.
[18]为加强网络言论管理，德国联邦议会周五通过了新的网络管理法，新法将于10月正式实施。在此法律下，Facebook等社交媒体未能在24小时内删除“显而易见的非法内容”——包括仇恨性言论、诽谤及煽动暴力等。http://finance.sina.com.cn/roll/2017-07-01/doc- ifyhryex5667798.shtml 2017年7月15日访问。印尼要求社交媒体关闭宣扬极端言论的账户。印尼通信部长警告社交媒体不关闭激进内容账户将被阻止共享http://finance.sina.com.cn/roll/2017-07-01/doc-ifyhryex5667798.shtml 2017年7月12日访问。
[19]参见《强化网站主体责任正当时》，中华人民共和国互联网信息办公室官方网站，http://www.cac.gov.cn/2016-12/22/c_1120166441.htm 2017年7月15日访问。
[20]参见Diakopoulos, N. Algorithmic accountability: journalistic investigation of computational power structures. Digit. Journal.3(3)，398–415(2015).
[21]Ben Wagner, Efficiency vs. Accountability?– Algorithms, Big Data and Public Administration.https://cihr.eu/efficiency-vs-accountability- algorithms-big-data-and-public-administration/2017年12月14日访问。
[22]2016年，一名叫Eric L. Loomis的被告人被判处了6年有期徒刑，部分原因是COMPAS认定他为“高风险”。Loomis认为法官对量刑算法的依赖侵害了他的法定诉讼权益。他提出审查COMPAS算法的请求，被威斯康辛州立法院驳回，提交给美国最高法院后也于2017年6月宣告诉讼失败。参见《红星专访美国机器判案法院：机器说你有罪，你果然有罪》，http://3g.163.com/news/article/CK3OKBQF0514ADND.html.
[23]淘宝自动化决策对用户违约的认定(6.1)，“6.1淘宝可在淘宝平台规则中约定违约认定的程序和标准。如：淘宝可依据您的用户数据与海量用户数据的关系来认定您是否构成违约；您有义务对您的数据异常现象进行充分举证和合理解释，否则将被认定为违约。”见《淘宝平台服务协议全文(2016年10月版)》，http://b2b.toocle.com/detail--6361764.html, 2017年11月23日访问。
[24]参见[美]卢克多梅尔：《算法时代：新经济的新引擎》，胡小锐、钟毅译，中信出版社2016年版，第87页。
[25]参见Gillespie, T. Algorithms(digital keywords).(2014) available at http://culturedigitally.org/2014/06/algorithm draft digitalkeyword/。
[26]参见Lepri B, Staiano J, Sangokoya D: The Tyranny of Data? The Bright and Dark Sides of Data- Driven Decision- Making for Social Good, Transparent Data Mining for Big and Small Data. Springer International Publishing, 2017: 3-24.
[27]参见胡凌：《人工智能视阈下的网络法核心问题》，载《中国法律评论》2018年第2期。
[28]淘宝自动化决策对用户违约的认定(6.1)，“6.1淘宝可在淘宝平台规则中约定违约认定的程序和标准。如：淘宝可依据您的用户数据与海量用户数据的关系来认定您是否构成违约；您有义务对您的数据异常现象进行充分举证和合理解释，否则将被认定为违约。”见《淘宝平台服务协议全文(2016年10月版)》，http://b2b.toocle.com/detail--6361764.html, 2017年11月23日访问。
[29]参见Pasquale F. The black box society: The secret algorithms that control money and information. Harvard University Press, 2015.
[30]相反，剑桥分析还表示，它的政治部门SCL Elections公司是从一家公司获得的授权数据，这家公司是通过Facebook提供的工具获取数据——这是“当时的普遍做法”。http://36kr.com/p/5128498.html, 2018年6月20日访问。
[31]参见张欣：《数字经济时代公共话语格局变迁的新图景——平台驱动型参与的兴起、特征与机制》，载《中国法律评论》2018年第2期。
[32]参见张凌寒：《风险防范下算法的监管路径研究》，载《交大法学》2018年第4期。
[33]参见Pasquale F. The black box society: The secret algorithms that control money and information. Harvard University Press, 2015.
[34]参见Geoff Mulgan: A machine intelligence commission for the UK, Mulgan, https://www.nesta.org.uk/team/geoff-mulgan/.
[35]参见Devin Coldewey: NewYork City moves to establish algorithm-monitoring task force.https://techcrunch.com/2017/12/12/new-york-city- moves-to-establish-algorithm-monitoring-task-force/2018年6月18日访问。
[36]参见Macaulay T. Pioneering computer scientist calls for National Algorithm Safety Board.2017，201.
[37]参见赫拉利：《人类简史》，中信出版社2014年版，第289页。
[38]参见周濂：《用政治“锁死”科技？》，载《读书》2016年第7期。
[39]Robot law. Edward Elgar Publishing, 2016.
[40]参见《国信办联合调查组结果：百度竞价排名影响魏则西选择百度：从6方面整改》，http://www.guancha.cn/economy/2016_05_09_359617.shtml
[41]参见《内涵段子”被永久关停张一鸣发文致歉反思》，http://www.cankaoxiaoxi.com/society/20180423/2262696.shtml.
[42]参见《民航局：6月1日起民用无人机实行实名登记制》，http://www.cnhan.com/html/tech/20170516/599807.htm
[43]ROBINSON, D.， Yu H. Knowing the score: New data, underwriting and marketing in the consumer credit marketplace. A Guide for Financial In- clusion Stakeholders, 2014: 1-34.https://www.teamupturn.com/static/files/Knowing_the_Score_Oct_2014_v1_1.pdf. Ifeoma Ajunwa, EEOC Public Meeting on Big Data in the Workplace (Oct.13，2016)，在此文中作者描述了信用算法对数据的使用。Clint Boulton, The hidden risk of blind trust in AI’ s ‘ black box’， at http://www.cio.com/article/3204114/artificial-intelligence/the-hidden-risk-of-blind-trust-in-ai-s-black-box.html(July 6，2017)。在此文中作者描述了雇佣算法的验证。
[44]如果机器人对人造成了损害，无论是适用罗马法中的“缴出赔偿”(noxoe deditio)原则(即把机器人交给受害者或其家属处置)，还是让机器人支付赔偿金或坐牢，最终承担责任的始终是机器人的“主人”，因为机器人不可能有独立的收入，限制它的“自由”则等于剥夺了其“主人”的财产权。参见郑戈：《人工智能与法律的未来》，载《探索与争鸣》2017年第10期。
[45]参见周佑勇：《行政法的正当程序原则》，载《中国社会科学》2004年第4期。
[46]参见余军：《正当程序：作为概括性人权保障条款——基于美国联邦最高法院司法史的考察》，载《浙江学刊》2014第6期。
[47]参见何海波《司法判决中的正当程序原则》，载《法学研究》2009年第1期。
[48][日]山本隆司：「公私協働の法構造」碓井光明他編『公法学の法と政策(下)』，有斐閣2000年版，556页。转引自杜仪方：《公私协作中国家责任理论的新发展——以日本判决为中心的考察》，载《当代法学》2015年第3期。
[49]Angwin, J.， Larson, J.， Mattu, S.and Kirchner, L.(2016) Machine Bias. There is software that is used across the county to predict future criminals. And it is biased against blacks, ProPublica, 23 May 2016.
[50]参见Calabresi G, Melamed A D. Property rules, liability rules, and inalienability: one view of the cathedral. Harvard law review, 1972: 1089-1128. See also Lessig L. Code and Other Laws of Cyberspace'Basic Books, 1999.1999.
[51]参见龙卫球：《数据新型财产权构建及其体系研究》，载《政法论坛》2017年第4期。
[52]参见张凌寒：《商业自动化决策的算法解释权研究》，载《法律科学(西北政法大学学报)》2018年第3期。
[53]参见司晓、曹建峰：《论人工智能的民事责任：以自动驾驶汽车和智能机器人为切入点》，载《法律科学(西北政法大学学报)》2017年第5期。
[54]参见张凌寒：《商业自动化决策的算法解释权研究》，载《法律科学(西北政法大学学报)》2018年第3期。
[55]参见胡凌：《人工智能视阈下的网络法核心问题》，载《中国法律评论》2018年第2期。
[56]参见周汉华：《论互联网法》，载《中国法学》2015年第3期。
© 北大法宝：(www.pkulaw.com)专业提供法律信息、法学知识和法律软件领域各类解决方案。北大法宝为您提供丰富的参考资料，正式引用法规条文时请与标准文本核对。
欢迎查看所有产品和服务。法宝快讯：如何快速找到您需要的检索结果？法宝V6有何新特色？
