[摘要]:以默示算法共谋为代表的算法垄断加剧了法律规制相较于算法科技的滞后性。传统算法解释权主要侧重于对算法施以合同为基础的私权规制,但其对于公平竞争秩序的法律保护显得捉襟见肘。双向驱动型算法解释工具是一种脱胎于传统算法解释权的新型数据治理工具,具有启动主体上的双向多元特征,能够最大限度调动多元公私主体发挥各自优势参与算法合作共治,并将算法解释和算法审查有机结合,开展算法规制和算法救济层面的实质审查。应从双向驱动型算法解释工具的启动主体与解释主体、解释原则与解释标准、解释审查机制的科学构建,以及修改垄断协议相关法律制度等维度,实现双向驱动型算法解释工具更优的数据治理绩效。
[关键词]:默示算法共谋;算法垄断;算法解释权;双向驱动型算法解释工具
引言
随着人类社会从工业时代进入信息时代,以大数据、人工智能、物联网、量子计算等技术为代表的第四次工业革命已经悄然来临。算力、算法、网络和数据由此成为本轮工业革命的核心要素。[1]在此背景下,计算的内涵已经超越传统的数学运算,扩展到了逻辑推理乃至成为观察世界的一种方法论。[2]人类在享受算法优化和重构传统商业模式、驱动科技创新的同时,亦被迫担负着算法黑箱、算法歧视、价格操纵、隐私泄露、算法鲁莽等不可承受之重。[3]其中,算法黑箱无疑是现代算法透明法治必须克服的首要难题。有学者甚至认为:“不能打开算法黑盒等同于宣告基于责任规则的歧视治理机制在数字时代脑死亡。”[4]
人们愈来愈倾向于运用透明性原则来弥补决策者与相对人之间形成的“数字鸿沟”[5],比如算法解释权一向被学者视为“立法者设计的促进算法透明度的个性化措施”[6]。欧盟立法者在《通用数据保护条例》(General Data Protection Regulation,以下简称 GDPR)中,就特意将其纳入该法第22条的算法治理框架。“算法解释正在成为算法应用的一项基本伦理准则”[7],然而,传统纯私法意义上的算法解释权在保护公共利益时面临着固有局限。当市场上的算法与竞争相结合,以及实施默示算法共谋等新型垄断行为时,不仅困扰着传统反垄断法中的垄断协议制度,而且挑战着反垄断法体系的有效性。[8]如今的算法规制危机,在某种程度上,也是向法律人开启的一个契机。[9]故本文试图以当前算法黑箱的最高形态——默示算法共谋为场景,从法理和制度视角构建一种双向驱动型算法解释工具,以期为大数据时代的算法治理提供更为丰富的工具选项。必须特别强调的是,笔者并不主张双向驱动型算法解释工具万能论,也并不寄望于仅仅通过该工具直接实现对一切默示算法共谋行为的有效法律规制,而是倡导通过其运用,同时结合其他算法治理机制的作用以及反垄断法律制度的修改,以共向激励的因势利导效应实现对默示算法共谋的优化治理,为我国未来涉及公共利益的数据治理提供一种新型工具和视角。
一、传统算法解释权规制默示算法共谋的失灵
所谓算法共谋,是指为了获取更高利润,以牺牲消费者利益为代价,通过算法实施的降低市场竞争力的经营者联合行为。算法共谋有两种典型形式:一种是明示算法共谋,即经营者之间有明显“沟通”“交流”“意思联络”的算法共谋;另一种是默示算法共谋,即处在一个集中市场环境中的几家企业通过算法共享垄断权力的共谋行为。默示算法共谋与无意识的并行行为存在本质区别,具有算法之间的共谋意思和客观的共谋结果。[10]
(一)默示算法共谋的典型形态
2017年6月,经济合作与发展组织在题为《算法与合谋:数字时代的竞争政策》( Algorithms and Collusion: Competition Policy in the Digital Age)的研究报告中将默示合谋的算法类型概括为四种:监督算法、平行算法、信号算法、自我学习算法。[11]监督算法是一种收集竞争对手商业信息、观察筛选潜在背离行为的数据并设计迅速报复方案的算法。监督算法包含两项算法程序(数据跟踪算法程序和自动报复算法程序)和两个算法机制(数据跟踪机制和自动报复机制),并设置自动“触发策略”。当数据跟踪机制追踪到的商业数据达到报复条件时,自动报复算法程序便自动实施报复行动。监督算法主要适用于信使场景,其本质依然是人类自己操纵共谋,算法只是“人类意志的延伸”[12]。
平行算法是指通过自动化决策的方式,促成经营者的市场价格自动反馈市场条件的变化并达成一种“有意识的平行行为”的算法。平行算法有两种典型形态:一种是经营者之间存在有意识的沟通从而共享定价的算法;另一种是经营者之间并不存在有意识的沟通,但经营者都使用同一个定价算法,而这个定价算法给出的价格成为卖家公认的市场价格。由此,市场上将出现一种“轴辐协议”:这个唯一的算法研发者就像一个车轮的轴,同行业的每一个经营者与之签订的协议就像车轮的辐条,算法研发者和每一个经营者借助共同的轴(中心定价算法)形成一种事实上的共谋。平行算法的典型应用场景是“中心辐射式场景”,中心算法研发者的任务就是精心策划一个全行业范围的共谋,从而实现更高的定价。[13]
信号算法是指经营者通过算法披露具有合谋意图的特殊信号,一般消费者不易发现这种信号,但竞争对手的高级算法可以敏锐察觉并予以积极响应,一旦经营者之间的算法找到聚点,事实上的默示算法共谋即告达成。信号算法通常适用于预测型代理人场景,即由算法直接担当经营者高级管理人员的代理人,并不断根据竞争对手价格的变化和市场数据的更新来调整自身的价格。从共谋的外观形态来看,经营者之间并没有签订价格垄断协议,而在事实形态上,信号算法通过信号发送与信号响应程序,自动强化了企业之间有意识的平行行为。从监管执法来说,经营者单方的信号发送行为很难被直接规制,因为这种行为可能既存在反竞争的效果,又具有促进效率的正面效应。[14]
自我学习算法是默示算法共谋最为复杂的高级形态,是指经营者之间并不需要达成明示或者暗示的共谋协议,借助算法的机器学习、深度学习、风险预测、反复试错等功能,由算法对市场上的合谋环境进行自主预判,一旦出现有利的合谋机会,算法会自动通过高速的反复试错达成合作性均衡,即“虚拟共谋”。自我学习算法共谋最大化发挥了“算法黑箱”的反监管优势,以暗箱里复杂精密的算法技术,巧妙地让整个算法共谋的达成过程游离于竞争执法监管之外。监管者无法在算法共谋达成之前和达成之时及时对其实施监管和处罚,而只能以一种基于结果导向的反竞争效果观察来实施监管。
(二)传统算法解释权规制默示算法共谋的局限性
根据 GDPR 第22条的规定,学者一般认为,算法解释权是指“当自动化决策的具体决定对相对人有法律上或者经济上的显著影响时,相对人向算法使用人提出异议,要求提供具体决策解释,并要求更新数据或更正错误的权利。”[15]《中华人民共和国个人信息保护法》(以下简称《个人信息保护法》)第24条第3款规定:“通过自动化决策方式作出对个人权益有重大影响的决定,个人有权要求个人信息处理者予以说明,并有权拒绝个人信息处理者仅通过自动化决策的方式作出决定。”2021年9月17日,国家互联网信息办公室(以下简称国家网信办)、中央宣传部等九部委印发《关于加强互联网信息服务算法综合治理的指导意见》(国信办发文〔2021〕7号),将“算法公平公正、公开透明”设立为未来三年的主要治理目标,并将算法“透明可释”作为算法治理的基本原则。有学者认为:“即使算法解释权因行使成本高而极少被主张,也能宣告用户权利,彰显法律态度,起到算法治理体系中安全网的作用。”[16]但由于受到各种因素的制约,利用算法解释权规制默示算法共谋始终面临着天然掣肘。
首先,算法解释权的法律本质是一种“自动化决策相对人的事后救济机制”,并不能满足默示算法共谋的预防、查处所需。“算法解释权是一种请求权”[17],自动化决策的相对人只能在权利受到侵害后才能请求解释。相对人必然面对的一个困境是,其是否有能力敏锐地发现权利受到侵害。即便是作为“人类意志延伸”的监督算法,由于自动化决策的相对人本身已经陷入一个被普遍“统治”的非充分市场竞争价格环境,其很难对这种损害保持科学理性的认知。此外,算法的结果和公平性通常不能仅仅根据代码本身对其进行衡量。[18]在经营者运用自我学习算法和信号算法等场合,如果不对经营者共谋时的实时数据进行评估,而只在事后访问算法代码本身,对默示算法共谋的查处来说只能是徒劳。[19]
其次,算法解释权保护的法益主要是自动化决策相对人的合法权益,是一种以合同为基础的私权利,它并不保护默示算法共谋所侵犯的公平竞争秩序。默示算法共谋作为一种典型的限制竞争行为,其损害的法益是自由公平的竞争秩序。在默示算法共谋的场合,比如在“轴辐协议”中,消费者并不直接参与经营者与算法研发者之间的“轴辐协议”,这就决定了以消费合同为请求权基础的算法解释权无法对默示算法共谋进行规制。此外,参与默示算法共谋的经营者通常具有较强的与个别消费者“和解”的动机,这也为默示算法共谋的发现和查处带来障碍。
再次,在默示算法共谋的场合,自动化决策相对人行使算法解释权将面临高昂的成本,维权难度极大。有学者认为,算法解释权是增强自动化决策相对人对商业算法的信任并加强对商业算法的掌控,进而消除其对算法的抵触情绪的重要机制。[20]然而,传统算法解释权要想实现这样的目标殊为不易。比如,自动化决策的相对人要想理解和掌控算法,必须具有高度专业化的算法技能。根据 GDPR 第14(2)(g)条,算法解释权的主要内容是“自动化决策分析过程所涉及的逻辑程序以及对数据主体的处理过程的重要意义和设想结果”。无论是否披露具体的算法,相对人其实都很难真正理解算法的逻辑和意义。并且,对于自我学习算法这种高度人工智能化的共谋算法,尽管其由算法研发者研发而来,但即便研发人员本身,也无法完全解释该算法。因为自我学习算法正是通过自我学习和反复试错,具备了超强的数据采集和联合共谋能力。由此,相对人行使算法解释权必将面临极大的困难和极高的成本。
最后,算法解释权并不能从根本上激励经营者主动放弃算法共谋,并引导经营者加强自我学习共谋算法的自律监督。一项精巧的规制,往往是元规制和自我规制的结合。[21]如何实现政府规制目标的企业自我“内化”,往往是现代规制的关键所在。默示算法共谋有两种模式:存在共谋协议的默示算法共谋和不存在共谋协议的默示算法共谋。在第一种模式下,参与共谋的经营者具有极强的主观能动性和对算法本身的掌控性;在第二种模式下,尽管经营者并不一定能够完全掌控算法,但毕竟是对这种高度人工智能算法最有能力的控制方,其可以监督算法的运行,甚至可以放弃使用该算法。从默示算法共谋的法律规制来说,只有经营者具有主动放弃算法共谋的意图,并且以实际行动参与算法共谋的自我规制,默示算法共谋的法律规制才能取得理想效果。传统算法解释权主要着眼于自动化决策相对方的事后救济,为使用算法的经营者提供法律责任免除的机会,但在默示算法共谋自律方面,几乎很难发挥有效的激励作用。
二、双向驱动型算法解释工具规制默示算法共谋的机理
“算法的透明度监管不应只限于通过算法解释权来提供信息,还应使受有关决策影响的人具有代理意识:受影响的人收到的信息应使他们能够以有意义的方式对决策作出反应。”[22]针对算法解释权的固有缺陷,本文提出一种新的算法治理工具——双向驱动型算法解释工具,以破解传统算法解释权规制默示算法共谋的不足。
(一)双向驱动型算法解释工具的基本原理
双向驱动型算法解释工具是指,当算法自动化决策的相对人认为自动化决策的具体决定对其本人利益或者公共利益造成法律上或者经济上的显著影响时,有权向算法设计人和算法使用人提出异议,请求其向算法监管部门提供针对具体决策的解释,并要求其更新数据或更正错误决策。算法监管部门或者司法机关在算法监管执法和算法司法活动中,发现算法自动化决策的具体决定对相对人利益或者公共利益造成法律上或者经济上的显著不利影响时,有权要求算法设计人和算法使用人对其具体决策进行解释,并责令其针对错误的决策更新数据或更正错误。相较于传统的算法解释权,双向驱动型算法解释工具有以下典型特征:
其一,双向驱动型算法解释工具是一种数据治理工具,具有典型的“双向驱动”特征。双向驱动型算法解释工具采用“双向驱动”的启动机制:一方面,与算法解释权相同,认为受到不利影响的自动化决策的相对人可依法启动算法解释工具;另一方面,作为算法规制主体的算法监管部门以及司法机关,在日常算法监管执法或者算法司法活动中发现不利的算法决策,可主动启动算法解释工具。此外,如果任何公民、法人或者其他组织认为特定的商业主体存在算法自动化决策歧视、偏见、不正当竞争或者垄断等违法行为,也可以通过举报的形式请求算法监管部门启动算法解释工具。这些启动主体可以归结为两类,即市场主体(含消费者)和规制主体(含监管机关和司法机关),这种“双向驱动”性走出了传统算法解释权只能单向启动的困境。
其二,双向驱动型算法解释工具将算法解释和审查相结合,真正开启了算法规制领域的私主体实质赋能之路。以个人力量发现与对抗自动化决策的不公,显然存在现实困难。[23]自动化决策的相对人行使算法解释权通常面临两难——识别难、维权难。所谓识别难,是指自动化决策的相对人很难具备充分识别算法风险的能力。算法解释权的目的在于保障个人知情权[24],但算法解释权存在权利内容不完整、适用范围不明确、行使程序未建立等问题[25],其并非国际立法之通例,可行性不高。[26]我们很难苛求普通大众具备对算法的专业辨识技能。基于识别难的问题,又必然产生维权难的困境。如何启动维权程序以对抗大型网络平台,这甚至是欧盟 GDPR 本身暗含的一种制度缺陷。我国《个人信息保护法》第64条首次明确规定,履行个人信息保护职责的部门在履行职责中,可以要求个人信息处理者委托专业机构对其个人信息处理活动进行合规审计。双向驱动型算法解释工具有望在双向驱动的事实基础上,将政府和司法机关的规制力量间接赋予自动化决策的相对人,并将算法日常监管和算法解释结合,促进算法正义和公平。
其三,双向驱动型算法解释工具依据比例原则,通过对算法解释进行实质审查的方式,对基于算法的自动化决策进行实质性掌控,进而达到改变自动化决策的规制目标。在大数据时代,必须用数据发展的眼光去看待各方数据权益的动态博弈问题。[27]比例原则就是对行政手段与行政目的之间的关系进行衡量,甚至对两者各自所代表的、相互冲突的利益进行权衡,来保证行政行为是合乎比例的、恰当的。[28]传统的“三阶”比例原则由适当性原则、必要性原则以及均衡性原则构成。[29]其中的必要性原则要求,在“相同有效性”前提下对各种有效的手段进行相对损害性的大小比较。[30]在双向驱动型算法解释工具中,由于规制主体在算法审查能力方面的专业化以及特定法律关系的明晰化,其可根据算法危害行为的性质和程度,在比例原则“禁止过度”的精神内核以及协调、平衡为指向的法律精神指引下[31],巧妙导出自动化决策商业主体的算法解释范围和程度。通过实质性掌控算法决策,让相对人走出自动化决策场合中只能“用脚投票”的被动困境。
其四,双向驱动型算法解释工具拓展了算法解释权保护的法益范围,从原先的私权保护延伸到公共秩序和公共利益的全面保护。在大数据时代,算法平台的超级“社会权力”已经在事实上转换为一种“准公权力”,并对传统社会“权力—权利”的格局带来实质改变。[32]双向驱动型算法解释工具是一种典型的将政府公权力与消费者私权利紧密融合,共同规制算法平台的超级“社会权力”,也是保护消费者私权利和社会公共利益的重要手段。具言之,双向驱动型算法解释工具作为一种政府规制工具,可以通过公权介入的形式强化对私权的保护,弥补私权救济机制的不足,将其保护的法益范围延展到公共利益领域。双向驱动型算法解释工具保护法益的拓展,标志着算法救济从民法保护到经济法保护的实质性提升和强化。
(二)双向驱动型算法解释工具规制默示算法共谋的优势
由于在推动算法多元治理、促进算法透明以及强化算法问责机制等方面的独特优势,双向驱动型算法解释工具对默示算法共谋可能具有较好的规制效果。
首先,双向驱动型算法解释工具搭建的多元算法共治体系,有助于破解默示算法共谋的隐蔽性。无论默示算法共谋通过哪种模式实施,市场的消费者和社会舆论主体一定会率先感知到。单个的自动化决策相对人可能并不易觉察到经营者之间已经达成算法共谋并透过垄断高价等行为对自己造成损害,但双向驱动型算法解释工具可以动员诸多消费者以及消费者协会、社会舆论主体等参与到算法治理中,提高默示算法共谋被发现和查处的概率。双向驱动型算法解释工具正是由于在算法监管方面创新了驱动模式、丰富了驱动主体,进而弥补了算法监管部门单主体实施算法监管存在的天然不足。
其次,双向驱动型算法解释工具可以充分发挥经济法信息补强工具的功能,通过政府公权力和自动化决策相对人的通力合作,将算法透明机制的保护法益从私法权益延伸到竞争秩序。行政监管的定位功能须跳出“信息主体—信息处理者”的二元格局。[33]经济法中的信息补强工具是指通过独立管制机构、金融消费者和投资者保护机构等主体代替信息弱势方收集信息并代为起诉,以弥补信息弱势方“武器的不平等”。[34]在双向驱动型算法解释工具情形,不仅算法解释启动主体和监督主体的范围大幅扩张,而且由于真正实现了算法透明法治领域的公私合作,算法监管部门的介入使得该规制工具成为一种信息补强工具,可以帮助信息弱势方收集信息,并增强其实现法律救济的能力。
最后,双向驱动型算法解释工具为传统反垄断法中“人类中心主义”垄断协议规制范式的革新提供了科技基础。传统反垄断法一般都将经营者之间达成共谋的意思表示作为行为违法的重要构成要件,这种垄断协议规制范式在面对“完全基于人”的垄断协议时无疑是有效的。然而,在默示算法共谋的场域,经营者之间可能完全不存在传统意义上的共谋协议。对这些涉及算法案件的审判标准也不是“普通人”的注意标准,而是“正常智能系统”应达到的注意标准。[35]反垄断法必须将处罚的基础依据从人类的“明示共谋意思”转向算法的“默示共谋行动”,通过对经营者之间行为的一致性及其与竞争秩序破坏之间的勾稽关系进行客观评价,进而认定默示算法共谋的法律责任及其监管依据。双向驱动型算法解释工具能够通过政府公权力的介入和审查,判别算法对竞争秩序的实质性影响,进而为现代数字经济背景下默示算法共谋的法律规制和竞争执法提供可靠的科技手段和智识基础。
三、双向驱动型算法解释工具的制度构想
双向驱动型算法解释工具脱胎于传统算法解释权,但其在保护法益、启动主体、运行机制等方面又是对传统算法解释权的一种超越。双向驱动型算法解释工具的制度设计及其与相关法律制度的协调,可从以下维度展开:
(一)双向驱动型算法解释工具的制度表达
1.启动主体与解释主体
现代数据科技的监管需要兼顾回应型监管和主动型监管。[36]双向驱动型算法解释工具本身即内置了启动主体的双向多元特质。这里的双向,实际上是从政府与市场二元主体结构的区分视角对该解释工具启动机理的一种形象刻画。政府规制视角的解释请求一般包括基于算法监管部门的解释请求与基于司法机关提起的解释请求。其中,算法监管部门的解释请求既可以基于算法监管执法实践主动提起,又可以基于自动化决策相对人的权利救济途径而通过算法监管部门对算法主体提起。司法机关的解释请求往往与其正在审判的案件密切相关,需要通过算法解释廓清当事人的权利、义务和责任。市场主体视角的解释请求,一般是市场主体出于自身法律责任的减免等原因而主动申请启动的算法解释。以默示算法共谋的规制实践为例,反垄断执法机关和算法监管部门出于保护市场公平竞争秩序的考虑,在反垄断监管实践中,可以主动启动针对自动化决策商业主体的算法解释请求。同时,如果自动化决策的相对人认为经营者存在随意压低产量或提高价格等联合行动,可以直接向算法监管部门和反垄断执法机构进行举报,从而启动监管部门向度的算法解释工具。除了被动解释,如果运用算法进行自动化决策的商业主体想利用反垄断法中的宽大制度减免其法律责任,或者为其可能承担的法律责任进行抗辩,也可以主动向监管部门申请进行算法解释。在默示算法共谋中,这又包括两种情形:一种是证明其并不具有监督算法信使场景下的共谋协议;另一种则是对自我学习算法等高度人工智能算法是否已经达成涉嫌垄断的一致行动进行证否,表明其虽然使用了自我学习算法,但该算法尚未在自我学习和反复试错的基础上达成默示算法共谋。由此,双向驱动型算法解释工具不仅保障了传统算法解释条件下的私法救济途径,而且为默示算法共谋情景下市场竞争秩序的保护提供了强有力的算法透明法治基础。
2.解释原则与解释标准
所谓解释原则,即算法解释的基本准则,是指作为数据治理工具的算法解释,到底要求解释主体从何种意义、何种价值层面以及在何种程度上针对其算法作出具有法律意义的解释。所谓解释标准,即算法解释的内容和维度,也就是解释主体必须对算法监管部门或者司法机关予以阐明的具体内容。双向驱动型算法解释工具在解释过程中必须遵循两项基本原则——比例原则和实质解释原则。双向驱动型算法解释工具是一种算法透明机制,算法透明机制本身就是在公民和企业、公民和国家之间,直接对失衡的天平进行校正的机制,算法透明的程度必须根据比例原则进行判断。[37]以默示算法共谋为例,如果监管部门提出自动化决策的商业主体存在默示算法共谋行为,该商业主体所作的算法解释必须涵盖:在监督算法等弱人工智能的算法运用场景下,虽然算法本身执行了经营者的决策行为,但经营者之间并未达成并实施默示共谋协议;在自我学习算法等强人工智能的算法运用场景下,不仅经营者之间没有达成默示共谋协议,而且自我学习算法的实际运用也未默示达成算法共谋并造成限制竞争的法律效果。
实质解释原则是双向驱动型算法解释工具最为显著的标签之一。传统算法解释权更多是赋予自动化决策相对人的一种“远离权”,即在没有强加任何算法工具情况下生活的权利。[38]对双向驱动型算法解释工具而言,由于有政府公权力的介入,并且政府受制于依法行政的限制,算法商业秘密以及算法知识产权的保护理应有更为可靠的保证,而算法监管部门在算法审查方面的专业性以及其委托第三方进行算法评估的可行性,往往为算法实质解释提供了可行的路径。换言之,双向驱动型算法解释工具要求解释主体必须对其算法进行实质解释,但解释的范围和程度都受到比例原则的限制,与监管的需求相匹配。就默示算法共谋来说,经营者必须对其与限制产量、提高价格等因素相关的全部算法向算法监管部门和反垄断执法机构公开,并就监督算法或者平行算法等弱人工智能算法是否实施了默示共谋进行解释,对自我学习算法则需要从算法技术的基本原理到算法本身的运行过程进行通盘解释,对算法运算过程进行破译,解释其是否已经在经营者意志之外客观上达成了默示算法共谋。
双向驱动型算法解释工具实质解释的标准可以围绕两大维度来建构——算法逻辑维度和算法数据维度。就默示算法共谋来说,自动化决策的商业主体不仅要证明其算法类型与逻辑,以及算法对公平竞争秩序可能产生的影响,还应当就其算法运行的市场透明度以及对消费者数据的处理过程和数据与决策的相关性进行解释,从而服务于监管部门对其算法实施竞争法层面的监管。
3.解释审查机制
双向驱动型算法解释工具一旦被启动,监管部门随即需要针对解释请求进行算法审查。问题的核心在于,算法监管部门如何对专业性极强并且时刻处于创新之中的大数据算法实施实质性审查。尤其是自我学习算法,不仅要对代码进行解释,还需要对代码的数据处理方式进行审查。[39]“数据治理需要打破已有的政府中心化管理机制,引入企业、平台等利益相关方,构建共建共享共治的治理体系。”[40]尽管算法监管部门相较于普通的自动化决策相对人而言具有更强的算法审查能力,但是对于同时涉及公私法律关系、牵涉不同行业监管的算法审查问题,单独由算法监管部门进行审查,显然是不现实的。在比较法中,GDPR 特别强调数据行为的管理应当坚持行业主导、监管机构适度干预的理念,并强调充分调动市场自发力量来实现行业自律。[41]
笔者建议从算法审查部门和算法审查能力两方面来强化双向驱动型算法解释工具在算法审查方面的专业性和科学性。其一,科学设置算法审查部门。鉴于大数据算法应用的广泛性,欧美发达国家普遍采用“1+多”的算法规制结构体系。由于双向驱动型算法解释工具所保护的法益实现了从私益到公益的拓展,建议我国确定一个专门的全国性大数据算法监管部门,该部门可以是中央网信办。与此同时,由其牵头和协调反垄断执法、市场监督管理等其他行业监管部门,开展特定行业领域内的算法审查。其二,在算法审查的专业性保障方面,可以充分发挥市场主体和行业协会的专业性优势,以适当的方式引导其作为独立第三方机构参与算法审查和规制。
(二)双向驱动型算法解释工具的运用
作为一项新型算法治理工具,双向驱动型算法解释工具从理论证成走向法治实践,需要注意同日常算法监管制度保持协调,与此同时,还必须做好我国现行反垄断法律制度的相应修订和调适工作,以确保对算法竞争实施体系化规制。
1.双向驱动型算法解释工具与日常算法监管制度的协调
一般来说,除了在算法运行阶段实施本文所设计的双向驱动型算法解释工具外,算法在运行之前,还必须进行算法信息披露,在算法运行之后,必须开展算法审计以及第三方评估。双向驱动型算法解释工具与这些制度的主要区别在于,双向驱动型算法解释工具具有特定的启动机制,它主要是在自动化决策相对人的权益受到侵害,或者经营者实施默示算法共谋、侵害公平竞争秩序等社会公共利益的情况下,方才被正式启动。算法信息披露制度是所有算法在运行之前必须进行的算法监督程序,是对算法运行基本原理最浅显的公示,需要达到保证普通自动化决策相对人能够理解的程度。比如,GDPR 要求算法信息披露的内容可以仅限定在算法原理和设计权重层面。算法审计与第三方评估制度主要是算法在进行实际运转之后,经营者对算法程序和数据集等采取的评估措施。算法审计与第三方评估制度既包括经营者自身实施的内部算法审计,又包括经营者委托第三方开展的算法外部审计。从方法论看,其主要采用的是“排除敏感属性”的方法。[42]
双向驱动型算法解释工具与算法信息披露制度、算法审计以及第三方评估制度共同构成了算法全生命周期的完整规制体系。算法信息披露在事前,双向驱动型算法解释工具、算法审计与第三方评估制度在事中、事后,前者主要是在自动化决策相对人的权利受损或者算法侵害公共利益时启动,后者则是针对所有算法在运行以后均必须实施的监督,三者既有区别、各司其职,又相互衔接、紧密配合,确保算法公平和正义。算法审计有助于提前发现和预防算法可能产生的负面影响及风险,第三方评估制度因其中立性可对平台产生一定的约束作用。[43]
此外,关于传统算法解释权的去留,一直是学界争议的热点。本文提出的双向驱动型算法解释工具,实际上就是对传统算法解释权的改造升级,其融合了监管、司法机关与私人部门各自在算法治理方面的优势,形塑了更为有效的算法透明法律治理机制。对于主张保留传统算法解释权的观点,我们必须看到,作为自动化决策相对方的私人部门实际上很难真正依靠其自身能力对默示算法共谋等破坏公平竞争秩序的行为实施有效的法律规制,甚至由于算法地位和技术专业性方面的劣势,也很难真正对其私权进行“救济”。类似问题在民法中其实已经给出过可资借鉴的合理解决方案,比如对于欺诈、胁迫、显示公平以及重大误解等可撤销的民事法律行为,《中华人民共和国民法典》明确赋予受欺诈方、受胁迫方、利益受损方以及重大误解的当事人撤销民事法律行为的权利,这种撤销权属于间接形成权,即当事人只能通过人民法院或者仲裁机构行使。之所以作此规定,其初衷还是通过人民法院或者仲裁机构的介入,对可撤销事由进行实质审查。双向驱动型算法解释工具也是一种公私融合型数据治理工具,其秉承了相似的原理,旨在确保司法救济和公共利益保护的良好效果。因此,随着双向驱动型算法解释工具未来正式走入法律实践,上述两种权利的保护和救济均可纳入其中,传统算法解释权则可以退出现代算法治理体系。
2.双向驱动型算法解释工具实施背景下反垄断法律制度的调适
“在超大型数字平台企业双轮垄断行为规制层面,渊源于工业经济时代的反垄断法律制度暴露出滞后性、僵化性、非全面性的弊端。”[44]反垄断法必须与数据法同步革新、互相促进,方能确保对默示算法共谋等新型垄断行为的高效规制。
首先,进一步做好经营者基于算法垄断的联合行动在反垄断法律规制体系中的立法协调。大数据时代的数据获取并不一定以合同的存在为基础。就算法共谋而言,不论沟通方式如何,那些导致超竞争水平定价取得成功的相互依赖性合作,在经济结果上是相同的。[45]这就要求我们在反垄断法律体系中,有必要对当前规定中“协议”“决定”之外涉嫌垄断的联合行动作出精细的规制安排。
2022年6月24日新修订的《中华人民共和国反垄断法》(以下简称《反垄断法》)第9条明确规定了经营者不得利用数据和算法、技术、资本优势以及平台规则等从事该法禁止的垄断行为。2021年2月7日,国务院反垄断委员会制定发布的《关于平台经济领域的反垄断指南》(国反垄发〔2021〕1号)第5条将“通过数据、算法、平台规则或者其他方式实质上存在协调一致的行为”纳入垄断协议的范畴。不难看出,《反垄断法》和《关于平台经济领域的反垄断指南》在默示算法共谋等联合行动的法律规制上存在严重的不协调之处:后者主要是将其纳入垄断协议的规制范畴,前者将其放在更为宏观的层面——禁止一切通过算法实施的垄断行为。从立法技术来讲,对默示“协调一致行为”是否应当放在“垄断协议”之下进行规制,还值得商榷。毕竟如自我学习算法等强人工智能算法之间达成默示算法共谋,本质上可能并不是一种基于经营者意思表示一致的协议。因此,《关于平台经济领域的反垄断指南》应当与《反垄断法》的规定和理念保持一致,进行相应的修改。另外,在运用平行算法的场合,其打破了传统横向与纵向垄断协议的二分法,对《反垄断法》中的垄断协议禁止规则进行完善也势在必行,增设禁止垄断协议的一般条款,是一种稳妥可行的做法。[46]
其次,加强客观化标准在经营者之间算法垄断行为相关执法活动中的运用。机器学习导致的合谋结果只能通过效果去观察[47],有必要诉诸客观标准。[48]可从一致行动的实际结果、有利于一致行动的市场条件、维持一致行动的难度,以及是否发生过一致行动的历史等间接证据来认定[49],也可以通过平台、数据和算法的三维“ PDA 分析范式”来进行判断。[50]譬如,在平行算法之下,经营者是否愿意使用同一算法去提髙价格等有关共谋意图的证据,便能帮助反垄断执法机构评估协议的目的以及可能产生的竞争效果,这些客观证据与反垄断经济分析相结合,往往可以为算法行为定性提供重要的参考依据。
最后,强化反垄断法宽大制度和快速处理程序在默示算法共谋规制中的作用。从规制理论来讲,默示算法共谋的规制需要充分发挥倚重于自我规制的“元规制”在算法治理中的作用。[51]宽大制度主要是为了鼓励卡特尔的参与者竞相告发而被引入反垄断法的实施之中。[52]我国《反垄断法》第56条和国家市场监督管理总局2019年6月26日发布的《禁止垄断协议暂行规定》(国家市场监督管理总局令第10号,已于2022年3月24日修改)第33条对该制度进行了确认。对默示算法共谋的规制来说,有必要在传统垄断协议之外,对通过算法实施共谋适用宽大制度。比如,在平行算法的场合,经营者对同一算法研发者研发的同类算法进行供述,以及在自我学习算法的场合,虽然经营者可能无法直接解释和改变其算法决策,但其主动放弃使用该算法,这些行为均应当允许适用反垄断执法的宽大制度。宽大制度的实施,无疑也将为这些主体强化算法自律提供一种激励机制。
欧盟委员会于2008年引入的“卡特尔案件和解程序”( settlement procedure in cartel cases)也为我国数字经济反垄断提供了重要的立法启示,其可以作为双向驱动型算法解释工具在应对默示算法共谋时的辅助制度而存在。正如欧洲学者所言,实施宽大制度的目的是让更多处于秘密状态的垄断协议被发现,而宽大制度实施以后案件数量上升的事实,又给执法机构的执法能力提出了新的考验,“卡特尔案件和解程序”正是在这种背景下被引入欧盟竞争法。[53]“卡特尔案件和解程序”与执法和解程序存在很大的不同,它是指当欧盟委员会对卡特尔案件进行调查但还没有发出“异议声明”时,如果其认为必要,可征求执法对象的意向,若双方能够达成共同谅解,则由执法对象提交和解书,欧盟委员会可减少10%幅度以内的罚款。在该程序中,欧盟委员就违法行为的事实、拟提出异议的范围、证据的使用和可能的处罚措施与企业协商,具有较强的管理色彩,本质上是欧盟委员会的一种案件快速处理程序,并不涉及实质性的协商和让步。[54]如果快速处理程序能够为我国反垄断法确认并正式运用于算法垄断等行为的规制,能够在宽大制度对算法垄断进行举报并起到鼓励作用的基础上,迅速处理数量巨大的算法垄断案件,从而减少双向驱动型算法解释工具在实施过程中的难度。
结论
通过立法赋予自动化决策的相对人以算法解释权,从而保障其对基于算法而受到侵害的私权利予以救济,是目前算法透明法制的核心要义。然而,以默示算法共谋为代表的算法垄断对反垄断法以及现代算法透明法制带来了全新的挑战。传统算法解释权在保护的法益类型、救济机制等方面存在诸多天然的缺陷,对默示算法共谋行为的规制显得捉襟见肘。共治是善治的核心要义,良好的数字法律秩序经由数字共治而形成。[55]现代算法治理“应将算法决策权与个人权利的新型动态平衡作为矫正权力异化的规制目标”[56]。笔者结合算法垄断的基本特征,提出一种多主体参与的双向驱动型算法治理工具,它是一种脱胎于传统算法解释权的新型数据治理工具,具有典型的“双向驱动”特征。在启动主体上呈现出双向多元的特点,能够最大限度调动多个公私主体发挥各自的优势参与算法合作治理,真正开启了算法治理领域的私主体实质赋能之路,将算法解释和算法审查有机结合,通过对算法开展实质审查和对自动化决策进行实质掌控,促进算法治理的实质公平正义。我国未来双向驱动型算法治理工具的立法,应当围绕该工具启动主体与解释主体的进一步明确,解释原则与解释标准的细化以及解释审查机制的合理构建展开。当然,双向驱动型算法解释工具立法还必须处理好其与算法信息披露制度、算法审计以及第三方评估制度等现有相关法律制度的协调问题。尤为重要的是,对反垄断法等竞争法律制度进行相应的调适,使其主动融合双向驱动型算法治理工具,实现算法治理与竞争治理的榫卯相接,通过算法透明法制与数据竞争法制的合力,实现默示算法共谋的良好法律治理效果。