【摘 要】 个性化推荐算法的应用场景包括个性化内容推荐与个性化价格推荐。我国现阶段个性化推荐算法的规制动态，呈现三个特征：以“个人明确同意”作为个性化推荐数据处理活动的合法性基础；在个性化内容推荐中，强化平台内容供给与管理责任；以消费者权益保护路径与反垄断规制路径为基础，进行个性化定价算法规制。基于规制动态与规制比较分析，强化平台责任的推荐算法规制模式，存在较大的规制失灵可能性。现阶段个性化推荐算法的规制规则设置，需要以明晰技术风险的客观特征与计算规制成本为基本前提。
【关键词】个性化推荐算法；个性化内容推荐；个性化价格推荐；技术风险
作为数字时代海量信息汇聚与流散的中心，网络平台日渐依赖人工智能技术实现信息的整合、分类与过滤的自动化管理。个性化推荐算法通过增强信息与接受者的匹配度，实现信息的信号反映、鼓励内容创造、减少信息搜寻成本等价值，但与算法推荐相关的个人数据保护、消费者保护、数据垄断、行为操控等议题，引发了公众的讨论与担忧，并成为各国监管层关于平台治理议程设置的重点议题。
本报告旨在梳理个性化推荐算法的应用场景与我国监管层的规制回应，并对现阶段个性化推荐算法的规制规则设置进行比较分析。
一、个性化推荐算法的应用场景
个性化推荐于20世纪90年代作为计算机领域的独立学科概念被提出，强调运用人工智能技术预测个体偏好并进行符合与反映个体偏好的信息推荐。推荐系统的核心为替代用户对未接触的信息内容进行评估，其发展与应用程度取决于这种替代评估的必要性与替代评估的准确率。互联网平台的技术变革改变了人们的交流与表达方式，海量的内容呈现与可及数据极大地提升了替代评估的必要性与准确率。个性化推荐成为平台经济时代信息传递与接收的重要途径。根据推荐信息种类的不同，现阶段个性化推荐算法的应用场景主要包括个性化内容推荐与个性化价格推荐。
（一）个性化内容推荐
互联网信息技术发展凸显了信息获取环境的“信息超载”与“注意力资源有限”双重特征，“推荐系统”成为内容供给平台识别、分析用户的信息偏好与增强用户黏性、获取流量利益的重要算法工具。个性化内容推荐包括：平台基于内容服务特征进行的内容推送、平台实现流量变现进行的广告推送。
1.平台内容供给中的个性化推送
内容类别、用户信息偏好、平台—用户黏性三者的关系，在社交媒体平台、新闻资讯平台、短视频平台、电子商务平台、搜索引擎平台等不同内容供给平台中呈现不同的表现样态，个性化内容推荐算法应用亦呈现不一样的技术特征。
其一，在新闻资讯平台、短视频平台、社交媒体平台（此类平台以提供内容浏览服务为主）中，进行反映用户信息偏好的内容推送，成为平台增强用户黏性与引流第三方内容进而激励更多内容创作的核心商业手段。个性化内容推送主要体现为“动态消息界面”中的内容展示与内容排序，以及视频浏览结束后自动播放“你可能感兴趣的内容”。符合用户偏好的内容与用户自身特征、内容特征、平台服务目的相关，用户偏好的算法参数分析较为复杂，多采用机器学习算法进行数据的实时反哺与学习。例如，微博、小红书、抖音、头条新闻、Facebook等平台的“动态页面”展示内容与展示顺序会主要考虑以下因素：受众信号（用户是否会对特定内容进行浏览、点赞、参与互动）、内容信号（内容的实时性、内容的表现形式、内容已有的转发量与评论量、内容创作者的受欢迎程度）、关系信号（用户与内容创作者的历史互动频率）、来源信号（内容质量是否低俗、内容标题是否带有“诱惑点击”的欺骗属性）。
其二，在电子商务平台中，反映用户偏好的个性化商品推送，是平台提升商品销售率与激发长尾市场的重要商业手段。个性化内容推送主要体现为：主页商品展示的“千人千面”形式、搜索页面展示的商品顺序、结算或购物车页面展示的“你可能感兴趣的或与选购物品相关的商品推荐”。内容推送算法设定的用户偏好内容参数一般包括地理位置、网页浏览历史、购物历史、与选购商品具有相似性或功能匹配性的商品、相似偏好用户的选购活动。
其三，在搜索引擎平台中，个性化内容推送体现在搜索页面的内容排序中。相比于前述两类平台，搜索引擎平台内容供给具有专业性与搜索匹配性特征，个性化展示并不是搜索引擎平台实现服务目的的核心手段。搜索内容排名算法的核心参数一般包括搜索关键词、网页内容相关性、网页内容质量、网页的技术设置友好性（例如，是否为不同的浏览器与不同的终端设备设定了浏览可用格式）。符合用户偏好的内容优序排位，在一定程度上亦能提升用户的点击概率进而为平台创造流量价值，在实践中成为部分搜索引擎平台算法设置的考虑因素。例如，Google公示的搜索内容排名算法的影响因素包括情境因素（context and settings），即用户的搜索历史、地理位置、浏览历史等信息会成为个性化搜索展示的分析因素。
2.广告内容的个性化推送
广告展示是平台流量变现的主要途径，而自动化广告管理通过对广告内容进行个性化推送，能够最大化实现平台媒介资源—广告资源的转化率，成为互联网广告生态系统的重要运行模式。在自动化广告管理模式中，广告商将广告内容与广告受众目标传送至平台方，平台方根据用户偏好、广告商的受众目标设定进行广告投放。程序化广告购买是自动化广告管理模式的系统集成，它通过电脑程序推算各事件、逻辑、行为规则后自动售卖平台广告媒介资源。相较于传统广告生态中“广告主购买媒介广告位”的表现形式，在程序化广告购买生态中，广告主购买广告受众，广告向受众的展示次数与广告点击次数是自动化广告管理模式的主要收费计算方式。
（二）个性化价格推荐
商品/服务价格领域中的个性化推荐，属于经济学理论中的“差别化定价”（price discrimination）市场行为，即供给方根据消费者支付意愿，对边际成本相同或相似的产品/服务设定不同的价格。平台经济模式赋予了差别化定价新的场景特征、经济效率与市场风险，但对之进行市场场景应用的分析，仍需要以明晰传统市场模式中的差别化定价应用场景为基础。
传统市场模式中的差别化定价应用场景包括基于一定市场势力的差别化定价与基于产品成本特征的差别化定价。在基于一定市场势力的差别化定价场景中，商品/服务供给方能够进行供给产量控制，进而影响价格，需求方对供给方具有一定程度的依赖性，交易成本（主要表现在比价成本与转换成本）较高，供给方有能力与动机影响价格的生成，并根据对“消费者支付意愿”的判定进行差别化定价。在基于产品成本特征的差别化定价场景中，某些产品/服务存在高昂固定成本与较低边际成本的成本特征，采取差别化定价策略能够实现产品/服务的效率生产。在这种定价机制下，价格包括固定成本分担和可变成本。“需求的价格弹性”较小的消费者承担更大比例的固定成本分担，“需求的价格弹性”较大的消费者承担更小比例的固定成本分担。
平台经济模式并没有改变差别化定价适用的两类基本前提：供给方拥有一定的市场势力；基于所供给产品特征。前者为商家定价场景，后者为平台定价场景，在平台市场场景中，市场势力与产品特征呈现了不一样的表现形式。
在商家定价场景中，消费者的数据的集合成为商家市场势力的重要来源，商家能够基于对数据的分析识别消费者的个人支付意愿，进而进行差别化定价，定价的形式包括直接显示差别化价格、进行优惠券与折扣券的选择发放。综合平台商业场景，平台与商家方的定价关系主要包括：平台会有偿或无偿为部分商家提供定价算法或进行定价建议（包括优惠券发放对象的建议）；平台与内容供给方共享部分消费者数据，内容供给方据此进行差别化价格设定；内容供给方从第三方购买定价算法。在网约车平台运营中，乘行服务价格由网约车平台制定，并通过抽成方式在司机与平台间进行利润分享。
在平台定价场景中，网络平台为双边主体提供以信息撮合为核心的中间连接服务，基于平台的双边市场属性与信息服务的成本结构，“以个人支付意愿为基础将价格偏离边际成本”的差别化定价往往成为信息撮合服务的最优价格策略。平台信息撮合服务的供给对象为内容供给端用户与消费者端用户，双边用户的“间接交叉网络外部性”是平台经济得以存续与发展的核心要素，在边际成本较低且大致相同的情况下，差别化定价中“支付意愿判定”核心基准为用户的间接网络外部性。平台信息撮合服务的差别化定价体现在消费者端用户与内容供给端用户间的价格差异、消费者端用户间的价格差异、内容供给端用户间的价格差异。其一，整体而言，消费者端用户对内容供给端用户具有强外部性，平台多通过零价格或负价格形式吸引消费者用户使用平台信息撮合服务，而对经营者端用户收取更高的入驻价格；其二，消费者端用户的间接网络外部性强弱取决于消费者用户数量、规模与活跃程度，潜在用户与新用户、沉寂用户的间接网络效用潜力大于老用户与活跃用户，为充分挖掘这部分消费者用户的效用潜力，平台通过数据分析，为潜在用户、新用户与沉寂用户发放优惠券、折扣券，或就部分商品直接显示较低价格；其三，不同的内容供给用户在品牌声誉、产品/服务种类等方面亦具有不同的外部性效力，平台会通过价格优惠的方式吸引更受消费者欢迎的商家使用平台信息撮合服务。
二、个性化推荐算法的技术影响与规制动态梳理
（一）个性化推荐算法的技术影响
个性化推荐算法提升信息与接收者的契合度。根据所匹配“信息”类别与价值之不同，个性化推荐算法呈现不同的技术效益与风险。
内容推荐中的技术效益体现为个性化推荐减少接收者的信息搜索与选择成本，通过形成稳定与可持续的信息需求匹配，激励内容创作者进行内容创作，通过提升流量效益，激励平台进行免费信息服务的供给与技术升级。内容推荐中的技术风险包括大型平台的推荐算法在互联网公共表达场域构成一种信息权力，差别化分发信息可能对部分内容创作者与接受者构成歧视性待遇；个性化内容推荐可能导致受众长时间沉浸于相似的偏好信息中，失去感知其他观点的意愿与动力，在个人立场与观点形塑中形成“信息茧房”与“过滤气泡”现象；内容算法对个人信息的掌控增强其通过“信息推送”影响个体行为的能力，商品与广告的推送方式可能会触发个体的直觉思维系统认知，对个体构成行为操控。
价格对市场影响的作用机制较为复杂，价格推荐领域的技术影响依托具体的市场场景判定，无法在理论层面将效益与风险进行抽象界分。根据西方经济学理论，某一商业交易的社会经济效益由所有供给商与消费者共同分享，其在数额上等同于“消费者意愿支付价格”减去“产品/服务成本额”。差别化定价是否增进消费者经济利益与生产者经济利益，取决于生产者总剩余与消费者总剩余在“统一定价”与“差别化定价”两个场景中的比较差额。当特定商品/服务的定价策略由统一定价转向差别化定价时，生产者总剩余与消费者总剩余在不同的市场场景中呈现不同的数额表现样态。
网络平台差别化定价的经济效果在不同的交易场景中呈现不同的表征，而动态竞争能够在一定程度上实现短暂经济效益减损的矫正，无法从理论层面作出概括的“非正即负”的经济增损结论。具体来说，网络平台差别化定价具有市场扩张效应、市场分配效应与增强竞争效应。对于需求端而言，市场扩张效应表明，部分支付意愿低的消费者可以享有统一定价场景中无法触及的产品/服务；市场分配效应表明，被收取较高价格一方的消费者剩余被转移至供给方与被收取较低价格一方的消费者。对于平台与商家而言，市场分配效应表明，差别化定价能为其剥夺消费者剩余提供市场工具；增强竞争效应表明，通过“以吸引部分消费者为目的的低价格设定”这一营销策略，差别化定价能增强市场竞争活力，而市场竞争亦可能导致差别化定价场景中的平均价格低于统一定价中的平均价格；增强竞争效应还表明，差别化定价能够减小商家与平台进行价格算法合谋的可能性。从静态效率层面论之，大多数情形下差别化定价的市场扩张效应能够增进社会总经济福利，而从福利分配视角观之，消费者总剩余与生产者总剩余的增进取决于市场场景中差别化定价中的市场扩张效应、市场分配效应与增强竞争效应三个要素的比较权衡。一般来说，消费者总剩余增进与否主要受市场竞争程度影响。在完全垄断市场中，消费者剩余更有可能减损，而在竞争程度越高的市场结构中，消费者剩余增进的可能性越大。
（二）个性化推荐算法的规制动态梳理
现阶段，我国个性化推荐算法的规制动态呈现三个特征：以“个人明确同意”作为个性化推荐数据处理活动的合法性基础；在个性化内容推荐中，强化平台内容供给与管理责任；以消费者权益保护路径与反垄断规制路径为基础，进行个性化定价算法规制。
1.以“个人明确同意”作为个性化推荐数据处理活动的合法性基础
个性化推荐算法以收集个人信息为基础，预测个体偏好、生成用户数字画像进而进行信息推送。从个人信息保护制度发展现状来看，以“个人控制为核心”的“通知—同意”原则成为各国个人信息收集的主导规制理念。
梳理“隐私理念”的发展脉络可知，关于隐私最核心的两套学理——独处与控制——都源于对当时主导性信息技术的回应。“独处”理念产生于19世纪晚期，由Warren与Brandeis提出，回应摄影、新闻媒体技术对个人空间的侵犯，强调个体有权在隔绝的个人空间内进行独处、不受外界干扰。“控制”理念产生于20世纪60年代，由Westin提出，回应电子存储技术与计算机自动化管理对个体空间的侵犯，强调个体有权对个人数据的流动过程进行控制。彰显“个人控制”理念内核的“公平信息实践”（Fair Information Practices），构成当代个人信息保护的思想渊源与基本框架。“公平信息实践”的最初版本出现于美国健康、教育与福利部门（Department of Health，Education and Welfare）于1973年发布的《公平信息实践》（Fair Information Practices）。经济合作与发展组织（Organization for Economic Cooperation and Development，OECD）于1980年发布了类似的规则，并于2013年进行规则更新。各国的个人信息保护体系沿用了《公平信息实践》中“个人控制数据处理程序”这一基本理念，而各国不同的政治、文化与历史催生了彰显个人控制不同程度的个人信息保护规则，最为典型的是欧盟与美国的制度规则。强调个体人格尊严权利保障的欧盟制度，建立了严格的“通知—同意”规则。《通用数据保护条例》要求在“选择—进入（Opt-in）”的基础上，数据控制者与处理者得到数据主体明确、特定的“同意”表达，并通过目的限制、合意限制、合法性利益限制的方式，补足个体的理性认知缺陷进而强化个人控制。强调数据流动价值实现的美国制度，建立了宽松的“通知—同意”规则。根据美国联邦贸易委员会（FTC）的执法实践，除部分法律对“通知—同意”形式进行要求（主要表现在儿童信息与金融信息收集中的“选择—进入”式“通知—同意”规则设定）外，实践中多将消费者在阅读“隐私声明”后继续使用网络服务的行为比拟为“同意”，或在默示同意选项基础上设定“选择—退出（Opt-out）”规则。
我国个人信息收集中的“通知—同意”制度设定选择了欧盟“选择—进入”式的严格模式。在规则设定上，根据《全国人民代表大会常务委员会关于加强网络信息保护的决定》与《网络安全法》构筑的“通知—同意”规则，网络运营者收集、使用个人信息时，必须事先征得被收集者同意。在此基础上引入必要性原则，对同意范围进行限制，使信息处理者只能收集完成服务目的所必要的数据，在无法定例外的情况下，不得收集与提供的服务无关的个人信息。根据《中华人民共和国个人信息保护法》第13条，个人信息处理者方可处理个人信息的合法性基础包括取得个人的同意；为订立或者履行个人作为一方当事人的合同所必需；为履行法定职责或者法定义务所必需；为应对突发公共卫生事件，或者紧急情况下为保护自然人的生命健康和财产安全所必需；为公共利益实施新闻报道、舆论监督等行为，在合理的范围内处理个人信息；法律、行政法规规定的其他情形。其中，个性化推荐并不属于第13条规定“个人同意”之外的其他信息处理情形，因此，从规制现状与规制动态层面分析，“个人明确同意”是以个性化推荐为目的的信息收集活动的唯一合法性基础。
2.个性化内容推荐：设定个性化内容展示的退出模式
通过设置个性化内容展示的“选择—退出”模式，赋予用户更多的选择与主导权能，成为各国进行个性化内容推荐规制的主要选择，而“选择—退出”在适用层级与适用范围层面的不同制度设计，彰显出不同的制度成本与制度目标。在适用层级层面，根据对平台义务设定的强弱程度，“选择—退出”制度设计分为“以用户数据选择权为核心”的模式与“以平台内容供给义务为核心”的模式。“以用户数据选择权为核心”的制度设置体现在用户通过控制个人数据处理实现对个性化内容展示的控制。“以平台内容供给义务为核心”的制度设置，要求平台同时提供“个性化内容展示”与“非个性化内容展示”两套内容展示服务。在适用范围层面，“选择—退出”的制度设计分为赋能用户退出所有类别的内容推荐和用户仅可退出新闻、广告等特定种类的内容推荐。
相较于欧盟和美国，我国的“选择-退出”模式为平台设置了更多的内容供给义务。
其一，在《个人信息保护法》颁行之前，监管层采取了“以平台内容供给义务”为核心的“选择-退出”模式（见表1，略）。
其二，最终出台的《个人信息保护法》第24条明确，通过自动化决策方式向个人进行信息推送、商业营销，应当同时提供不针对其个人特征的选项，或者向个人提供便捷的拒绝方式。从法条字面意义观之，《个保法》相较草案设置的“要求平台进行个性化与非个性化两套内容供给义务”，形成了兼具平台内容供给与用户主动选择的选择-退出模式。从形式而言，《个保法》削弱了平台的非个性化内容供给义务，但在用户行使拒绝权后，平台是否有义务为用户提供一套非个性化的内容展示，法条规范并不明确。事实上，只有广告推荐与搜索推荐服务，在技术才存在“个性化”与“非个性化”两套服务；对于一些以个性化页面展示为标签的新闻内容平台、社交内容平台，“推荐服务”即是这类平台的商业运营模式。对于后者而言，在用户行使推荐拒绝后，用户是自动退出此类平台服务，抑或此类平台仍需要设置一套非个性化展示，在规范上并不明确。根据《互联网信息算法推荐管理规定（征求意见稿）》第十五条——算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项；用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。从这一征求意见稿规范表述来看，监管者再次强调了平台的内容义务，即立即停止相关服务。对于以个性化内容展示为运营模式的平台而言，“停止服务”的意涵仍然不明确，其是代表用户主动退出个性化内容展示，抑或此类平台需要同时提供一套非个性化内容展示？
3.个性化内容推荐：强化平台内容管理责任
国家互联网信息办公室于2021年8月颁发的《互联网信息算法推荐管理规定（征求意见稿）》进一步强化了平台的内容管理责任。这种内容管理责任包括——平台对推荐内容质量的保障；平台确保推荐程序的公正与透明。其中，在推荐内容质量保障方面，算法推荐平台：不得设置诱导用户沉迷或者高额消费的算法模型；不得设置歧视性用户标签；违法和不良信息推荐管理，建立特征库进行内容筛查，发现违法和不良信息应当采取措施、防止扩散；对符合主流价格观内容进行重点推送；开发适合未成年人使用的模式，不得向未成年人推送可能影响其身心健康的信息内容。在推荐程序公正与透明方面，算法推荐平台：给予用户退出选项，用户用权对用户标签进行管理，向用户提供算法推荐解释说明。
4.个性化价格推送：消费者权益保护与反垄断规制路径
在个性化价格推送规制理念方面，我国监管层历经了“完全禁止到部分禁止”的规制意向与动态转变。“完全禁止”规制意向体现在不具备行为约束力的规章征求意见稿与约谈意见中。根据文化和旅游部于2019年10月颁发的《在线旅游经营服务管理暂行规定（征求意见稿）》第16条，在线旅游经营者不得利用大数据等技术手段，针对不同消费特征的旅游者，对同一产品或服务在相同条件下设置差异化的价格；2020年4月浙江省消费者权益保护委员会约谈多家视频与音频网站，提出“各平台不得在价格上歧视消费者，进行区别对待，应保证消费者购买的服务价格一致”。在个性化价格推送领域，“完全禁止”的规制路径在实施效果上存在低效率与客观施行阻却两大问题：其一，差别化定价对经济福利具有增进效益，网络平台的双边市场模式客观上要求通过差别化定价的方式最大化实现交叉网络效应，差别化定价能够减小算法合谋发生概率；其二，由于平台与商家可通过发放优惠券与折扣券的方式进行间接差别化定价，“完全禁止”不存在客观的实现条件。基于规制实施效果的考量，监管层在正式施行的规制文本中采取了“部分禁止”的规制方式，通过消费者权益保护规制路径与反垄断规制路径，进行个性化价格推送算法规制。
消费者权益保护规制路径体现在对不公平交易行为进行规制，维系消费者与平台/商家的公平交易关系。相较于征求意见稿，2020年10月正式施行的《在线旅游经营服务管理暂行规定》，将“差异化价格设定的行为禁止”局限在“滥用技术手段与设定不公平交易条件”方面，根据第15条，在线旅游经营者不得滥用大数据分析等技术手段，基于旅游者消费记录、旅游偏好等设置不公平的交易条件，侵犯旅游者合法权益。
反垄断规制路径体现在对滥用市场支配地位的差别化定价进行规制。根据《反垄断法》，判定平台差别化定价构成滥用市场支配地位的基本标准为平台或商家具备市场优势地位；产生了初级竞争损害（横向市场的价格歧视），即通过低价设定的方式将竞争者或潜在竞争者排挤出市场；产生次级竞争损害（纵向市场的价格歧视），即上游企业对存在竞争关系的下游企业设定不同价格，从而使某些下游企业处于不利竞争地位。平台差别化定价的现阶段发展特征，难以实现《反垄断法》中的“滥用市场支配地位”的行为证成。在价格歧视《反垄断法》执法实践中，纵向市场价格歧视的排斥竞争效果较为客观、更易判定，横向市场价格歧视违法性认定尤为复杂，而网络平台的场景特征增大了横向市场价格歧视违法性认定的复杂程度。横向市场价格歧视的认定，需要对垄断市场份额、对相关市场竞争造成的损害以及损害程度、对消费者福利造成的影响等因素进行综合判断。网络平台差别化定价可能触及《反垄断法》规制的定价行为主要涉及横向市场价格歧视类别，平台场景化特征增强实践判定的复杂性主要体现在平台市场支配地位认定存在法律技术难度，平台双边市场形式极大地复杂化了平台的价格结构。
国家市场监督管理总局于2020年11月颁发《关于平台经济领域的反垄断指南（征求意见稿）》，对平台经济中个性化价格推送是否构成横向价格歧视认定的两个难点进行了回应，而该征求意见稿的相应规则亦被于2021年3月颁发的《关于平台经济领域的反垄断指南》正式稿予以确定。《关于平台经济领域的反垄断指南》对平台市场支配地位的认定与属于正当理由的差别化定价进行了规定。根据第11条，平台市场支配地位认定可以具体考虑的因素包括：经营者的市场份额以及相关市场竞争状况；经营者控制市场的能力；经营者的财力和技术条件；其他经营者对该经营者在交易上的依赖程度；其他经营者进入相关市场的难易程度。根据第17条，具有支配地位的平台经济领域经营者，不得在无正当理由的情境下，基于大数据和算法分析交易相对人的支付能力、消费偏好、使用习惯等，对交易条件相同的交易相对人实行差异性交易价格；该条对“可能属于正当理由的差异性价格设定”进行了列举——针对新用户在合理期限内开展的优惠活动。
三、个性化推荐算法规制发展反思
（一）个性化推荐算法规制动态比较分析
从规制比较视角观之，我国个性化推荐算法规制现状与动态，都彰显了较欧盟与美国更为严格的规制理念。
1.我国与欧盟、美国在内容推荐的公共规制基础方面存在差异
是否应当对内容推荐算法进行公共规制存在理论上的争议与制度建构基石的质疑。认为不应对推荐算法进行公共规制的理由包括：推荐算法基于用户自身的行为对其进行分流内容推送，算法本身具有技术中立性；平台内容算法是言论，公共规制构成对言论的审查。认为应当对推荐算法进行公共规制的理由包括：基于注意力资源稀缺性，在网络内容市场，倾听者越来越依赖推荐算法获取信息，发言者越来越依赖推荐算法传递信息，平台据此决定“信息”这一重要资源的发放，应当承担一定的公共义务；个性化推荐本质上是代码基于个人行为数据作出的个体偏好预测，算法使用者因此具备更多机会对个体认知偏见加以利用、从而促使个体基于大脑直觉系统作出非理性行为，构成行为市场失灵，从而触发公共规制的介入。
从监管动态来看，《互联网信息服务算法推荐管理规定（征求意见稿）》为算法推荐平台设置的推荐内容质量保障与程序公正透明义务，体现公共规制核心基础为：推荐算法构成对个体的行为操控，导致个体沉溺网络、进行不理性消费；个体日益依赖推荐算法接收信息。《互联网信息服务算法推荐管理规定（征求意见稿）》要求平台不得设置可能操控个人行为的算法参数，要求平台积极推送符合主流价值观的内容，要求平台建立内部审核、不得推送违法内容，要求平台增强消费者自主决定是否接收以及接收何种信息的能力。
我国关于内容推荐的公共规制基础与美国、欧盟存在差异，据此体现出的规制规则也存在较大的差异。
从制度运行实践来看，美国一直秉持推荐算法是言论的去审查规制理念，但基于对2016年Cambridge Analytica事件中推荐算法操控民主选举的警惕与担忧，理论界开始反思规制政治类内容推荐算法的宪法第一修正案基础，监管层在2020大选前夕亦不断释放其在平台政治内容推荐方面可能转变去规制理念的监管信号。政治言论及其传播方式对多元与民主言论场域构建至关重要。基于平台推荐算法，规模化生产的虚假与误导信息以极为隐秘的传播方式触达公民个体，而在注意力资源有限的情况下，这种隐秘传播方式迫使内容被动接受者失去有效辨别真假信息的多元信息环境。因此，相比于商业广告推送，很多美国公法学者认为，政治广告推送算法因其背离了言论自由的基石——自由言论市场得以通过言论竞争机制实现优质言论驱逐劣质言论的目的，对之予以规制并不存在宪法第一修正案的阻碍。
相较于美国在言论自由保护层面探寻推荐算法监管的突破口，欧盟监管层主要基于网络平台在信息分发与资源配置中享有的私权力以及权力滥用隐患进行监管议程与监管规则的设定。在商业实践中，受推荐算法信息分流与引导的影响群体包括希望信息得到更多引流的商家与被动接收信息的普通用户。推荐算法对个体非理性决策操控隐患引发的行为市场失灵与传统政府监管基础的四种市场失灵，在行为实验发现与论证方面存在较大的差异性，政府应否介入行为市场失灵范畴仍存在很大的理论质疑。因此，在信息推送的平台与消费者用户的关系中，欧盟委员会在实践中多采取柔性的监管建议方式进行探索式指引。从监管动态来看，欧盟委员会计划通过规范推荐程序的方式，增强消费者用户对于是否接收信息、接收何种信息的能动控制权能。欧盟议会于2020年10月，公开发表“内容推荐”的规制建议。欧盟议会建议：应当赋予用户“对自己接受何种信息”更大的控制权；呼吁对广告推荐进行更严格的监管，支持对个体侵入程度更低的“情境化广告contextual advertising”，即广告推送算法的主要考虑因素为用户在特定时刻正在看什么，而不是在对用户过往浏览行为进行监控的基础上进行广告推送。根据欧盟委员会于2020年12月发布的《数字服务法案（草案）》，平台应当增强内容推荐的透明度，平台应当告知用户内容推荐算法的主要参数，平台应当增强用户在内容推荐算法设置中的参与权。在广告推送中，平台需要告知用户付费的广告商身份，并向用户解释进行特定广告推送的原因。
在平台与商家用户的关系中，欧盟委员会颁发监管规则规范“平台信息引流程序”，保障商家用户对平台信息引流算法参数的知情权、规范平台滥用算法推荐权力优待自己内容。欧洲议会颁发的P2B（platform to business）规则《促进网络中介服务商业用户的公平和透明度》于2020年7月12日正式生效实施，其中第5条“排名ranking”与第7条“差别对待differentiated treatment”对信息引流算法进行了三点规范。1）网络平台（主要指电商平台等垂直搜索平台与一般搜索引擎平台）应当在其服务条款中说明决定内容排名的主要参数以及这些主要参数相对于其他参数相对重要性的原因，其中，尤其应当对算法参数是否包含“商品和服务特点”、“商品服务和平台消费者用户的相关性”这两个要素及其占比权重进行说明。2）如果主要参数包括针对商业用户向平台支付的任何直接或间接报酬而影响排名的可能性，平台应当说明这些可能性以及这种报酬对排名的影响。3）平台如果对自己提供的产品、服务或平台所控制企业提供的产品、服务在数据进入、内容排名、内容推荐等方面给予优待，应当向其他商家用户说明这一差别对待的经济、商业或法律原因。
2.根据欧盟、美国数据保护监管规则，“个人明确同意”并非以个性化推荐为目的的信息处理活动的必备基础
在个人数据处理的合法性基础规定中，欧盟《通用数据保护条例》第6条较之《个人信息保护法（草案）》第13条，多具一项“合法利益”（legitimate interests）基础。根据第29工作小组的释义，“合法利益”包括控制者了解客户的喜好，以便更好地使其提供的产品和服务个性化，更好地满足客户的需求和欲望。欧盟数据保护委员会（European Data Protection Board）对“合法利益”基础的具体适用，亦颁发了多个精细化规则指导意见。例如，在《针对社交平台用户进行内容定向推荐的行为指南（征求意见稿）》中，欧盟数据保护委员会以推荐算法的数据来源为基础，将社交平台定向广告推荐划分为不同场景，包括“基于用户主动提交的数据进行内容推荐”“基于平台/第三方观测的数据进行内容推荐”“基于平台/第三方推测的数据进行内容推荐”，并根据不同场景设定不同的数据处理规则与责任分配指引。其中，社交平台基于“用户主动提交至社交平台的数据”“用户主动提交至广告方的数据”进行广告推送，“同意”和“合法利益”都可以成为数据处理的合法性基础；社交平台基于“用户地理位置”“观测数据”进行广告推送，必须以个人明确同意作为数据处理的合法性基础。
美国依赖“市场化路径”进行数据保护执法，并未对“个人信息处理”施加“合法性基础”要求。一般情况下，平台方只需在平台“隐私声明”中明确“与个人有关的数据将用于完善网络服务供给”，即可开展个性化内容推荐。值得一提的是，新加坡最新的数据保护监管动态表明，监管层将“个性化内容推荐”纳入合法商业目的范畴，意欲削弱“个人同意”规则在内容推荐中的作用。根据新加坡议会于2020年11月颁发的《个人信息保护法修正案（草案）》，个人信息处理的合法性基础新增“商业改善目的”（business improvement purposes），其中包括“提供个性化服务”。
3.欧盟与美国都选择了对内容推荐产业发展更友好的“选择—退出”制度设计
欧盟设置“以用户数据选择权为核心、针对所有类别内容推荐”的“选择—退出”机制：如果数据控制者以“明确同意”为内容推荐数据处理基础选择，数据主体可随时选择“撤销同意”；如果数据控制者以“合法利益”为内容推荐数据处理基础选择，数据主体可随时对数据处理行为提出反对。
美国倾向于将内容推荐算法视为“言论”，因此，个性化内容推荐仍处于去规制状态。在个性化广告推荐领域，美国以行业自律的规制模式为依托，在广告业行业联盟颁发的行为广告（behavioral advertisement）的自律规则体系中，绝大部分广告推送方为用户设定了“关闭推送”的退出选项。
4.在个性化价格推送规制中，欧盟与美国规制议程部署进展更为缓和
欧盟委员会在2018年11月向经济合作与发展组织提交的《数字时代的个性化定价》（Personalised Pricing in the Digital Era）报告中，表达了数字经济时代个性化定价的基本监管理念与监管动向。欧盟委员会认为，平台与网络零售商拥有更多数据分析消费者支付意愿，差别化定价对象的消费群体划分规模将逐步缩小，实现从以“群体”为单位的三级差别化定价（the third degree price discrimination）转向以“个人”为单位的一级差别化定价（the first degree price discrimination），消费者总剩余将面临完全被剥削的风险。自2013年开始，英国、法国、德国与欧盟监管层开展了多项关于线上市场差别化定价应用现状的市场调研，多项市场调研分析结果显示，差别化定价在欧盟市场的实践范围仍然较窄，在存在差别化定价的市场领域，高价格与低价格的价格差额非常小。欧盟委员会据此认为，差别化定价的市场实践现状还未引发足以触动监管的市场风险，监管层现阶段不应对差别化定价本身进行限制。同时，欧盟委员会提出，将持续观测差别化定价的实践应用发展，并对差别化定价与个性化内容推荐结合可能会产生新的行为操控模式——个性化助推（personalized nudging）——表示担忧，将根据市场实践场景及时调整监管规则。
美国关于数字经济时代差别化定价监管的基本理念体现在两个公开发布的政府文件中：白宫经济顾问委员会（The White House Council of Economic Advisors）于2015年8月发布的《大数据与差别化定价》（Big Data and Differential Pricing）、联邦贸易委员会（The Federal Trade Commission）于2018年10月向经济合作与发展组织提交的《数字时代的个性化定价》（Personalized Pricing in the Digital Era）报告。总体而言，美国监管层对差别化定价本身持有正面评价的态度——无论是线下市场还是线上市场，差别化定价通常能够增进社会福利，并提出克制监管的基本立场；并在反歧视、消费者权益保护与个人信息保护监管规则中，对与个性化定价相关的违法行为予以监管。
（二）个性化推荐算法规制中引入“成本—收益”分析工具
基于对规制规则、动态的分析与比较可知，在个性化推荐算法规制中，我国现阶段采取的基本路径为为平台设定行为义务。强化平台责任的规制模式，可以弥补监管机构执法资源有限的规制弱势，并能够通过对推荐算法社会事件及时回应的方式维系公众对数字经济的信任。然而，我们也应当认识到，互联网信息技术呈现生态复杂、迭代迅速的发展特征，在技术风险尚未充分呈现、技术发展局面尚未稳定的情形下，过早施行较重的管制规则，可能扼制信息技术的发展创新。我国现阶段个性化推荐算法规制规则与动态存在较大的规制失灵可能性。
1.内容推荐算法的规制成本分析
从内容推荐应用场景来看，个性化推荐的技术形式包括两类：主动进行个性化内容推送与个性化内容页面展示。主动进行个性化内容推送的形式包括新闻、广告内容以“弹窗”形式进行推送；内嵌于平台内容页面中的“广告”；在视频结尾提示“下一个你可能感兴趣的视频”；在内容页面下端单独展示“你可能感兴趣的内容”。个性化内容页面展示包括微博页面、Facebook页面、抖音页面、头条新闻界面的动态消息推送；淘宝页面、Amazon页面、京东页面个性化商品展示；搜索内容排序的个性化展示。
要求内容推荐方同时提供“个性化内容”与“非个性化内容”两套内容展示，在主动进行个性化内容推送的场景中具备技术可行性与规制效率，但在个性化内容页面展示场景中，该规则的实施过度侵犯企业自主经营，并会遏制内容平台的发展创新。在平台主动进行个性化内容推送的场景中，推荐内容页面/栏目/弹窗与平台主页面独立，平台方只需要关闭用户界面的推荐内容页面/栏目/弹窗，即可保障用户的“选择—退出权”行使。在个性化内容页面展示场景中，搜索内容排序的非个性化展示技术施行成本较低，且搜索引擎平台强调信息推送的专业性，为用户提供非个性化内容展示选择是收益大于成本的规制规则；对于呈现动态内容展示的社交媒体平台、新闻资讯平台与呈现个性化商品展示的电子商务平台而言，个性化内容推荐页面实质上等同于平台主页页面，而个性化展示能够实现长尾内容引流、提升用户体验，要求平台同时提供“非个性化内容”展示，等同于使此类内容平台页面设计回归至传统门户网站的形式，实质上扼杀了此类平台的经营模式。
2.个性化价格推荐算法的规制成本分析
通过消费者权益保护路径与反垄断路径进行个性化价格推荐算法规制，现阶段存在较大的规制失灵成本。
其一，就现阶段个性化价格推荐应用实践来看，价格推送是否构成“不公平交易行为”，存在较高的行为证成难度。在平台/商家端与消费者端的博弈结构中，前者拥有更多数据进行“支付意愿”的分析，但后者亦享有更便捷的比价工具与更低的转换成本。同时，价格敏感与技术敏感的消费者可通过观察平台与商家价格行为的方式，策略性地改变自己的行为以获取更低的价格。双方的博弈力量似乎并未失衡，而这一理论假定亦得到了域外市场调研数据的实证支撑。欧盟委员会基于线上市场差别化定价应用现状的市场调研，公开的两个基本结论为基于个人数据的“个性化定价”应用并不普遍；在采取差别化定价的产品中，价格差额较小——同类产品采取差别定价策略与采取统一定价策略的平均价格差率为6%，进行差别定价的产品最高价与最低价平均价格差率小于1.6%。
《在线旅游经营服务管理暂行规定》对“不公平交易条件”的规范表述较为模糊，可能导致价格领域的过度监管困境：基于大数据作出的差别化定价本身属于不公平交易条件，抑或与差别化定价相关的营销策略属于不公平交易条件？根据前述分析，将“不公平交易条件”限定为“与平台差别化定价相关的违法营销策略”，更符合技术客观事实与风险。这也是欧盟、美国监管层现阶段的规制规则设置选择。例如，欧盟监管层于2016年颁发《不公平交易行为指南》，明晰了如果平台或商家根据消费者数据推断其急于预定旅程，诱骗消费者所剩车票较少并向其收取更高价格，属于不公平交易行为。经济合作与发展组织亦建议，平台或商家若误称其推送的“差别化价格”为专属最低价，客观上提升消费者的搜索成本，则可认定为“不公平的交易行为”。
其二，现有的反垄断规制规则的设定存在规则执行成本高与规制失灵成本高的双重风险。平台与商家通过优惠的方式吸引新用户与潜在用户，是实现平台双边市场效率的重要方式，对这一价格策略的限制会减损市场竞争活力，并将加大“价格算法合谋”的行为概率。
（三）明晰个性化推荐算法的规制基础
对技术风险进行理性规制规则设置的基础，应当以明晰两个要素为基本前提：技术风险的客观特征、规制成本。
基于风险的规制方式，强调对损害结果进行概率性分析。基于个性化推荐算法现阶段发展形势判断，以下两个议题并不能作出较为清晰的概率分析：内容推荐算法是否会造成个体偏见加剧，内容推荐算法是否构成个体的行为操控。
其一，现阶段“信息茧房”效应并未在技术领域得以充分证实。布朗大学和斯坦福大学的经济学家通过对比观察1996年与2012年美国成年人两极分化和使用网络媒体之间的关系，探究互联网信息传播方式的改变对认知偏见的影响。研究结果显示：两极分化主要是由上网时间最少的美国人推动的，比如75岁以上的美国人；尽管互联网对2012年与1996年的青年群体的信息获取方式影响甚大，但两个时期青年的认知偏见程度相差甚小。
其二，“行为操控理论”偏离传统经济学“经济市场失灵”的认定与矫正模式，在理论基础与行为损害尚未明确的情况下，触发强制性的监管手段存在高昂的执法成本与监管失灵成本。基于经济学理论基础建立的“市场失灵与政府监管”的基本逻辑为以完全竞争市场为标准模型，推导出导致偏离标准模型的市场失灵要素（负外部性、公共物品、信息不对称、垄断），政府通过监管行为矫正市场失灵的方式，引致市场达到或接近完全竞争的标准模型。市场失灵作为政府干预市场的边界点，是经济学界基于标准模型与实证研究进行演绎推理总结的监管理论基础。如果以市场失灵模型为蓝本，将“行为市场失灵”设定为政府干预行为领域的理论基础，存在两个逻辑不恰之处：是否存在标准的理性行为模型存在疑问；个人行为受多种因素影响，政府监管手段能否有效实现理性纠偏存在疑问。
有必要基于个性化推荐算法的发展现状，对危害概率更为明晰的技术风险进行归纳与梳理，进而设定与技术风险相匹配的算法规制方案。基于双边效应特征，特大型平台在信息分发领域享有一定程度的“私权力”，其对整个社会的信息生产与信息接收具有决定性影响。当某一服务占据了社会生活中的特殊地位，使得公众对于一些重要资源的获取非常依赖它，且很难被其他类似服务替代时，我们便可以认定这一服务与公共利益的实现具有非常直接的关联，具有显著的公共性。因此，对于特大型平台而言，现阶段更有必要通过算法规制规则的设定，规范平台内容管理方面的“私权力”。平台内容管理的“私权力”，存在“平台—商家”与“平台—消费者”两个面向。在“平台—商家”面向中，特大型平台成为很多商家接触消费者的重要甚至唯一途径，而平台的内容引流机制将直接决定商家的产品/服务信息能否送达消费者以及送达群体的规模；在“平台—消费者”面向中，特大型平台成为很多消费者获取信息的重要甚至唯一途径，而“信息服务”对公民公共生活的重要作用表明，特大型平台已经具备一定程度的“公用基础设施”特征。在明晰技术发展客观事实与更多的技术伦理冲突并未显现的前提下，通过程序性规则规范个性化推荐算法中“平台-商家”与“平台-消费者”两个面向中的平台信息权力，应当成为现阶段个性化内容推荐的规制核心。
（四）调和科技伦理治理与法律规制的关系
差别化定价与个性化内容推送在线下交流场景中普遍存在，而个性化推荐在平台场景中的规模化应用，带来了新的价值事实冲突与价值观念冲突。就价值事实冲突而言，有观点主张个性化推荐增强了信息与接收者的匹配度，更高效地实现了“信息”在数字经济时代中的价值信号、行为激励作用，但亦有观点认为个性化推荐暗含消费者剥削、个人隐私侵犯等负面影响。就价值观念冲突而言，有观点主张个性化推荐促进了信息的效率性生产与使用，创造了文化多元主义环境，但亦有观点认为，个性化推荐将引致文化虚无主义困境。
在科技伦理冲突的解决中，“法律规制”与“伦理治理”在理念与路径上拥有不同的逻辑。前者以责任威慑为依循，进行“权利—义务”的行为规范设定；后者以伦理反思为基础，通过持续性伦理评估与伦理讨论、伦理共识提炼，预见、回应新兴科技发展带来的新的社会问题，并通过伦理原则指引的方式促进个体在具体情境中进行原则的审视与申辩。“法律规制”通过迅速回应价值冲突，能够及时定纷止争，为技术发展营建稳定的规则环境，但将“权利—义务”模式适用于生态复杂、迭代迅速的互联网信息技术，存在较大的规制失灵成本。
我国个性化推荐算法规制中的平台义务规则即体现了监管者的“法律规制”路径选择，这能够及时缓解公众因“大数据杀熟”“行为操控”等伦理冲击产生的技术信任危机，但如前所述，“一刀切”的规制规则极有可能减损市场竞争活力、阻碍信息技术的持续发展。“伦理治理”致力于在厘清技术客观事实的前提下，为各方伦理主张提供一个公正的商谈、辩论秩序，并对技术发展所带来的伦理影响进行持续性关注与回应。就个性化推荐算法的发展现状而言，“伦理治理”模式更具成本优势。欧盟关于个性化价格推荐算法的规制路径，实质上初步显现了信息技术中的“伦理治理”框架：通过多项市场调研厘清差别化定价的市场现状，积极公开市场调研报告进而缓解消费者的信任危机，对行为助推、技术弱势群体的利益减损等潜在的技术伦理问题保持持续关注，通过颁发人工智能伦理原则对个性化推荐行为进行伦理指引。在平台差别化定价与个性化内容推送中，我国监管部门可以通过主导技术事实叙事的方式，向公众澄清技术应用现状，对“行为操控”“信息茧房”这类伦理问题保持持续关注，并探寻通过“权利—义务”规范技术风险较为明晰或挑战大多数人道德底线的信息推荐行为。
四、结语
个性化推荐算法的发展应用变革了信息获取、信息传递与信息交流方式，它的技术效益、技术风险与技术伦理问题，已经成为各国监管层在人工智能科技与平台经济监管中的重点关注议题。规制路径的选择与规制规则的设置，需要以明晰技术发展的客观事实与规制成本为基本前提。本报告在阐述技术事实的基础上，对现有的规制回应进行了分析。如何在规范上设定个性化推荐算法的具体治理工具，以及“法律规制”与“伦理治理”在整个人工智能技术与信息技术治理中的调和机制，仍然有待实践与理论层面的继续深入探索。
