此页面上的内容需要较新版本的 Adobe Flash Player。

获取 Adobe Flash Player

高级搜索
请输入检索内容:

当前位置: 首页 >> 学术资源 >> 行政法学 >> 正文

谢尧雯、赵鹏:科技伦理治理机制及适度法制化发展

| 时间: 2021-09-05 12:04:34 | 文章来源: 《科技进步与对策》2021年第16期

科技伦理治理机制及适度法制化发展


谢尧雯

(中国政法大学法与经济学研究院师资博士后)

赵 鹏

(中国政法大学法治政府研究院院长、教授)


【摘 要】科技发展与法律规制存在步伐不匹配性,这为通由伦理学方法解决科技发展引发的伦理问题提出了制度建构需求。科技伦理由哲学理论学科或概念发展为一种治理机制,源于科技治理体制在科技与社会的持续互动中不断进行制度探索。科技伦理治理以解决伦理困境为目标,对科技伦理的影响进行探寻与反思,为个体行为提供伦理指引。科技伦理治理与法律治理享有不同治理逻辑,二者关系调和是科技治理体系完善的重点。科技伦理治理模式特征体现为适应性治理与软法规制,有必要通过适度法制化路径提升伦理治理效率。适度法制化路径应当坚持两个原则:审慎使用实体权利—义务规范方式规定伦理问题,推动法律通过规范程序方式促进伦理反思;建立法律规则、行政指引与自律规范相结合的多层次规范体系,完善风险交流机制与伦理共识达成机制,增强伦理原则执行力。

【关键词】科技伦理治理机制;适应性治理;软法规制;适度法制化发展


引言


新兴科技发展引发的伦理冲突日渐成为科技治理议程设定中的焦点问题。我国已经组建国家科技伦理委员会,党的十九届四中全会、五中全会也均强调要健全科技伦理治理。伦理治理意味着伦理不仅作为反思科技发展社会影响的思想指引,更要成为具有约束力的行为框架。然而,从科技治理现状来看,我国科技伦理治理的作用仍然较弱,相应的核心治理工具亦未建立。在面对新技术引发的诸多社会问题时,法律仍然是监管层首选的治理工具。科技伦理治理与法律治理具有不同治理逻辑,二者关系调和是科技治理体系完善的重点。基于此,本文从新兴科技发展特征入手,比较分析科技伦理治理优势特征,并对科技伦理治理适度法制化进行阐述。


1 科技伦理治理机制缘起与发展


科技发展为个体带来更多行为选择,而伦理关乎何种行为属于好的行为的价值评判,科技与伦理属于彼此伴生的两套系统。而随着科技发展步伐的加快,伦理因素在科技系统中的作用逐步扩展——从单纯作为一种评价个体行为的价值工具,演化为科技治理工具与机制。

1.1 新兴科技发展与治理技术革新需求

科学技术创新与发展拓展了个体行为边界,法律作为行为规范的核心规制工具,成为传统科技监管路径首要选择。然而,科技发展与法律规制存在内生的步伐不匹配问题,这为法律系统的及时有效回应带来一定监管成本。究其原因:一是科技发展程序具有不确定性、多元性与体系复杂性特征,而法律进行行为规制的前提在于对行为目的与后果具有明晰认知,使得科技系统与法律系统之间存在信息不对称难题;二是科技发展带来新的行为规范问题,而法律修改与制定程序缓慢,法律监管空白是科技迅速发展过程中常有的现象;三是法律往往以社会既定价值体系为基础设计行为准则,而科技发展带来的新知识、新人际交互方式也会推动社会价值体系更新,因此,过于严格的法律规制可能无法反映社会观念动态变化情况。

科技发展与法律规制机制的步伐不匹配问题有两个解决方案:一是以风险预防原则为规制工具,减缓科技发展步伐,维系法律系统对科技系统的持续控制;二是加速治理机制革新,提升科技治理工具对科技发展的适应能力。风险预防原则(Precautionary Principle)以预防胜于后悔(Better Safe than Sorry)为理念,在没有证据证明科技发展确实会造成环境损害的情况下,要求监管者以安全为目标积极采取预防措施,防止损害的发生。风险预防原则已成为欧盟监管层规制科技风险的核心工具,主要源于欧盟委员会对早期未监管石棉、含氯氟烃等技术元素所引发环境损害的警惕。通过风险预防原则为科技发展创造一个“减速带”,在科技监管框架不完整的情形下,维系法律系统对科技系统的控制。

在生物科学、纳米技术、人工智能等新兴科技发展过程中,风险预防原则的规制劣势愈发凸显。从监管理论角度来看,对于风险预防原则的确切含义缺乏共识,监管者并未提出应当在什么情况下、什么时机以及何种程度上对科技风险进行预防的确定指引,容易引致监管矛盾与裁量权滥用的监管失灵困境。再者,相较于传统技术,新兴科技具有可塑性与融合性的双重特征。就可塑性而言,新兴科技具有重新塑造逻辑、生命、物质、大脑神经的潜力,它赋予个体建构新的大脑、新的身体、新环境的技术能力;就融合性而言,新兴科技以融合状态发展,一种技术可以成为协助另一种技术发展的工具,也可以成为另一种技术产品的组成部分。因此,相较于传统科技带来的实体层面环境损害,新兴科技的可塑性使得其带来的更多是关乎生命本质、人与人之间关系、人与自然之间关系等伦理冲击,而融合性又加剧了新兴科技发展不确定性,这增大了适用风险预防原则解决步伐不匹配问题的监管失灵成本。

从理论层面来看,在新兴科技治理中,提升科技治理工具对科技发展的适应能力成为解决步伐匹配问题的有效路径。伦理学为解决伦理冲突提供了重要理论工具,也成为科技治理制度发展的重要转向。

1.2 科技伦理治理制度化发展历程

从实然层面来看,伦理在科技发展中的治理作用最开始局限于科学体内部反思,属于一种非正式自我规制方式。而随着科技发展步伐逐步演进,监管部门在科技监管政策中越来越多地纳入伦理因素,科技伦理从科学体内部小范围反思逐步发展为体系化治理机制。

(1)从工程师伦理到科技伦理评估。长久以来,科学技术研究与科技产品创新过程一直被认为是价值中立的活动,只有在科技产品投入应用时才会产生伦理议题。究其原因:一是传统科技分析框架将科技研究、创新过程与科技产品应用独立开来,前者由科学家与工程师通过发现与适用客观的科学知识完成,科技发展程度与发展结果由自然的限度而非人的主观选择决定;二是伦理指涉人的行为选择价值评判,只有在具体适用科技产品时才会产生是否使用与如何使用的伦理问题。在科技中立理念下,西方国家早期科技监管政策以评估科技产品应用风险为基本前提。1972年美国国会组建科技评估办公室,开启专家预警式科技评估模式,技术专家对科技产品特征与应用后果进行评估,并为立法机关财政资源配置与科技监管政策制定提供基于科技事实分析的专家报告。基于科技中立理念,伦理的非正式治理作用仅仅局限于工程师职业伦理,即对技术专家提出勤勉、敬业、不贪污等个人伦理(individual ethics)要求。

20世纪80年代以来,关于科技与社会间关系的大量研究推翻了科技中立的理论假定。科技对社会的影响并非遵循原因—效果这一线性逻辑,二者互相影响、互相塑造。换言之,技术并非价值中立而是具备价值负载的,科技评估开始从科技产品终端应用领域拓展至技术研究、技术开发、技术应用全链条。典型代表就是荷兰建构型技术评估(Constructive Technology Assessment)模式的兴起与发展,利益相关方参与到技术创新讨论程序中,在技术发展早期阶段对可能的伦理影响开展评估,并将相应伦理共识注入科技产品设计中。荷兰建构型技术评估模式也启发了美国实时科技评估(Real-Time Technology Assessment)与欧洲交互性学习与行动(Interactive Learning and Action Approach)的发展。这些科技评估路径都强调,要在科技发展早期阶段预测潜在影响,并将这些见解反馈至决策制定与行为者战略中。有研究者将此称为预期性伦理(Anticipatory Ethics),它通过对“好”技术的规范性价值判断影响技术产品现实设计,具备规范性与事实性双重特征。

(2)从科学界自我伦理约束到专业性科技伦理机构组建。科技伦理作为治理机制,首先起源于科学共同体内部产生的职业自律性规范。近代以来,科学开始建制化发展,科学研究逐渐职业化和组织化。这种建制化发展需要科学共同体内部形成职业伦理规范,以获取社会支持与信任。

这种科学界自我约束机制首先在生物医学领域发展。生物医学科技伦理治理初步框架显现于《赫尔基辛宣言》,其由世界医学联盟组织于1964年颁发,体现科学界因二战纳粹人体医学试验丑闻而进行伦理反思的自我规制姿态。《赫尔基辛宣言》确立的科技伦理治理包含两个基本要素:人体试验以取得试验者明确同意为前提;试验方案需经独立的伦理审查委员会审议与批准后方可施行。宣言颁发后,美国、英国、瑞典等国部分医疗机构开始自发组建伦理审查委员会。早期的生物伦理治理目标在于:医学界通过自发建立非正式科研伦理反思与伦理行为指引机制,赢得公众信任;向监管部门展示医学界自我治理意愿与能力,获得监管部门信任。

20世纪70年代以来,体外受精、基因诊疗、生命克隆等生物科技快速发展,生物科学领域伦理问题从人体试验丑闻拓展至关于生命、自然、自我等根本价值观念的冲击,伦理反思既而成为生物科技监管政策在推动新技术有益使用与防范有害问题出现之间寻求平衡的“核心武器”。在此背景下,美国与欧洲国家监管机构开始打破伦理领域科学叙事的垄断地位,推动国家伦理机构的组建,实现了伦理体制化。伦理机构组建包括两个层次:监管机构组建开展公共伦理讨论、政策谏言的国家级伦理委员会;监管部门推动研究机构组建机构审查委员会或监管部门组建中心化机构审查委员会,对生物医学研究方案进行审查。

此后,专业性伦理委员会逐步突破生物科技范围。1997年欧盟成立新兴科技伦理欧盟小组(European Group on Ethics in Science and New Technologies),2019年我国成立综合性国家科技伦理委员会,法国计划于2021年组建数字伦理国家委员会(National Committee for Digital Ethics)。

由此可见,科技伦理由哲学理论学科或概念发展为一种治理机制,源于科技治理体制在科技与社会持续互动中不断进行的制度探索。在理论层面,科技发展与法律规制存在步伐不匹配性,这为通过伦理学方法解决科技发展引发的伦理问题提出了制度建构需求。在制度建构实践中,科技伦理治理机制亦随着科技发展逐步演进而建立与完善,科技-社会互动程度提升,科技伦理重要性日益凸显,科技伦理从科学体自我反思演化为一种正式、自上而下推动的治理机制。科技中立的理念逐步被摒弃,专门化科技伦理委员会得以组建,伦理评估与伦理审查成为科技伦理治理的重要制度载体。随着科技发展的进一步演进,科技与社会互动进一步加强,科技伦理治理机制亦将随之推动制度发展。


2 科技伦理治理工具


科技发展遵循引进阶段、渗透阶段、权力阶段演进路径,随着科技发展阶段逐步推进,技术融入社会的广度与深度不断增加,受技术影响的行为选择范围越来越广,技术产生的伦理问题亦越来越多。新兴技术融合性特征增强了技术变革不确定性、增大了技术发展至权力阶段的演进概率。新兴科技发展的不确定性蕴含强大社会变革力量,极易引致两个层面伦理困境:一是科技伦理问题的不可知性。新兴科技发展方向与发展效果具有不确定性,由此引发的科技伦理问题亦具有不可知性,如果伦理问题显现于科技发展权力阶段,则社会对技术的控制能力将大幅减弱。二是科技伦理冲突加剧。新兴科技具有推动社会剧烈变革的潜力,将引发大量价值事实冲突与价值观念冲突,前者如信息科技发展带来的交流便利与隐私侵犯的价值事实冲突,后者如信息科技发展带来的文化多元与虚无主义之间的价值观念冲突,而伦理冲突加剧会引发社会技术信任危机。

作为一门哲学学科,伦理学以伦理反思为路径,通过分析道德理论基础、明晰概念、研究不同伦理主张的逻辑,对具体情境中的道德选择进行二阶思考。伦理学基本研究方法为解决科技伦理困境提供了有益理论工具,以此为基础形成的科技伦理治理机制目标包括:促进全社会了解和监督技术创新、发展与应用,引导科技向善;通过提炼共识的伦理准则,以原则为基础,指引科技创新、发展与应用中的行为向善。基于此,本文根据国内外科技伦理治理实践经验总结,将科技伦理治理工具归纳为:科技伦理影响的探寻与反思;个体伦理行为的指引与规范。

2.1 科技伦理影响的探寻与反思

伦理治理机制通过对技术发展进行持续性伦理反思,增强社会对快速发展科技的掌控能力。这种伦理反思体现在两个方面:一是在科技创新过程中,对科技发展状态与伦理影响进行持续的阶段性审视,将何为好的科技理念纳入科技产品设计中;二是在厘清技术事实现状的基础上,反思科技创新与应用引发的伦理问题,构建伦理冲突解决方案或提炼共识性伦理准则。

(1)科技伦理动态评估。科技伦理动态评估强调在科技创新阶段嵌入伦理反思机制,激励专家、公众对科技发展可能方向与结果进行讨论,并将好的科技展望纳入科技产品设计中。科技伦理动态评估实践发展理念源于:科技发展方向与结果并非自发于自然,而是由特定科技决策情境决定;技术发展反映决策者的兴趣、价值、动机与观点。基于科技—社会互相影响的价值理念,荷兰政府于1984年开展建构式伦理评估项目,将社会对向善科技的展望融入到科技产品设计中。此后,建构式伦理评估的理念与方法为多个国家科技评估机构所借鉴,许多科技公司、科研机构在技术产品设计过程中亦自发引入伦理评估机制,并进行伦理反思性设计。科技伦理动态评估在纳米技术中应用最为广泛,《通用数据保护条例》将基于设计的隐私保护纳入数据保护工具范围,各国监管层与科技公司开始不断探索在人工智能科技产品中进行预见伦理与嵌入伦理设计。

科技伦理动态评估通过伦理想象与反思的方式进行技术治理,伦理主张的多元性、不稳定性以及技术—社会互动环境的复杂性特征对这一治理模式实践效率提出了挑战。开展与研究这一项目的监管层和研究机构构建了诸多方案,推动参与、预见、整合3大要素行为的进展。这些伦理治理方案致力于解决的核心问题包括:公民与专家参与科技创新决策的范围和方式是什么?如何理性构思未来科技的伦理预见?如何实现技术产品设计的伦理嵌入?

(2)科技伦理讨论与反思的公共论坛。从科技伦理治理实践来看,科技伦理讨论与反思的公共论坛主要由科技伦理委员会与科技监管部门主导,其致力于在澄清科技客观事实的前提下为不同价值事实主张与价值观念主张提供辩论空间。综合而言,科技伦理讨论与反思的目标主要包括:帮助公众对某一科技伦理问题进行全面与深入理解;向监管机构提供分析报告或科技监管政策建议;在伦理辩论与反思的基础上,通过提炼共识伦理的方式结束伦理争论与解决伦理冲突。在具体实践中,这3个目标的实现因不同科技伦理议题以及各国不同科技伦理治理文化而存在不同侧重。一是对于一些伦理冲突较小的议题,伦理委员会一般通过总结公共伦理的方式编撰伦理准则提供指引;二是对于伦理冲突较大的议题,伦理委员会一般致力于推动与完善公共辩论,促使公众和监管机构充分明晰争议问题的技术事实与伦理主张;三是伦理治理文化催生了不同类型伦理反思论坛,如丹麦伦理论坛更注重通过民众辩论的形式进行科技伦理智识普及,德国、瑞典的伦理论坛更注重通过专家辩论形式厘清伦理纷争全貌,继而向监管机关报送咨询建议。

伦理的多元性与相对性特征表明,科技伦理委员会只有依循规范的标准提炼伦理共识,才能有效解决伦理冲突问题。基于已有实践,伦理共识提炼标准包括实体标准与程序标准。在实体标准中,伦理委员会根据客观政策、技术条件以及伦理标准被遵守的可能性总结共识理念。在程序性标准中,公共伦理反思论坛的公正程序而不是伦理主张的理念内容,成为伦理共识提炼的正当性基础。英国纳菲尔德生命伦理委员会(the Nuffield Council on Bioethics)即采取了程序标准模式,在公共论坛辩论中,纳菲尔德鼓励与欢迎所有观点的表达,并以伦理观点的逻辑基础为检验标准,将论证最为充分的伦理主张提炼为共识性伦理。

2.2 个体行为的伦理指引

科技伦理治理对个人行为的伦理规范方式,与法律规制方式形成鲜明对比,前者以抽象原则为基础,后者以具体规则为基础。新兴科技的风险、效益与发展轨迹都存在高度不确定性,在技术发展事实与应当如何行为的具体共识规则尚未出现前,通过提炼基本伦理理念,指引个体在具体科技决策中进行伦理反思,能够增强社会对科技发展整体向善的掌控力。伦理原则一般由国际组织、监管机关、行业协会、科技企业、研究机构编纂,通常以义务伦理、结果伦理、美德伦理为导向,对个人行为提出增强社会福祉、尊重个体尊严、自决、公正公平等伦理要求。由于新兴科技应用极为广泛,以及伦理的多元性、相对性特征,用于个体行为指引的伦理原则都较为抽象。如人工智能领域,主要伦理原则包括:尊重人类自主性原则、防止损害原则、公平原则、可解释性原则。

伦理规范的执行与法律规则的执行同样存在差别,前者强调在个案审议与反思的基础上纠正个体行为伦理偏差,而后者以责任惩戒威慑个体行为守法。为监督伦理指引原则的执行,生物医学研究领域发展了伦理审查制度,即生物医学研究需要通过机构伦理审查才能进行,构成伦理原则指引—伦理审查委员会行为监督的个体行为伦理规范范式。伦理审查机构通常依据一定审查标准,分析具体医学研究方案是否符合伦理原则。这些审查标准一般包括:项目收益是否高于给研究对象/病人可能带来的损害;研究对象/病人是否在获取充分信息的基础上进行同意告知。


3 科技伦理治理机制的适度法制化发展


3.1 科技伦理治理机制的适度法制化需求

科技伦理治理机制以解决新兴科技伦理困境为目标,通过设定伦理评估、伦理辩论、伦理行为规范的方式,推动社会对新兴科技创新与发展进行持续性伦理反思。伦理治理机制体现出的模式特征为适应性治理与软法规制,这与法律前端规制、责任威慑的规制方式形成鲜明对比。相较于法律规制的静态、僵化与被动性特征,适应性治理与软法规制致力于回应治理对象的不确定性与复杂性特征,更符合新兴科技治理需求。科技伦理治理机制存在潜在治理失灵隐患与固有治理工具缺陷,亦需要通过适度法制化方式,弥补适应性治理与软法规制在具体施行场景中呈现出的非效率弊端。

适应性治理(Adaptive Governance)强调治理体系设定从一开始就期待、预见、回应变化,通过积极监测客观环境变化,及时调整治理方案以匹配新的监督需求。一个完整的科技伦理治理体系从科技创新初期阶段、发展阶段到应用阶段,通过持续性伦理评估与伦理讨论、伦理共识提炼,预见、回应新兴科技发展带来的新社会问题。预见与回应主要包括确保科技发展符合社会伦理规范,通过及时调和伦理冲突的方式维系并增进公众的技术信任。可见,治理过程中的风险交流机制与伦理共识达成机制对提升治理效率至关重要。而伦理问题具有复杂、主观、变动、多元与相对性特征,伦理商谈秩序的缺失极易引发伦理反思困境:道德主张易受错误与夸张事实宣传的影响,脱离科技现实的伦理幻想会阻碍技术进步,专家与公众技术伦理的认知逻辑无法调和,伦理争论程序无法终结,科技伦理委员会成为公共伦理创造者而非发现者等。

软法规制以原则性指引为基础,强调在具体情境中进行原则申辩与审视。伦理冲突的解决、伦理共识的达成,依赖于在具体情境中以抽象原则为指引,结合技术的客观风险与效益、技术应用者的主观状态进行判定。但软法的弱约束形式可能异化为实践中无章可循的泛原则主义现象。再者,技术创新与应用内涵强烈的商业利益逻辑,与以道德自律为依盾追求公共利益的逻辑存在严重冲突,技术创新者与应用者缺乏伦理反思行为动机。伦理原则的无政府主义乱象已经成为科技伦理治理实践中的棘手问题,在商业利益驱动下,形式性地颁发大量抽象、重复的伦理原则成为科技公司游说政府不干预技术创新的政治策略。

在伦理原则监督执行方面,相较于美国与欧洲国家,我国创建了弱伦理审查制度。一方面伦理审查仅仅局限于特定临床研究领域,另一方面伦理审查依托于医疗机构内部自我规制模式。一些实证调查研究显示,我国弱伦理审查制度引发了研究通行率过高、伦理审查流于形式、伦理审查标准相互冲突等问题,我国迫切需要强化伦理原则的约束效力。

3.2 科技伦理治理机制的适度法制化路径

法律规制路径与科技伦理治理路径在理念和方式上存在较大差异,法律对伦理治理的过度侵蚀会破坏社会伦理反思的内在逻辑与秩序。制度设计应在遵循法律干预适度边界的基础上,将伦理反思更加结构化与秩序化地嵌入科技创新、发展和应用中。这种适度的法制化路径应当坚持两个原则:一是审慎通过实体权利-义务规范方式规定伦理问题,推动法律通过规范程序的方式促进伦理反思;二是建立法律规则、行政指引与自律规范相结合的多层次规范体系。在具体方式与目的上,通过多层次规范体系设定,完善风险交流机制与伦理共识达成机制,增强伦理原则执行力。

(1)通过法律规范提升科技伦理治理正式化水平。相较于科技伦理治理技术较为成熟的科技强国,科技伦理在我国科技治理体系中的角色作用仍然非常薄弱。全国性科技伦理委员会虽然已经组建,但具体职能与运行模式仍未向社会公开。人工智能技术、纳米技术、农业科学技术、计算机信息技术等新兴科技的社会伦理反思,主要依托小范围媒体报道、专家宣传与学术论坛。在这种非正式伦理反思程序中,公众的很多伦理主张都建立在对技术事实的错误或片面理解之上,加剧了公众对技术创新的信任危机,客观上减缓了科技稳健发展步伐。

目前,我国通过法律确定的科技伦理治理工具主要局限于临床研究领域的机构伦理审查。考虑到科技伦理治理机制在整个科技治理体系中的重要作用,有必要通过法律规范形式,对科技伦理委员会、科技伦理审查、科技伦理评估等基本治理工具进行明确,提升科技伦理治理正式化水平。由于科技伦理治理机制的运行对治理技术细节要求较高,作为法律层级的规范,只需进行基本制度设定而非具体治理细节规定。通过法律形式确定基本伦理治理工具,亦是科技伦理治理较为成熟国家或区域的做法。如美国于1974年颁发《国家研究法案(National Research Act)》,确立生物医学技术伦理评估制度与伦理审查制度;美国于2003年颁发《第二十一世纪纳米技术研究与发展法案(The twenty-first century Nanotechnology Research and Development Act)》,确定纳米技术在创新、发展阶段的伦理评估制度;丹麦于1988年颁发《伦理委员会组建法案(Act on the Establishment of an Ethical Council)》,建立丹麦伦理委员会;德国于2007年颁发《The Ethics Council Act》,确立德国伦理委员会的基本建制。

(2)探寻法律通过规定伦理问题提升伦理治理效率的边界法律对科技伦理问题的规定,包括确立实体规则与确立程序规则两种方式,前者以权利—义务规范模式对某些行为进行允许与禁止规定,后者对具体场景中的伦理决策进行程序性规定。

权利——义务模式下行为决策与伦理反思模式下行为决策具有截然不同的逻辑。科技伦理通常关涉生命的概念与意义、人与人之间的关系、人与自然之间的关系这类极为复杂、私密且困惑的问题,其依赖于具体技术应用场景中通过伦理逻辑与伦理辩证方式进行审慎反思。因此,当某一新的伦理问题出现时,法律应当就其权利—义务规制模式保持克制。这也是生物科技这一伦理治理机制较为成熟的技术领域,为人工智能科技、信息技术、物联网技术等伦理问题凸显的技术领域提供的基本治理经验。

通过法律权利——义务规制模式解决公众抵触较大的伦理问题,能够及时定纷止争并对突破多数人道德底线的行为予以惩戒。有必要划定标准,发挥权利——义务规制模式在提升伦理治理效率方面的作用。根据伦理争议结束方式,寻求权利——义务模式的干预边界或许是可行且成本较低的方法。在伦理商谈过程中,结束伦理争议的方式主要有:①存在论证非常完备的伦理主张,如经过科学论证,超过14天的胚胎发展为生命,禁止将其作为研究对象;②将伦理争议转移至另一程序开展;③因事实澄清或技术发展,伦理争议自然消亡;④设置合理的伦理商谈程序,伦理商谈者对事实依据充足、论证逻辑严谨的伦理主张表达尊重。第一种与第四种方式通过达成实体结论解决伦理争议,但基于第四种方式达成的伦理规则更适合以指引的方式置于具体决策中进行一事一议的应用。通过法律权利——义务规范形式,对论证非常完备的伦理主张予以界定,能够为科技—社会良序互动提供稳定与可预期的环境。同时,科技伦理共识具有时效性与开放性特征,权利——义务规制模式的设置应当注重应用日落条款或临时立法等立法技术,保持法律规则对技术发展的积极回应姿态。再者,论证非常完备的伦理主张主要依赖于技术专家的判断,应当通过设定完善的专家决策程序,确保伦理主张科学性与客观性。

法律通过程序规则规定伦理问题进而提升伦理治理效率,包括两种方式:①对基本的伦理反思程序要素进行界定,如伦理审查、公共伦理论坛开展的基本程序等;②当各种伦理主张无法调和时,将复杂的技术伦理问题分配至多个决策场所,并在各个决策者之间建立制衡机制,确保伦理争论得到及时有效的解决。第一种方式的立法技术较为简单,第二种方式已经在生物科技监管领域得以应用,为其它科技领域探索解决伦理纷争的方式提供了丰富经验。英国于1990年颁发《人类受精和胚胎法案(The Human Fertilization and Embryology Act)》,被诸多学者誉为通过分配与制衡决策权及时解决伦理纷争的典范。根据《人体受精胚胎法案( Human Fertilization and Embryology Act)》,对于争议较大的伦理纷争,有些事项由立法机关决定,有些事项由卫生健康主管部门通过设定许可条件与实践标准决定,有些事项由医疗机构或临床医生决定;立法机关与司法机关对决策进行监督,确保决策者以审慎尽职的方式进行伦理反思。

(3)以行政引导为主,构建伦理商谈秩序。在科技伦理治理发展程度较高的西方国家,通过伦理委员会的形式系统性推动的伦理治理主要集中在生物科技领域。在纳米技术、人工智能技术、信息科学技术等新兴科技领域,这些国家还未成立专门的伦理委员会,其主要通过科技监管部门伦理评估、召开专家—民众技术发展交流会、发布科技伦理报告等形式进行零散的科技伦理治理。行业协会在这些技术领域扮演积极推动社会公众进行伦理讨论的角色,最典型的如IEE于2020年成立了关于科技伦理与社会的技术委员会(Technical Committee on Technology Ethics and Society)。行业协会在我国社会治理中的角色一直较为薄弱,且新兴科技发展蕴含巨大商业利益,科技公司、媒体具有强烈商业动机在自下而上的伦理商谈中歪曲技术事实。再者,考虑到我国综合性科技伦理委员会已经成立,通过行政引导方式探索式地构建科技伦理商谈秩序,引领新兴科技整体向善发展并及时解决科技伦理冲突是最具成本优势的治理工具。

科技伦理委员会主导的伦理商谈程序应当实现3个秩序目标:一是反思性目标,通过辩论方式明晰各方价值主张的基础与逻辑;二是认知性目标,监管部门与公众对技术发展带来的伦理问题形成清晰、全面、实时的认知,在具备理性客观认知的前提下开展价值交流;三是规划性目标,对科技发展方向与结果进行预测,将向善价值理念注入科技产品设计中。这3个目标的实现,有赖于通过行政引导方式建立以下治理工具:基于伦理商议会议撰写科技伦理报告,建立多学科多背景主体(技术专家、伦理学家、科技企业、消费者)对话机制,并设定有序的伦理辩论程序;向公众传播科技伦理报告,并通过多方媒介向公众展示报告中技术事实与各种伦理主张的逻辑、伦理共识达成方式,对公众开展科技伦理教育;通过设定技术现实审查(reality checks)与伦理问题清单的方式,防止伦理主张成为过于脱离技术现实的伦理幻想;发展实验型治理模式,将技术产品置于相对封闭的实验环境中,观测技术与环境交互过程中呈现的伦理问题,并实时调试、追踪变化,加强对科技发展现实及其伦理问题的认识,并完善伦理嵌入技术产品的方式。

(4)增强伦理原则执行力。首先,制定行为指南,推动微观伦理学研究。将抽象的伦理原则细化为行为指南,增强伦理原则的行为指引制度能力,这种治理工具已经在实践中得到一定应用。如在人工智能伦理治理实践中,已初步形成宏观伦理原则—具体行为指引的伦理原则治理模式。哈佛大学伯克曼互联网与社会研究中心对36份人工智能伦理原则进行分析,总结了宏观伦理原则—具体行为指引的基本模式及其关键词:①隐私保护原则——用户同意,控制数据,限制数据处理,数据修改权,数据擦除权,基于设计的隐私;②问责原则——可验证与可复制,影响评估,环境责任,自动化决策的救济,法律责任;③安全原则——安全,可预期性,基于安全的设计;④透明与可解释原则——公开原数据与算法,公开政府购买服务程序,告知;⑤公平与非歧视原则——数据质量与代表性,设计与影响的包容,平等;⑥人类控制原则——人对自动化决策的审查,退出自动化决策;⑦技术人员责任原则——准确性,设计责任,对长远影响的考虑,多方利益相关者合作;⑧促进人类福祉原则——社会影响评估,技术可及。在人工智能技术、信息技术、物联网技术领域,具体技术操作的不可知程度更高,因此,在一定范围内推动行业协会与科技企业、伦理学家开展微观伦理学研究,探索伦理价值嵌入具体技术的操作细节,能够进一步提升技术操作的伦理价值面向。在数据微观伦理学领域,有学者已经提出了有价值且易操作的研究结果,推动机器学习程序的公平与透明——通过标准化数据列明不同训练数据集的属性,机器学习实践者据此检查哪些数据集有利于实现训练目的,反思创建数据集的原意、数据集构成、数据收集与使用方式等。细化伦理原则的行为指南与技术标准,使得伦理行为具备操作性较强的评估标准,据此可以通过第三方评估与认证的方式,激励技术从业者遵守伦理行为指引。

其次,提升伦理审查机构正式化水平,并适度扩张伦理审查范围。从域外科技伦理治理技术较为成熟国家治理经验来看,伦理审查机构一般包括两种模式:政府监管下的内部管理模式;国家直接建立中心化伦理审查机构模式。前者以美国为代表,后者以英国、法国等多数欧洲国家为代表。目前我国弱伦理审查实践表明,多数临床研究伦理审查流于形式。考虑到制度衔接成本,有必要强化政府对医学机构内部伦理审查的监管,提升伦理审查机构正式化水平。再者,可以通过划定标准的方式,为人工智能技术、纳米技术、信息技术领域伦理问题较大研究项目设定伦理审查程序,由中心化伦理审查机构进行审查。


4 结语


在新兴科技发展场景中,应依托伦理治理体制实时进行伦理反思,缓解伦理冲突,并致力于将社会伦理要求及时嵌入技术产品设计中。在科技与社会的有序互动环境中,科技伦理正在并终将成为科技治理的核心工具。

科技伦理治理体制的建立与完善,需要法律规制、行政指引、行业自律、私人自治4个系统的有序整合。本文通过系统性阐述科技伦理治理内涵、特征,提出伦理治理中4个系统整合模式的大致轮廓:通过法律规范的形式,对科技伦理委员会、科技伦理审查、科技伦理评估等基本治理工具进行明确,提升科技伦理治理正式化水平;审慎使用实体权利—义务规范方式规定伦理问题,推动法律通过规范程序方式促进伦理反思;通过行政引导方式探索式地构建科技伦理商谈秩序,引领新兴科技整体向善发展并及时解决科技伦理冲突;完善政府监管与私人自律的合作治理体系,强化伦理原则执行力。

未来如何在各个新兴科技领域以及科技发展与应用的具体场景中建立和完善有序的伦理治理体制,在规范上设定具体场景的制度细节,仍然需要继续探索。


版权所有:法治政府研究院北京市海淀区西土城路25号邮编:100088

站长统计 联系我们