王树良，南京财经大学法学院讲师，主要研究方向为行政法学和行政诉讼法学；郝倩，中国政法大学法治政府研究院副教授，主要研究方向为行政法学。
摘 要：随着计算机技术发展到大数据、云计算、人工智能时代，算法已经深入政治、经济、军事、社会治理等多个方面，成为关系国家安全的重要因素。总体国家安全观下的算法安全包括三方面的内容，即确保算法技术领先、保护涉及国家安全的算法免遭攻击和破坏、防止算法技术的滥用。当前我国算法安全立法存在涉及算法发展的立法位阶过低、涉及算法技术安全的立法范围过窄、涉及算法应用安全的立法体系性不足的问题。对此，应当在总体国家安全观指导下，构建以“算法法”为基本框架，各重点领域针对特定问题单独立法的算法安全立法体系。
关键词：总体国家安全观；算法安全；“算法法”
算法本来是一个数学概念，是进行程序化或自动化运算的方法，与计算机技术结合后，具体是指计算机进行逻辑运算的流程。在没有计算机或者计算机功能尚不复杂的时代，算法只是逻辑运算方法或解决某一个问题的流程，与国家安全问题相去甚远。然而，当计算机技术发展到大数据、云计算、人工智能时代时，算法已经深入政治、经济、军事、社会治理等多个方面，特别是在人工智能技术成熟和广泛应用的背景下，作为人工智能技术等新一代信息技术的核心和灵魂，在社会管理、国际竞争、军事作战中的作用越来越大，成为关系到国家安全的重要因素。
习近平总书记在党的二十大报告中指出：“国家安全是民族复兴的根基，社会稳定是国家强盛的前提。必须坚定不移贯彻总体国家安全观，把维护国家安全贯穿党和国家工作各方面全过程，确保国家安全和社会稳定。”从总体国家安全观的视角出发，构建算法安全法律体系，具有现实的必要性和紧迫性。本报告结合算法技术的最新发展动向，在分析总体国家安全观下算法安全的构成、我国当前算法安全立法存在的问题的基础上，探索算法安全法律体系的构建思路。
一、总体国家安全观下的算法安全
算法与人工智能等技术结合后能够产生巨大的生产力效应，对一国的综合国力产生重要影响，因此，算法技术成为当今国际竞争中争夺的重要制高点。同时，鉴于现代社会对算法技术高度依赖，算法技术的缺陷和滥用也会对国家安全和社会稳定产生巨大的威胁。对此，有学者从总体国家安全观的角度出发，将算法安全定义为“算法体系完整有效、国家重点领域核心算法技术安全可控、国家核心利益和安全不受外部算法技术优势危害以及保障持续安全状态的能力”。该定义重点关注了算法技术领先、重要算法基础设施不受攻击和破坏两个方面。然而，在总体国家安全观下，算法安全除关注算法技术领先和防止敌对势力对涉及国家安全的重要算法基础设施的破坏之外，随着算法技术在社会经济生活中重要性的不断提升，确保国内社会经济活动中的算法技术不被滥用，同样是一个不可忽视的安全课题。本报告认为，总体国家安全观下的算法安全应当包括三方面的内容，即确保算法技术领先、保护涉及国家安全的算法免遭攻击和破坏、防止算法技术的滥用。
（一）确保算法技术领先
算法技术对一国的经济发展水平、社会治理能力以及军事水平具有十分深远的影响，已成为现代国家竞争力的重要组成部分。在经济发展层面，算法技术可以用于优化生产流程、供应链管理和资源分配，从而提高生产效率，提升国家在全球市场的竞争力。同时，算法技术为创新提供了无限的可能性，国家能够通过鼓励科技创新推动新兴产业的发展，促进高科技领域的投资，从而实现长期经济增长。在社会治理层面，算法技术可以用于数据分析和预测，有助于政府更好地了解社会发展趋势、公共需求和存在的问题。通过算法技术，政府可以提供更高效、便捷和个性化的医疗保健、教育和交通等公共服务，有利于提高人民对政府的满意度和社会稳定性。算法技术也可以帮助政府及时识别和应对潜在的威胁，在维护社会安全方面发挥关键作用。在军事层面，先进的算法技术能够应用于情报收集、军事规划、武器系统控制和网络战争。因此，拥有强大的算法技术可以强化国家在军事方面的优势，同时，算法技术在保护国家免受网络攻击和信息泄露方面也能够发挥至关重要的作用。在当今数字化和信息化时代，算法技术已成为国家安全的关键要素，推动本国算法技术处于领先水平对于保障国家安全具有至关重要的意义。
一个国家的算法技术领先不仅表现在掌握最前沿的算法技术，在涉及算法技术发展的人才储备、研发环境、商业应用、数据资源、国际影响力等多个方面也要保持领先地位。我国政府层面很早就意识到算法技术的重要意义，国务院在2017年发布的《新一代人工智能发展规划》中明确指出“新一代人工智能关键共性技术的研发部署要以算法为核心”，突出了算法在新技术发展中的重要地位。
确保算法技术领先是一项综合性工程，需要国家在政策、资金、人才培养等各个方面全面支持和长期投入，构建完善的政策法律体系。在研发方面，要拥有强大的科研机构和高校致力于推动算法技术的前沿研究；在人才储备方面，要持续吸引和培养能推动算法技术发展的顶尖人才；在研发环境方面，具备支持创新的研发环境，包括资金、基础设施和法规政策等方面的支持；在产业化与商业应用方面，能够及时将算法技术在金融、医疗、交通、能源等领域转化为实际的商业应用，从而提高生产效率、优化资源利用，解决各种社会问题；在数据资源方面，拥有丰富的数据资源，并能将其充分应用于算法的训练和优化；在国际影响力方面，能够在国际标准制定、国际合作项目和国际技术交流方面发挥积极作用。
（二）保护涉及国家安全的算法免遭攻击和破坏
算法与网络和数据紧密关联，特别是在当今社会对算法的依赖程度极高的背景下，算法遭受攻击会产生不可估量的损失。
对算法进行攻击的原因很多，既有目标明确的主观动机，也有偶发等非主观因素。主观动机中有经济动机，即某些攻击者可能出于经济目的，试图通过攻击算法来获取非法利益。例如，黑客可能试图入侵金融系统、电子商务平台或加密货币交易所的算法，以获取财务上的优势或窃取敏感信息；商业竞争对手会试图攻击其他公司的算法，以获取其商业秘密或知识产权。也有社会或政治动机，即一些攻击者可能出于政治、社会或意识形态等原因，试图破坏特定算法或服务。例如，他们可能试图在社交媒体上传播虚假信息或恶意内容，干扰政治选举，或者通过攻击关键基础设施的算法来破坏社会稳定。非主观因素主要是指算法在设计或实现过程中存在的错误、漏洞或不足，导致算法不能正确、高效地完成其预期功能或可能出现意外的行为。算法缺陷可能是由设计不当、逻辑错误、数据假设不准确、边界情况未充分考虑等造成的。例如，对于涉及决策的算法，在设计时考虑不周全导致算法对不同群体或个体作出不公平的决策。随着人工智能技术的推广，作为人工智能重要支撑的机器学习算法的使用将带来更多难以预测的算法缺陷。
为保护涉及国家安全的算法免遭破坏，需要从“物理层面”和“软件层面”加固安全措施。“物理层面”是指确保涉及重要算法运行的相关基础设施的安全。例如，受控的数据中心、安全机房或设备存放柜等关键硬件设备应当安装在安全的地方，只有经过授权的人员才能接触和访问；在涉及算法的硬件生产过程中要进行安全校验，以检测任何恶意或未经授权的更改；确保硬件组件来自受信任的供应商，防止供应链中的潜在威胁；等等。“软件层面”是指在软件开发、数据加密和保护、网络访问等活动中确保算法安全。例如，在软件开发中采用安全编码，建立完善的代码审查机制和漏洞管理流程；在数据加密和保护中确保密钥的安全存储和管理，以防止数据泄露和滥用；建立完善的防火墙和入侵检测系统，将关键系统和算法隔离在独立的网络中；提供关于安全实践的培训，确保所有涉及算法的员工了解和遵守安全策略；等等。
综合使用“物理层面”和“软件层面”的保护措施可以大大提高涉及国家安全的算法的安全性，但建立完善的算法保护措施体系是一个长期的系统性工程，需要相应的立法和制度建设予以保障。
（三）防止算法技术的滥用
算法技术是一把双刃剑，其既能服务社会，也会以算法歧视、算法操控等方式被滥用。例如，2020年引起全社会关注的“困在系统的外卖小哥”问题，既是算法侵犯骑手劳动权益的问题，更在深层次反映出个人面对算法操控时的束手无策。算法滥用不仅会损害个人权益和公共利益，也会破坏人们对算法的信任，引发算法信任危机，给社会稳定甚至国家安全带来负面影响。
实践中算法滥用的表现形式多种多样，可总结归纳为利用算法非法获取信息、干扰他人的正常决策、扰乱社会秩序三个主要方面。这三个方面是相互关联、层层递进的关系。
算法技术与大数据结合，可以轻易通过用户行为分析、设备识别、公共记录、位置追踪、社交媒体等方式，未经授权地获取、存储和利用个人或机构的敏感信息，也可以通过用户画像的方式，确定某个人的职业、经济、健康、教育、个人喜好、信用、行为等方面的特征，形成其个人特征模型，甚至达到“比你更了解你”的效果。利用这些信息，算法可以通过定向推送等方式制造信息茧房，干扰他人正常决策，甚至影响他人正常生活。在“中国Cookie第一案”中，原告主张百度网讯公司“利用网络技术，未经原告的知情和选择，记录和跟踪了原告所搜索的关键词，将原告的兴趣爱好、生活学习工作特点等显露在相关网站上，并利用记录的关键词，对原告浏览的网页进行广告投放，侵害了原告的隐私权，使其感到恐惧”。算法也可能被用于生成虚假广告，欺骗用户进行购买或提供个人信息。而算法技术大规模滥用，则会干扰整个社会的正常运行，严重扰乱社会秩序。例如“大数据杀熟”问题，即是指算法技术被用于垄断市场或进行价格操纵，损害公平竞争和消费者利益。一些算法在决策和推荐过程中可能存在偏见，对特定群体或个人进行歧视，这可能导致不公平的决策和服务分配。另外，算法可以被用于编写恶意软件、病毒或进行网络攻击，盗取个人信息、勒索或破坏网络系统；可以被用于自动产生垃圾信息、滥发垃圾邮件等，干扰通信和网络服务。
滥用算法技术会对个人隐私、社会稳定和国家安全造成严重威胁，但算法技术正日益渗透到社会生活的方方面面，防止算法滥用也必然是一项系统性社会工程。在制度建设方面，要及时制定和完善数据隐私保护、反垄断、网络安全等领域的法律法规，构建算法审查机制，特别是在关键领域如医疗、金融和国家安全领域，要建立能够有效审查和监督算法的机制。鉴于算法技术对社会秩序产生的影响具有“革命性”，对算法应用的责任问题也应当摆脱传统观念，加大算法使用者的注意义务。在全国首例算法推荐案“爱奇艺诉今日头条《延禧攻略》案”中，法院指出，算法推荐既是更加先进和高效的服务，同时也存在提高侵权传播效率、扩大侵权传播范围、加重侵权传播后果的风险，与不采用算法推荐、仅提供信息存储空间服务的其他经营者相比，算法推荐模式下平台负有更大的版权注意义务。
二、我国当前算法安全立法的现状
我国当前涉及算法的法律文件类型按照效力位阶可以分为法律法规、标准或指南、行业自律公约三个层次，已经初步形成了算法法律体系，构建了粗略的算法治理的“法治之网”从维护算法安全的角度出发，本报告根据相关立法的目的，从“保障和促进算法技术发展”“保护重要算法免受攻击”“防止算法技术滥用”三个层面对涉及算法安全的立法进行梳理。
（一）保障和促进算法技术发展的立法
算法技术并非一个单一的技术点，而是与互联网、大数据、人工智能等技术结合，形成了一条环环相扣的技术链。而在这条技术链中，算法居于核心地位。保障和促进算法技术的发展，其着眼点不限于算法本身，而是要保障以算法为核心的技术链能够持续生长发育。为了实现这个目标，我国正分别从积极引导和保护发展两个方面构建相关政策法规体系。
1、积极引导型政策法规体系
积极引导型政策法规体系是指通过制定有利于算法技术及相关产业发展的政策法规，提升社会和资本对算法技术发展的积极性，让算法技术保持领先地位。
当前，我国在国家层面构建了以《中华人民共和国科学技术进步法》为基础，以整体规划政策为指引的积极引导型政策法规体系（见表1，略），在地方层面，主要以人工智能技术发展为切口，通过制定一系列政策法规（见表2，略），积极推进算法及其相关技术和产业的发展。
首先，《中华人民共和国科学技术进步法》是实施积极引导型政策法规的基础。该法第3条明确规定，“国家鼓励科学技术研究开发，推动应用科学技术改造提升传统产业、发展高新技术产业和社会事业”。该法为国家积极引导算法等先进技术和产业的发展提供了明确的法律依据。
其次，国家层面的一系列政策规划，发挥了具体的指引作用。早在2017年，“人工智能”就首次被写入全国政府工作报告。报告指出，要加快人工智能等技术研发和转化，做大做强产业集群。同年，国务院制定了《新一代人工智能发展规划》，科技部则成立了新一代人工智能规划推进办公室、战略咨询委员会。《国务院关于印发“十四五”数字经济发展规划的通知》（国发〔2021〕29号）明确提出“加快构建算力、算法、数据、应用资源协同的全国一体化大数据中心体系”。2021年3月11日第十三届全国人民代表大会第四次会议批准的《中华人民共和国国民经济和社会发展第十四个五年规划和2035年远景目标纲要》提出“聚焦高端芯片、操作系统、人工智能关键算法、传感器等关键领域，加快推进基础理论、基础算法、装备材料等研发突破与迭代应用”。
最后，经济发展先行的地区也开始重点关注算法及相关产业的发展，特别是在人工智能方面，出台了一系列积极引导的政策法规。深圳于2022年9月颁布的《深圳经济特区人工智能产业促进条例》是全国首个涉及人工智能产业发展的地方立法，上海也于2022年9月颁布了《上海市促进人工智能产业发展条例》。北京、上海、深圳等地相继发布了涉及算法和人工智能发展的区域相关政策性文件。
2、保护发展型政策法规体系
保护发展型政策法规体系，是指通过制定相关政策措施，防止重要的算法技术和产业外流，或者防止外部涉及算法技术的产业急剧涌入国内市场，保护重要算法产业的发展。我国当前算法技术发展状况在世界上属于第一阵列，部分技术点处于领先地位，因此，我国的保护发展型政策法规的主要目标是防止重要算法技术和产业外流。
当前，我国主要是通过调整出口管制目录的方式控制重要算法技术外流。2020年8月28日，商务部会同科技部调整发布了《中国禁止出口限制出口技术目录》，对无人机行业、3D打印行业、自动驾驶行业、传感器行业、AI行业、医药制造业、通信设备及计算机软件等高新技术行业加强了出口管控。更新的目录中将“基于数据分析的个性化信息推送服务技术”列入限制出口的类型，根据新修订的目录，TikTok（抖音短视频国际版）若出售其核心算法必须先申请并获得许可。2023年12月21日，商务部、科技部再次调整发布《中国禁止出口限制出口技术目录》，技术条目由164项压缩至134项，反映了中国对技术出口管制的最新政策导向。
（二）保护重要算法免受攻击的立法
因算法的形成依赖大量数据支持，保护重要算法免受攻击，既包括对算法本身的保护，也包括对算法形成所依据的数据的保护。
1、直接保护算法免受攻击的立法
直接保护算法免受攻击的立法主要体现在直接与算法安全关联的电子签名、密码等领域。《中华人民共和国电子签名法》（第21条、第34条）对作为电子签名验证数据的算法的使用进行了规范；《商用密码管理条例》第9条和第39条明确规定，使用商用密码进行保护的网络与信息系统、关键信息基础设施所使用的密码算法，要通过国家密码管理部门审查鉴定；国家互联网信息办公室、中央宣传部、教育部等联合发布的《关于加强互联网信息服务算法综合治理的指导意见》（国信办发文〔2021〕7号）提出了“构建算法安全监管体系”“有效监测算法安全风险”“积极开展算法安全评估”的要求。相关立法情况见表3（略）。
2、保护涉及算法安全的数据的立法
间接对算法进行保护主要通过数据和计算机系统保护方面的立法实施，相关立法主要有《中华人民共和国数据安全法》《中华人民共和国网络安全法》《中华人民共和国个人信息保护法》《中华人民共和国计算机信息系统安全保护条例》《数据出境安全评估办法》等（见表4，略）。
（三）防止算法技术滥用的立法
我国当前防止算法技术滥用的立法主要针对利用算法技术实施市场垄断行为和利用算法技术违法实施互联网信息服务和广告推送等方面。《中华人民共和国反垄断法》第9条和第22条规定经营者特别是具有市场支配地位的经营者不得利用算法实施滥用市场支配地位等垄断行为；《网络信息内容生态治理规定》《互联网信息服务算法推荐管理规定》《互联网广告管理办法》等对互联网信息服务、广告等的算法推荐作出了详细规范。当然，禁止滥用算法技术非法获取个人信息，也是《中华人民共和国个人信息保护法》的应有之义。具体相关立法情况见表5（略）。
三、美欧日算法安全立法的状况
随着算法技术的广泛应用，算法安全问题也受到各个国家和地区的重视，广泛应用算法的国家和地区都开始立法应对算法问题，其中较为典型的是美国、欧盟和日本。美国很早就意识到了算法安全问题，以纽约为代表的地方层面已经制定了专门规范算法的立法，联邦层面近年来也审议了大量关于算法安全立法的提案。欧盟在数据安全管控和个人信息保护方面的立法一直走在世界前列，随着算法安全问题的浮现，欧盟在数据安全管控立法的基础上进一步增加对算法安全的管控规则，特别是2023年6月提出的《人工智能法案》，对人工智能领域的算法安全管控具有重要的借鉴价值。与美国和欧盟不同，日本在算法安全管控方面未积极制定新法，而是对原有立法进行修订，以应对防控算法安全风险的需要。在算法安全方面，日本重点关注算法引发的个人信息泄露和歧视问题，对涉及个人信息保护、反垄断等方面的立法及时进行了修订。另外，日本也特别重视算法技术的发展，制定了一系列促进算法和人工智能技术发展的国家政策，力图使其在算法和人工智能领域保持世界领先的地位。虽然各国因国情不同，对算法安全的立法模式不一样，但都有一些独特的优势。为此，下文对美国、欧盟、日本在涉及算法安全领域的立法动向进行总结和梳理，以期为我国算法安全立法提供参考和借鉴。
（一）美国算法安全立法的状况
美国较早关注算法安全问题。2017年12月，纽约市议会通过了第49号地方法，这是美国第一部旨在解决因城市机构使用算法而产生的算法偏见和歧视的法规。但在联邦层面，截至2023年9月，美国尚没有一项特定的联邦法律全面规范算法的使用。不过这并不意味着联邦层面对算法安全问题无所作为，联邦通过各种法律和法规，间接影响算法在特定情境下的使用。例如在反垄断领域，谢尔曼反托拉斯法和克莱顿法可用于约束与算法和数据相关的反竞争行为，利用算法操纵市场或从事反竞争行为的公司可能会面临法律诉讼；在消费者保护领域，联邦和州级的消费者保护法对欺诈和不公平行为进行规制，导致虚假广告、价格歧视或其他危害消费者的算法可能会受到法律审查。涉及隐私保护、金融、版权和知识产权等领域的立法，也会对算法安全进行间接规制。
近年来，美国开始探讨出台联邦层面的算法规制立法，国会已经提出审议多个直接涉及算法安全规制的法案。2023年7月提出的《算法公平和网络平台透明法案》，明确禁止在线平台在任何算法过程中歧视性使用个人信息，要求透明化算法过程和内容管理；2023年9月提出的《2023年算法问责法案》，明确要求联邦贸易委员会主导进行自动化决策系统和增强关键决策流程的影响评估；2023年3月提出的《数据和算法透明同意法案》，旨在规制互联网平台利用算法操控内容，要求平时实施该行为时，应当通知并获得消费者同意。
除此之外，美国国会还提出了大量与算法安全相关的数据和隐私保护法案，包括《2023年在线隐私法案》《2023年数据保护法案》《2023年联邦信息安全现代化法案》《2022年数字服务监督与安全法案》《信息透明和个人数据控制法案》等。但在涉及数据和隐私保护的立法过程中，民主共和两党、参众两院和相关利益团体在联邦法律是否应当优先于州法律适用及是否应当在法律中设置私人诉讼权等方面未能达成共识，法案的推进较为缓慢。
值得注意的是，美国还将别国视为算法安全的国家威胁，某些议员向国会提出了所谓算法国家威胁法案，法案要求总统对某些外国社交媒体公司实施财产封锁制裁。
相关法案具体情况见表6（略）。
（二）欧盟算法安全立法的状况
欧盟关于算法安全的立法主要通过涉及数据安全管控和个人信息保护的相关立法实施。欧盟自1997年以来陆续颁布多部法令，包括《欧盟电子商务行动方案》《关于远距离合同订立过程中对消费者保护的指令》《关于信息社会服务的透明度机制的指令》《电子商务指令》《增值税指导》《通用数据保护条例》等，其中《通用数据保护条例》被称为“史上最严数据立法”，囊括了所有新数据保护所必需的相关要求，并建立了严格的处罚机制。在此基础上，欧盟又制定了《电子隐私条例》《非个人数据自由流动条例》《数据治理法》等立法，构建了较为完整的数字安全立法体系。在此基础上，2019年出台的《算法问责及透明度监管框架》则是从数据安全到算法安全的重要过渡，该框架提出了全面的算法监管要求，将算法透明度与可解释性作为实现算法公平的基础性条件，提出建立算法影响评估机制、公共部门算法问责机制等，构建了较为完善的算法安全保障机制。而2024年3月欧洲议会通过的《人工智能法案》，采用风险分级的规制路径，将人工智能系统的风险划分成不可接受的风险、高风险、有限风险和轻微风险四种类型，并针对不同类型规定了不同的监管措施，是算法安全在人工智能领域的重要立法举措。具体相关立法情况见表7（略）。
（三）日本算法安全立法的状况
日本重点关注算法引发的个人信息泄露和歧视问题，在算法安全立法上，并未执着于出台新的法律，而是通过对原有相关立法的修订，使其能够适应算法安全的实践需求。例如2020年修订的《个人信息保护法》加大了对个人关联信息收集和使用的管控力度，明确了个人关联信息的利用条件：不能据此识别特定个人，且只能用于内部，不得对外公开。该修改针对的是算法能够通过非直接的个人关联信息确定特定个人的问题。另外，2021年对《个人信息保护法》的修订加入了数据越境流通规则，认可了与欧洲之间的个人信息数据流通。
作为《个人信息保护法》实施机关的个人信息保护委员会个人信息保护委员会是辖属于日本内阁总理大臣的行政委员会，根据《个人信息保护法》的规定，于2016年1月1日设立，其工作任务是确保个人信息正当利用，保障个人信息的权益。针对算法安全问题，制定了多项具体的个人信息管理规则。明确了电子媒体储存和传输的个人信息都必须进行加密，涉及个人信息加密的算法应当符合高度隐秘性要求，密钥要按时更新；2023年3月颁布的《为预防犯罪和保障安全而使用具备面部识别功能的摄像机系统的规则》确立了面部识别数据的管理规则；2023年5月与总务省共同修订了《电子通信业务中个人信息保护指导纲要》和相关解释，加强了对个人信息匿名管理的相关规范要求。
在国家安全领域，日本于2013年颁布了《特定秘密保护法》对涉及国防、外交、间谍活动和恐怖主义活动的相关机密信息实施特别保护。随着政府部门中电子信息处理机制的普及，电子信息处理机关在处理信息时开始触碰到《特定秘密保护法》的边界。为此，日本内阁官房于2021年制定了政府在使用电子信息处理技术时与《特定秘密保护法》相关规定的处理规则确保涉及国家安全机密信息的安全。
另外，日本也积极为算法技术发展提供政策法律支持，特别是在人工智能方面的支持较为明显。近年来，日本政府发布了20多项人工智能相关政策，包括《人工智能技术战略》《人工智能应用指南》《实施人工智能原则的治理指南11版》《人工智能战略2022》等，在教育改革、研发体系构建、社会实际运用、数据相关基础设施开发等方面积极推进各种举措。
具体相关立法情况见表8（略）。
四、我国算法安全立法现存问题
尽管国家层面已经开始重视算法安全，涉及算法安全的立法正在不断出台，已经初步构建起了算法安全法律体系，但从总体国家安全观的角度出发，与域外立法发展情况相比较，我国算法安全立法还存在一些问题。
（一）涉及算法发展的立法位阶过低
算法技术发展水平是影响算法安全的核心要素，在算法技术落后的情况下，涉及国家重要基础设施和关键领域的算法防火墙将被轻易突破，更遑论对抗滥用算法技术破坏市场经济技术和社会稳定的行为。
从世界范围看，各国都非常重视算法技术的发展，特别关注算法与人工智能结合的技术发展路径。2020年美国通过《国家人工智能倡议法案》，成立了美国国家人工智能计划办公室，2023年5月23日，美国在2016年版、2019年版《国家人工智能研发战略计划》基础上，围绕美国人工智能使用和发展的新举措更新发布了《国家人工智能研发战略计划》。从2018年开始，欧盟发布了《欧洲人工智能战略》等一系列涉及算法和人工智能的相关法律文件，旨在加强人工智能技术研究和应用，欧洲委员会在AI技术的发展和应用方面，已经采取了一些政策和倡议，涉及与算法相关的一些原则和指导方向。日本在内阁府设立了人工智能战略会议，从2019年起每年都发布人工智能发展战略，十分重视人工智能算法的发展。
我国虽然在国家发展规划层面将算法技术的发展列入重点发展领域，但从法律位阶的角度看，这些规划属于软法，法律位阶过低，强制力不足，对算法技术的发展不利。
第一，不利于引起全社会对算法技术发展的重视。全社会对算法技术的重视，不仅能够促进对算法技术的投资和技术研发，探索新的算法和应用，还能够让公众理解算法带来的挑战和问题，确保技术的良性应用，维护公共利益和社会稳定。涉及算法技术发展立法的位阶，反映了国家对算法技术发展的重视程度。我国已经开始探讨“算法法”的立法问题，《全国人民代表大会宪法和法律委员会关于第十三届全国人民代表大会第二次会议主席团交付审议的代表提出的议案审议结果的报告》（2019年12月28日第十三届全国人民代表大会常务委员会第十五次会议通过）。通过制定“算法法”，将算法技术发展以立法的形式予以明确，是让全社会关注算法技术发展的重要策略。
第二，不利于推动算法技术发展的公共投资。算法技术发展的公共投资不仅包括公共财政对算法技术研发的直接投资，也包括关于算法技术的教育、宣传等方面的间接投资。市场主体的投资重视收益率，青睐收益率高、见效快的投资，对于回报率偏低或需要长期投资的基础设施项目，需要公共投资予以支持。算法技术的发展涉及多个方面，在信息服务、广告等收益率高的领域能够吸引大量投资，推动技术快速更新换代，但对于收益率偏低的算法安全保障、教育、宣传领域，则需要将其纳入公共基础设施建设领域，由公共投资推动其发展。在缺乏具有权威性的立法支持的情况下，公共投资难以长期维持，从而不利于算法技术长期持续稳定发展。
第三，不利于促进算法技术标准的制定。标准化是推动技术应用和社会进步的重要手段之一，算法技术标准的制定对促进技术发展与创新、保障技术质量和安全性、提高技术互操作性、优化市场竞争和公平竞争环境、维护用户权益和隐私保护、推动国际交流和合作等都具有重要的意义。算法技术标准的制定是一个涉及多个行业和领域的综合性任务，需要各个行业和领域的配合，但在缺少高位阶立法协调的情况下，制定多行业和领域的协议非常困难。
（二）涉及算法技术安全的立法范围过窄
随着社会各个领域对算法技术的依赖程度加深，算法攻击问题已经不再局限于密码管理等特殊领域，社会其他各领域同样面临算法攻击问题。然而，我国当前在算法技术安全方面的立法主要集中在密码管理等特殊领域，在社会管理、商业活动、科学研究等高度依赖算法技术的领域，涉及算法技术安全的立法尚未完全铺开，算法技术安全立法范围过窄的问题凸显。
1、社会各个领域对算法的依赖程度持续加深
这种趋势源于计算能力的不断提升和数据的爆炸性增长，人们将算法应用于各个方面，以解决日益复杂的问题。在社会管理领域，算法被用于城市规划与交通管理、社会治安和预防犯罪、社会保障和福利分配、疾病控制和公共卫生、社会服务和救援等多种场景。在商业领域，算法被广泛用于市场营销、客户关系管理、供应链优化等。在医疗健康领域，算法被应用于诊断、药物研发和疾病预测。在科学研究领域，算法被用于数据处理和模拟，例如天文学家利用算法分析星系数据，地球科学家模拟气候变化。算法的应用推动了科学发现的进程，帮助人们更好地理解自然现象。在教育领域，算法也在发挥越来越重要的作用。个性化教学、学习辅助和学习者行为分析都依赖于算法的支持，提升了教学效果和学习体验。
2、算法技术安全问题在社会各个领域浮现
随着社会各个领域对算法的广泛应用，算法攻击等算法安全问题也逐渐浮现。算法攻击是指针对机器学习模型或人工智能系统的恶意操作，旨在干扰其正常运行或误导其输出。黑客可以通过针对算法的攻击来绕过入侵检测系统、窃取敏感信息或破坏关键基础设施。例如最近发生的武汉地震监测中心遭网络攻击的问题，就涉及算法技术安全问题。随着社会各界对算法技术依赖程度的加深，算法攻击问题会进一步出现，例如在金融领域，攻击者可能试图通过伪造数据或引导算法作出错误决策来欺诈系统，从而获得不当利益；在医疗领域，恶意攻击可能导致虚假诊断、错误的治疗建议，严重影响患者健康；在社交媒体平台，攻击者可能通过操纵数据或信息，操控用户的意见和观点，甚至传播虚假信息。而在即将普及的自动驾驶领域，算法受到攻击可能导致发生重大交通安全问题。
3、算法技术安全立法范围过窄的问题凸显
我国当前立法中，直接涉及算法技术安全的立法主要局限在密码安全领域，即《电子签名法》第21条、第34条对作为电子签名验证数据的算法的使用规范和《商用密码管理条例》第9条、第39条规定的相关密码算法要通过国家密码管理部门审查鉴定的规定。然而，这些主要针对特定领域的算法安全立法远不能解决日益扩展的算法应用领域的技术安全问题。即使针对算法问题制定的《互联网信息服务算法推荐管理规定》，也主要把重点放在控制算法技术滥用层面，强调算法主体不得利用算法推送违法和不良信息，未能从内容审查层面对算法过滤问题进行系统规定。
美国也面临算法技术与安全问题，开始重视算法技术安全立法。2023年3月国会提起的《数据保护法案》加强了在线服务提供商的数据保护责任，要求服务商提升算法安全性，防止数据泄露；2023年7月国会审议的《联邦信息安全现代化法案》提出了确保政府网络信息安全的多项措施，旨在保障联邦政府的算法技术安全。日本最新修订的《电子签名及认证业务法》《非法访问行为禁止法》《特定电子邮件法》等，也都在不同领域中加强了算法技术安全的规范。
因此，我国也有必要扩展算法技术安全立法的范围，特别是社会管理、应急领域中的算法技术安全问题，关系到社会稳定和国家的长治久安，需要通过立法的方式对算法技术安全予以明确规范。
（三）涉及算法应用安全的立法体系性不足
算法应用安全立法旨在解决滥用算法技术牟利而破坏正常社会经济秩序、损害公民合法权益的问题。我国当前算法技术滥用问题在商业领域居多，主要体现在消费引导、信息服务等方面。为此，当前应针对具体的问题制定具体的规则。然而，这种头痛医头、脚痛医脚的补丁式立法模式，不仅难以解决各领域层出不穷的算法滥用问题，各个规则之间还可能产生干扰和抵触的问题，涉及算法应用安全的立法体系性不足的问题突出。
欧盟非常重视算法应用安全法律体系的构建，2018年5月出台的《通用数据保护条例》明确了数据控制、处理的原则和相关主体的责任，并建立了独立的欧洲数据保护委员会以监管条例的执行，为算法应用安全立法提供了基本框架。以此为基础，欧盟又制定了《电子隐私条例》《数据治理法》《数字市场法》等相关法律法规，逐渐构建了较为完整的算法应用立法体系。日本以《个人信息保护法》为核心，以防止个人信息滥用和歧视为主轴，通过《个人信息保护法实施纲要》《电子通信业务中个人信息保护指导纲要》《数字化平台交易透明化法》等一系列立法，构建了一套较为完整的防止算法滥用的立法体系。
我国当前算法应用安全的立法采取的是分区管理模式，各个领域采用各自独立的立法和规制模式，既无法从整体上把握算法技术发展的方向，也会导致各种法律文件繁多、相似领域重复立法、各领域立法逻辑冲突等问题。参考欧盟和日本做法，以某一项核心立法为基础，建立完善的算法应用安全立法体系，通过明确法律框架和规范引导算法技术的发展和应用，对于维护公民权益、促进科技进步、保障市场秩序和社会稳定都具有重要意义。
五、余论与展望
算法技术在各个行业的应用已呈现不可逆转之势。随着技术的不断发展和创新，算法将继续在各个领域发挥更重要的作用，推动社会的发展和变革。但算法本身的缺陷和使用者的滥用也会引发新的社会问题，甚至危害国家安全。通过立法为各个依赖算法技术的领域制定算法安全规制，是构建算法安全法律体系的必然路径。
针对我国当前算法立法体系不健全的问题，结合我国算法立法的实践，本报告认为从总体国家安全观的角度出发，应当构建以“算法法”为基本框架，各重点领域针对特定问题单独立法的算法安全立法体系。
（一）构建以“算法法”为基础的算法安全立法基本框架
“算法法”作为一项关于算法的纲领性立法，不仅是对具体行为的规范，更能为算法的发展和应用提供法律框架和指导原则，在推动科技创新、维护公共利益、保障个人权益等方面都发挥着积极的作用，具有重要的法律和社会意义。
在立法目标方面，“算法法”以算法技术发展、算法技术安全和算法应用安全为导向，支持算法技术的发展迭代，确保其技术领先地位，确立算法保护机制，保护涉及国家安全的算法免遭攻击和破坏，确立算法使用基本规范，防止算法技术的滥用。特别是在个人隐私保护方面，与《个人信息保护法》形成联动，完善隐私保护机制，保障规范算法技术的合理应用，保障个人权益不受算法滥用的损害，保障国家的整体安全和稳定发展。
在基本制度框架方面，首先要构建算法发展支持制度，通过一系列制度措施，促进、支持和引导算法技术的研发、创新和应用，从而确保我国在算法领域的领先地位，推动技术的发展，促进经济增长和社会进步。其次，要构建算法安全保障制度，通过一系列制度措施，防止算法受到恶意攻击、滥用或潜在漏洞的影响，保障算法在各种应用场景中的稳定性和安全性，确保算法技术的安全性和可信度。最后，要构建算法使用规范制度，通过构建指导性框架，确立在使用算法技术时遵循的准则、原则和行为规范，确保算法在各种应用场景中得到恰当和合理的使用。
（二）在各重点领域针对算法问题单独立法
“算法法”作为纲领性立法，能够为算法技术的发展和风险防范提供原则性规范。鉴于算法在不同应用场景中呈现不同的特征，对于高度依赖算法的应用场景，需要通过单独立法的方式，对该场景下的算法使用制定具体规范，从而确保算法安全。
第一，在能源、交通、通信、金融等重要基础设施领域，针对算法的安全与稳定性问题、隐私保护等方面，通过单独立法来规范和监管这些算法的使用，确保其安全性和稳定性，减少潜在的风险。
第二，在市场经济秩序领域，在《反垄断法》《互联网广告管理办法》《互联网信息服务算法推荐管理规定》的基础上，进一步加强算法规范的立法。无论是在覆盖面还是在精细度方面，特别是在共享经济平台、智能物流等高度依赖算法的新兴经济模式中，进一步构建完善的算法规范机制。
第三，在关系到国计民生的其他重要领域，加强和完善算法安全立法。例如在金融投资领域，要通过立法加强对算法在高速高频率的交易执行、市场分析和预测、风险管理等方面的监管；在医疗领域，在通过立法鼓励算法在药品和治疗技术研发、辅助医生作出正确的诊断和治疗决策等方面发挥积极作用的同时，也应加强对关系个人利益隐私和国家安全的基因数据泄露问题的监管；在教育教学领域，在鼓励使用算法实现个性化辅助学习、提升学习效率的同时，也要加强对由算法的应用引发的不必要竞争和压力等问题的监管。
当然，即使构建了算法安全法律体系，也不能一劳永逸地解决算法安全问题，算法技术作为现代计算机技术的组成部分，与人工智能、大数据、互联网传输等相关技术结合后，会进一步产生失业和职业变革、透明度和责任、安全和网络攻击挑战等各种具体问题。解决这些问题需要跨学科的合作，包括技术研究、法律法规、伦理标准等多个方面的努力。同时，社会各界需要共同思考如何在技术发展的同时保障个人权益、维护社会稳定和实现道德价值。
