当地时间6月14日，欧洲议会以 499 票赞成、28 票反对和 93 票弃权通过了《人工智能法案》的谈判授权草案，接下来将正式进入与欧盟委员会进行协商的程序，以确定最终版本。《人工智能法案》旨在确保在欧洲开发和使用的人工智能完全符合欧盟的权利和价值观，包括人类监督、安全、隐私、透明度、非歧视以及社会和环境福祉。

被禁止的人工智能类型清单

《人工智能法案》遵循基于风险等级分类的方法，根据 AI 可能产生的风险级别为提供商和部署 AI 系统的人员规定相应的义务。因此，《人工智能法案》将禁止对人类安全造成不可接受风险的人工智能系统，例如用于社会评分（根据社会行为或个人特征对人进行分类）的人工智能系统。欧洲议会议员扩大了清单，进一步包括了禁止侵入性和歧视性地使用人工智能，例如：

公共场所的“实时”远程生物特征识别系统；

“邮寄”远程生物特征识别系统，只有针对严重犯罪的执法除外并需要在司法授权后才能进行；

使用敏感特征（例如性别、种族、民族、公民身份、宗教、政治取向）的生物识别分类系统；

预测性警务系统（基于分析、位置或既往犯罪行为）；

执法、边境管理、工作场所和教育机构中的情绪识别系统；

从互联网或闭路电视录像中无针对性地抓取面部图像以创建面部识别数据库（侵犯人权和隐私权）。

高风险人工智能类型

除了上述被禁止的类型，欧洲议会议员对那些比被禁止类风险略低的高风险类型的分类将包括（1）对人的健康、安全、基本权利或环境造成重大危害的人工智能系统（例如医疗），（2）用于影响选民和选举结果的人工智能系统以及（3）（拥有超过 4500 万用户）社交媒体平台使用的推荐系统。

通用人工智能General Purpose AI的义务

控制风险：基础模型的提供者必须评估和减轻（对健康、安全、基本权利、环境、民主和法治）可能的风险。

登记：在在欧盟市场上发布之前在欧盟数据库中进行登记。

透明度：基于此类模型的生成式人工智能系统，如 ChatGPT，必须遵守透明度要求，披露哪些内容是人工智能生成的，以便帮助区分所谓的深度造假图像和真实图像，并确保防止生成非法内容。

版权保护：用于培训人工智能的受版权保护的数据的详细摘要也必须公开。

支持创新和保护公民权利

为了促进人工智能创新和支持中小企业，欧洲议会议员增加了对开源许可下提供的研究活动和人工智能组件的豁免。《人工智能法案》提倡所谓的监管沙箱或现实生活环境，由公共当局建立，在部署人工智能之前开展测试活动。

欧洲议会议员希望提高公民对人工智能系统提出投诉的权利，并获得对严重影响其基本权利的高风险人工智能系统所作决策的解释。欧洲议会议员还改革了欧盟人工智能办公室的角色，该办公室的任务是监督人工智能规则手册的实施。

下一步立法进程

与欧盟委员会就《人工智能法案》的最终稿进行的谈判将于6月14日晚些时候开始。

通过推进这项立法，欧洲议会议员回应了欧洲未来会议上关于确保人类对人工智能相关过程进行监督的公民提案（提案 35(3)）；充分利用可信赖人工智能的潜力 (35(8))；以及使用人工智能和翻译技术克服语言障碍 (37(3))。