高端视野|吴沈括 胡然：欧盟委员会2021年《人工智能法》提案研究

吴沈括

网络法治国际中心执行主任、博导

中国互联网协会研究中心副主任

胡然

网络法治国际中心研究助理

本文是国家社会科学基金项目（批准号：15CFX035）的阶段性成果。

2021年4月21日，为了将欧洲变成值得全球信赖的人工智能中心，加强整个欧盟范围内对于人工智能的使用、投资和创新，欧盟委员会通过了《人工智能法》提案，旨在建立关于人工智能技术的统一规则。提案不仅对人工智能技术在诸如汽车自动驾驶、银行贷款、社会信用评分等一系列日常活动中的应用设定了限制，而且还对欧盟内部的执法系统和司法系统使用人工智能的情形提出了相应的问题规制路径。值得注意的是，此次欧盟针对人工智能领域作出的关键立法，也意味着对该领域的数字治理问题提出了新的要求，侧面反映了人工智能技术的治理与发展应当在《通用数据保护条例》（GDPR）的有效监管下进行，即按照与GDPR一致的方式进行统一部署。总体而言，此份提案作为欧盟早前发布的人工智能战略中的前沿立法，其采用具体法律框架的形式与各成员国实施的协调计划积极结合，以保障公众和企业的隐私安全和基本权利为主要出发点，进一步明确了人工智能技术在不断更新和发展的同时，应当满足于当前世界范围内对于符合社会基本价值观与发展新兴技术两者间的平衡要求，从而使欧洲公众能够加强对人工智能技术所提供的产品和服务的信任。

一、欧盟委员会《人工智能法》提案的出台背景与制度设计

在过去的十年里，人工智能技术经历了快速的发展。已经获得了坚实的科学基础，并形成了许多成功的应用模式，其为经济、社会和文化发展、能源可持续性、更好的医疗保健和知识传播提供了丰富的机会。但与此同时，这些机会伴随着潜在的风险，如失业、不平等、就业歧视、社会排斥、不知情的监督和操纵等。考虑到这些潜在风险的存在，欧盟委员会自人工智能技术问世以来，持续促进和加强欧盟各地在人工智能技术方面的合作，在符合欧盟价值观的背景下以提高其技术竞争力为主要目标。根据欧盟委员会的定义，人工智能技术是指采用官方所列明的一种或多种技术和方法开发的软件，并且能够针对特定人群或具体目标产生诸如内容、预测、建议或决定等一系列影响其交互环境的输出技术。

关于人工智能在欧盟的发展现状与前景，欧盟委员会数据执行副主席Margrethe Vestager表示：“在人工智能领域，公众信任是必须存在的，而对其进行监管和规制是建立这些信任的最佳方式。只有存在具有里程碑式的监管规则，才能确保人工智能值得信任。欧盟对人工智能技术采取的规则将面向未来的创新与进步，并在欧盟公民的安全和基本权利受到威胁时进行干预。”基于此种观点，《人工智能法》提案应运而生，鲜明体现了欧盟在人工智能领域积极引领制定新的全球规范的意图。

提案的总体目标在于为全球范围内人工智能技术的应用与发展制定详细标准，及为符合道德和法律双重标准的人工智能技术铺平道路，并确保欧盟在此过程中保持技术竞争力，从而有效加强欧洲作为全球卓越人工智能中心的地位，使欧洲人工智能技术的发展符合欧盟的总体价值观和规则。关于提案的适用对象，其明确指出了几类主体范围，分别为将人工智能系统投放市场或投入使用的供应商、欧盟领域内人工智能系统的使用者、位于第三国的人工智能系统的供应商和使用者。基于欧盟意识到人工智能技术对欧洲价值观和基本权利及原则的风险的影响，提案对人工智能采取了考虑风险但总体审慎的方法，将人工智能技术可能带来的风险划分为四个层级：

1、不可接受的风险。此类风险被欧盟认为将会对公民的安全、日常生活和基本权利构成明显威胁，故予以明令禁止，如操纵人类行为来规避用户的自由意愿的人工智能技术或应用程序，最典型的例子为使用智能语音辅助的玩具来鼓励未成年人从事危险行为。

2、高风险。提案未对人工智能技术高风险的具体含义进行说明，但将人工智能技术可能发生高风险的覆盖领域详细归纳为关键基础设施、公民教育、产品的安全组件、公民就业、公共服务、涉权型执法、出入境问题、司法和民主进程等八类。

此外，提案强调了所有远程生物识别系统都应被划入高风险的范围。部分成员国业已出台法律对该系统进行限制的，应当与此份提案所规定的内容保持一致。对于远程生物识别系统的禁止情形，提案特别规定了相应的豁免条款，即原则上禁止在公众可进入的空间和场所内使用远程生物识别系统，但出于执法目的的某些例外情况可经司法或其他独立机构授权予以使用，如在非常紧急的情况下搜寻失踪儿童，防止迫在眉睫的恐怖主义威胁，侦查、定位、识别或起诉严重刑事犯罪的犯罪嫌疑人等，但必须对在时间、地理范围和搜索的数据库方面进行适当限制。

除此之外，提案还详细规定了存在高风险的人工智能技术在投放市场之前必须履行七种严格义务，而这些义务在人工智能系统投放市场或投入使用前以及在整个生命周期内都要接受审查，具体包括：

（1）完备的风险评估系统；（2）向系统提供高质量的数据集，以将风险和歧视性结果降至最低；（3）记录活动以确保结果的可追溯性；（4）提供有关系统及其目的的所有必要信息，以供当局评估其合规性；（5）向用户提供清晰、充分的信息；（6）采取适当的人为监督措施，将风险降至最低；（7）高水平的安全性和准确性。

3、有限的风险。此类风险具体指的人工智能系统包含特定透明度义务。因特定透明度义务的存在，故当用户使用人工智能系统时，能够意识到其本身正在与人工智能系统进行交互，即在用户知情的情况下提供给用户方决定继续运行或中止的权利。

4、极小的风险。如提案允许免费使用人工智能视频游戏或垃圾邮件过滤器等应用程序等。绝大多数人工智能系统都属于此类风险。值得一提的是，欧盟认为这些人工智能系统对公民的权利或安全产生的风险极小，甚至无法产生风险，故提案并未对较小的风险进行干预。

在人工智能的治理主体方面，提案指出人工智能系统的设计和开发应当保证在使用过程中能够受到公民的监督，故其规定由国家主管市场监督机构监督新规则，在未来可以建立一个欧洲人工智能委员会来促进新规则的实施和推动人工智能标准的制定，并由其来承担各种复杂的任务，如协助国家主观市场监督机构来确保提案的一致适用、发布就人工智能技术发展的相关意见和建议、在成员国之间收集和分享最佳实践等。

为此，提案还提出了鼓励不属于高风险范围的人工智能技术的提供者制定行为守则，促进自愿采纳适用于高风险人工智能技术的强制性要求，并提出了监管沙盒模式以促进人工智能领域的创新。在人工智能技术规制措施的执行方面，提案规定由各成员国根据各国不同情况予以严格执行。对于创建和应用人工智能技术的公司或企业，提案规定了在八种高风险领域范围内使用人工智能技术，将会有严格的防护机制，若企业违反规定将处以高达3000万欧元的行政罚款或者其全球年度总营业额的2%至6%，取两者之中较高金额进行处罚。

目前，提案已经提交给欧洲议会和欧洲理事会进行进一步的审议和分析，若经通过，将会在欧盟官方公报上公布二十天后生效，并将在生效后的两年内持续适用。鉴于人工智能技术涉及到大量的利益相关者，存在一定的争议性，故欧盟方认为该提案具体落实于公民现实生活的过程仍然道阻且长。

二、欧盟委员会《人工智能法》提案与欧盟《通用数据保护条例》（GDPR）

 

众所周知，人工智能技术与个人数据长期保持着较为紧密的联系。人工智能的应用程序在处理个人数据时，一方面个人数据有助于建立其算法模型，另一方面这些模型也可以应用于个人数据，从而判断有关特定个体的差异性。人工智能对个人数据产生了日益强烈的需要，而这种需要刺激了数据收集并促进了大量数据集的创建。人工智能与大数据的融合可以为经济、科学和社会的进步带来诸多好处，借助于人工智能，各种个人数据都可以用来分析、预测和影响人类行为，这是一个将这些数据及其处理结果转化为有价值商品的机会。特别在许多情况下，自动化的预测和决策不仅成本更低，而且比人类的预测和决策更精确、更公正，因为人工智能系统可以避免人类心理的典型谬误，并且可以受到严格的控制。

与保护个人数据的GDPR相联系，欧盟委员会《人工智能法》提案规定的内容意味着对人工智能技术在收集和掌握个人数据方面将会产生积极意义，从而有效作用于GDPR中个人数据的使用和保护。尽管GDPR中没有明确提到人工智能一词，但GDPR中的许多条款与人工智能相关，有些条款确实受到人工智能启用的新的个人数据处理方式的挑战， 如GDPR允许开发人工智能和大数据应用程序，成功地平衡数据保护和其他社会经济利益，但它对如何实现这一目标仅提供了有限的指导。作为欧盟范围内保护个人数据的重要条例，GDPR确实充斥着模糊的条款和开放的标准，而这些条款和标准的应用往往需要平衡相互竞争的利益。在人工智能应用中，技术的新颖性、复杂性以及其个人和社会影响的广泛性加剧了不确定性。显然，《人工智能法》提案的出台将会在此方面予以明确和规制，从而有效保护人工智能使用和发展过程中个人数据的流通与收集。

此外，《人工智能法》提案特别规定了从事人工智能处理的控制者应当采取负责任和风险导向的方法，同时鉴于问题的复杂性以及GDPR中存在的模糊性，不应让控制者单独参与这项工作，力求在最大程度上与GDPR所倡导的价值观相契合。此举可以通过与现有技术和经济盈利能力相兼容的方式来实现，或者在公共当局处理的情况下以可持续的方式来实现公共利益。

总之，随着《人工智能法》提案的问世，欧盟各机构仍可能会继续促进对人工智能应用的广泛讨论，并进一步提供高水平的指示。欧盟数据保护当局需要积极参与和所有利益相关者的对话，包括人工智能系统的控制者、处理者和社会公民，以便根据共同的价值观和有效的技术制定适当的应对措施。当GDPR所规定的数据保护原则的一致应用与有效使用人工智能技术的能力相结合时，可以通过《人工智能法》提案所指出的产生信任和预防风险的方式，为人工智能在未来的成功应用做出贡献。

三、欧盟委员会《人工智能法》提案与欧盟《人工智能战略》

2018年3月27日，欧洲政治战略中心发布了《人工智能战略》，主要从三个方面介绍了欧洲人工智能技术的现状与未来：全球范围内人工智能技术的研发投入情况、欧洲范围内人工智能技术的发展情况、人工智能技术发展过程中存在的问题与挑战。就战略的总体目标而言，其指出人工智能技术的发展趋势已不可阻挡，预计到2030年，人工智能将为全球经济贡献12.8万亿欧元，相当于全球GDP的14%。为了在世界范围内的人工智能技术发展中取得领先地位，欧洲需要解决潜在的社会风险，并建立起完善的欧盟人工智能科技。这需要欧盟委员会领导的明确行动计划来实现，该计划应注重在欧盟层面培养必要的专业知识，以检测欧洲人工智能技术的运行。不可否认，当前数字市场的演进十分迅速，在人工智能带来大量好处的同时也意味着可能会对经济和社会造成不稳定的影响，如导致劳动力剩余、个人信息失去控制、在线平台加剧垄断现象等，而仅仅依靠市场力量很难及时有效地处理上述这些问题。

申言之，此次《人工智能法》提案的出台，标志着欧盟正在积极为三年前发布的《人工智能战略》建立具体的规制立法，从而取得监管与限制人工智能技术所带来的潜在风险与不良影响的合法性基础，并辅之以具体的执行措施，以应对未来在人工智能领域可能会层出不穷的风险和问题。此外，战略还曾指出为了应对人工智能的挑战，欧洲需要一个全面涵盖商业和公共管理的战略部署，除了为人工智能的发展创设有利环境外，还必须基于广泛认可的价值观和原则来建立全球监管规范和框架，以保证人工智能的发展以人为本。值得注意的是，《人工智能法》提案重申了该内容，即符合社会基本价值观与发展新兴技术两者之间应当取得有效平衡，并进一步规定了诸多措施和办法力图使人工智能技术的不良影响降至最低。

总而言之，《人工智能法》提案的出台，是《人工智能战略》实施计划中的重要一环，预示着欧盟已经开始针对人工智能领域的规制和监管采取了积极的立法措施，并在《人工智能战略》的引导和指示下不断增强对潜在风险的预警和处理，积极明确提案的规制对象与规制范围。可以预见，未来欧盟将会持续加大对人工智能技术的投资，并会严格按照《人工智能法》与《人工智能战略》所规定的内容进行严格的规制和监管，使人工智能技术在符合欧洲基本价值观的前提下进一步加强其技术研究与应用实践。

图文编辑：北京师范大学 陈丽琳