查看原文
其他

欧洲议会发布数据治理研究报告

数据君 数据信任与治理 2022-09-08
 

2022年7月11日,欧洲议会(European Parliament)发布了一项关于数据治理的研究报告:Governing data and artificial intelligence for all: Models for sustainable and just data governance

该报告确定并研究了符合数据正义(data justice)的欧盟数据治理框架的政策选择。报告还对欧盟数据治理战略进行了整体评估,并提供了《人工智能法》、《数据治理法》和《数据法》的具体政策选择。根据数据正义原则,本项研究提出了良好数据治理的四个基准:维护和加强公共基础设施和公共产品、包容性、可竞争性和问责制以及全球责任。通过探索不同治理模型,报告研究了这些模型和上述政策选择的相关性,以及它们为欧盟案例提供的经验教训。

本文是对该研究报告执行摘要部分的翻译,供读者参考。


执行摘要

本研究报告旨在确定和审查从数据正义视角出发的欧洲数据治理框架,特别是在人工智能(AI)方面的政策选择。数据正义是一种以公平、认同和代表多元利益以及创造和维护公共产品为主要目标的方法。本文既评估了整体的欧洲数据治理战略,也为《人工智能法案》(AI act)、《数据治理法案》(data governance act)和《数据法案》(data act)提供了具体的政策选择。

数据正义是一个分析欧洲数据治理框架很合适的视角,因为无论开发还是使用人工智能都不是自下而上的技术。现在以及在可以看到的未来一段时间内,只有社会中强大且掌握丰富资源的人,无论是在商业领域还是公共领域,才能普遍开发和使用人工智能系统。除非将大量资源投入公共替代方案,否则这一系列的活动都将依赖于大规模的商业计算基础设施,从而使那些在社会中掌握最多资源和能力的人拥有分析和干预的商业和公共领域活动的权利。

因此,本研究报告讨论的核心问题是如何构建人工智能的积极愿景,将其用于公共产品和创造公共价值。本研究发现,唯一的方法是通过治理,即有目的地将对人工智能系统及其所依赖的数据生态系统的权力向外授予公民社会和民主机构,并大力激励相关人员更好地开发和利用这些系统。

基于对数据正义的研究,我们提出了良好治理的四个基准:维护和加强公共基础设施的建设和公共产品的提供、包容性、竞争性和承责力和全球责任。本文研究了目前对数据的几种主要理解方式——可交易的资产、公共资源、国家的战略资产和个体身份的一部分——并阐释了这些不同的概念是如何在世界各地的治理模式中相互作用的。

本文举了一些可替代治理的模式的例子,包括本土和当地的数字主权、公共数据信托、合作、共享和个人数据主权系统。我们分析了根据我们的四个基准确定的这些支持或理解良好数据治理的总体情况,并探讨了这些优势模式和替代方案如何通过治理的形式相互作用(如私人监管、预防性方法、特定领域和部门的治理模式、综合方法以及私人和合作形式的监管)。
我们的主要发现有:

1. 将数据定义为公共产品的可能性

为定义数据是哪一类公共产品,欧盟仍有许多工作要做。虽然当下构建的法律框架清楚地以为公共和私人目的,使用数据创造价值为目标,但协调在这些目标之间冲突的机制并不明确,而且不同的立法对公共和私人利益的偏重也有所不同。最强大和最难以接近的控制系统的人们会产生这样的想法,特别是如果没有例如评估对人权的影响、一项可执行准则规定与数据和人工智能系统相关的权利和利益的优先级别,以及受影响群体应如何索赔的可行性方法等有力约束的情况和潜在的有罪不罚现象的时候,行为人将实行利他或利己的行为证。

2. 将欧盟的数据治理方法宪法化

我们发现,欧盟现有的数据治理监管框架有分裂的风险。虽然都关注数字市场的建立,但所涉及的不同法律文件(例如通过数据保护、竞争和消费者保护的视角)在对技术危害的定义不同,这反过来又限制了权力的公平分配,无论是在获取和使用数据方面,还是在必要时提出索赔和寻求救济方面。而通过利用平台和人工智能系统,情况就明显变得更加复杂,它们可能同时侵权、实施垄断和不公平的交易行为,因而必须依据这些行为不同的逻辑来分别处理。尽管这很复杂,但是通过宪法视角——即公平分配权利和权力的总体目标——有可能提供一个处理数据治理的连贯策略。

3. 以集体意志和决策为中心

我们认为,人工智能和数据治理应该以社会团体的集体意志和决策为中心,同时以公共价值为系统导向。可以重新定位(在其数据战略中提及,并在《数据治理法案》和《数据法案》中暗示的)欧盟对公共基础设施的投资,以反映对数据如何产生价值的多元理解,特别是如何理解大型和小型计算和数据基础设施。我们认为,迫切需要对数字基础设施进行多元化的思考和投入,以支持和建立欧盟内部的公共产品,并使这些公共产品能够免受大数据技术的侵扰。我们还发现,目前对人工智能治理的思考使公民社会十分容易被剥削和侵权,而且在公民社会有许多未探索出的开发和利用人工智能的方法。这可能是由于将人工智能系统或模型作为单一产品的框架,而不是作为研究领域的组成部分。随着时间的推移,使用这套动态发展的系统将以不同的方式产生各种价值。

4. 数据治理工具的语境化

目前数据治理的趋势涉及不同工具的开发,如数据信托、各种形式的合作社和公共资源,以及管理过程。我们发现,这些都不是独立的数据治理方法,而是与特定目标相关。因此,如果总体的规范性目标得不到明确阐述和执行,所有这些都有可能被滥用。例如,大型科技公司利用数据信托和管理安排的概念来控制数据在其他地区的潜在公共价值。然而,如果以创造特定的公共产品和提供问责制为目标,这些工具有可能建立对数据流动的控制,从而使部门和利益集团了解数据在特定地区的人工智能应用情况。

5. 转移和分配监督权

技术法规的执行和监督面临着越来越大的挑战,需要证明它们能够代表社会的民主关切。在数据和人工智能方面,监督和执行过程的民主化可以帮助解决这一挑战。由于强大的技术越来越多地以一种对个人不透明的方式用于公众,因此迫切需要有一个面向公众的监督和执法结构,它可以证明民主问责制,因此也更能代表社会。期望法律专业人员在与公民社会没有直接联系的情况下认识到不同社会中出现的危害是一种挑战,而在公民社会没有看到自己在监督机构中的代表的情况下,如何确定和寻求救济也是一种挑战。政策选择对于欧盟来说,要定义数据为何种公共产品,人工智能和数据治理可以将社会团体的集体意志和决策作为中心,同时以公共价值为系统导向。(在其数据战略中提及,并在《数据治理法案》和《数据法案》中暗示的)欧盟对公共基础设施的投资,可以反映对数据如何产生价值的多元理解,特别是如何理解大型和小型计算和数据基础设施。可以调动对数字基础设施的多元思考和投入,以支持和建立欧盟内部的公共产品,并使这些公共产品免于被大数据技术侵扰。

关于将欧盟的数据治理方法宪法化,目前正在制定的法律文件的多样性可被视为数字空间宪法化的一个机会。从宪法的角度来看,可以限制履行公共职能的公共和私人行为者的权力,并使他们对人民负责。它还提供了一种权利语言,以及挑战公共和私人权力过大的机会。采用数字宪政的框架,通过测试每项立法是否能够平衡权力,提供挑战权力的工具,并提供框架让有权力的人负责,从而使目前的新立法的多样性变得有意义。

以公民社会为中心,将其作为数据经济最重要的受益者,这一目标可以通过以下方式实现:提供公平的基础设施开发和数据访问,创建环境可持续的基础设施和实践并为其提供资源,在数据政策中以FAIR原则(FAIR principles)(可查找、可访问、可互操作、可重复使用)为中心,作为全球责任的一项要求,以及在数据权力不对称的情况下为集体利益、控制权、责任和道德提供指导的关怀原则(CARE principles),并认识到政府不是唯一可以为公共利益使用数据的行为人。只要将保护数据不受伤害作为一项共同利益来处理,就有可能分配和下放获取、使用数据并从中受益的权力。

为了使数据治理工具符合实际情况,主管部门可以更加关注在特定的公共产品方面的目标——例如公平的教育或住房机会、边缘化群体的政治代表或公平的社会安全网——并将数据治理工具应用于这些目标。如果目标是公共的,这些工具通常也意味着为人工智能和它所需的数据开发公共基础设施。通过将治理和权力集中在当地开发者或社区手中,而不是将其移交给其所在的计算基础设施的所有者,可以使小型生态系统在这些基础设施中生存。

为了实现监督的民主化,我们提出了治理结构的备选方案,以促进公民社会在管理数据方面的代理权,即通过将监督责任分配给部门和地方组织(如协会、利益集团、市政主管部门和各省)。这种分布式的、与领域相关的监督基础设施将是对目前集中式但负担过重的方法的补充,一旦加入人工智能监督,这种监督只会变得更加不堪重负。这种结构将提高系统识别增量伤害的能力,这种伤害在人工智能和数据分析系统中最为常见,随着时间的推移,大量受影响个人的投诉逐步累积,从而提出索赔。

最后,我们制定了一个可持续的方法,可以考虑到数据经济通过其运作对环境的影响,以及数据经济中特定做法的可持续性。前者需要广泛地定义数据经济如何可持续地运作(而不是错误地以牺牲其他行业为代价来刺激商业基础设施对绿色能源的消耗),而后者则需要采用公共基础设施以及数据和人工智能的开放实践。可持续的做法还包括定义这些技术与基本权利的关系;确定哪些地方的伪科学被正常化,从而扭曲了对使用有害人工智能的保护,并让民间社会在多元、持续和结构性的基础上参与制定目标,确定数据和人工智能技术的发展路径。

(请点击“阅读原文”查看报告全文)


往期文章:


1.欧盟数据治理模式

个GDPR认证机制GDPR-CARPA详解

全文首发|欧盟委员会《关于欧洲共同数据空间》工作文件(中译本)

欧洲数据治理方式的转变:《数据治理法》

Data Act:欧盟数据访问和使用的新框架

国际数据空间在欧洲数据战略中的作用

对数据的监管如何培育数字经济创新和竞争  ——GDPR提供的共同监管工具

EDPB《关于行为守则作为数据跨境传输工具的04/2021号指南》简评(附征求意见前后对比中译本全文)

EDBP《关于对处理者具有约束力的公司规则的工作文件》中译本全文

EDBP《关于对控制者具有约束力的公司规则的工作文件》中译本全文

全文首发| 欧盟《数据法》草案中译本

欧盟的公共数据治理方案(下)

欧盟的公共数据治理方案(上)

欧盟的人工智能数据治理方案

Gaia-X:下一代数据治理基础设施


2.数据跨境流动治理

《个人信息出境标准合同规定(征求意见稿)》适用要点解读

英国“数据 新方向”咨询结果|促进贸易和减少数据跨境传输壁垒(第三章)

欧盟GDPR vs. APEC CBPR:数据跨境传输机制比较分析(下)

欧盟GDPR vs. APEC CBPR:数据跨境传输机制比较分析(上)

数据跨境流动的规则监管与多元治理


3.全球数据治理观察

印度国家数据治理政策框架(草案)全文翻译(附草案原文)

马斯克收购Twitter交易中的数据争议

国内外数据交易模式对比分析

我们应当如何理解数据治理中的管辖权冲突?

数据交易治理:中国、欧盟和印度的发展(附报告全文)

数据访问治理:中国、欧盟和印度的发展(附报告全文)

作为经济政策的数据治理:中国、欧盟和印度的发展(附报告全文)


4.国际数据空间

全文首发|欧盟委员会《关于欧洲共同数据空间》工作文件(中译本)

欧洲共同数据空间:进展与挑战

国际数据空间在欧洲数据战略中的作用

合作发布|国际数据空间IDS China Research Lab正式启动


5.产业数据治理

如何解锁制造业数据的价值?(下)

如何解锁制造业数据的价值?(上)

车联网中的隐私与信任(下)

车联网中的隐私与信任(上)

物联网数据共享和控制的四个法律挑战



您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存