数字时代中的人权

尊敬的专题讨论小组成员、
同事和朋友们，

我感谢纽约大学人权与全球正义中心、国际特赦组织和《卫报》邀请我参加这次有望成为极其重要且充满活力的活动。

在数字时代关注人权是很关键的。数据收集正在以工业化的规模进行。各国、各政党、各类组织，尤其是工商企业，掌握着关于我们的非常详细和有力的信息。我们生活中越来越多的方面正在被数字化追踪、存储、使用——和滥用。试想一下，所有今天在场的拥有智能手机的人会创建一条通往这间会议室的数字通道。

数字技术带来了许多益处。它对人权与发展的价值是巨大的。我们可以在全球范围内进行互联和通信，这是前所未有的。我们可以提高能力、告知和开展调查。我们可以使用加密通信、卫星图像和数据流直接捍卫和促进人权。我们甚至可以使用人工智能来预测和阻止侵犯人权的行为。

但是我们不能忽视数字技术的阴暗面。我想最有力地指出一点：数字革命是重大的全球人权问题。数字革命无可争议的益处并不能消除其明显的风险。

我们也无法将网络空间和人工智能视为无人治理或无法治理的空间，即人权黑洞。线上和线下的权利是相同的。联合国大会和人权理事会对此表示肯定。

朋友和同事们，

我们不应该对数字发展的规模或速度感到不知所措，但我们的确需要了解具体的风险。

我们的很多注意力都理所应当地集中到了网上言论自由以及煽动仇恨和暴力的挑战上。网上骚扰、拖钓活动和恐吓已经污染了部分的互联网环境，并构成了非常切实的线下威胁，妇女遭受的影响非常大。在最致命的案例中，社交媒体的帖子针对的是2017年发生大规模杀戮和强奸事件前的缅甸罗兴亚社群。人权调查人员发现脸书网站（Facebook）及其依赖于算法的新闻馈送服务，为传播仇恨言论和煽动暴力行为推波助澜。

这些做法毫无疑问是对人权的严重侵犯。互联网上的威胁、恐吓和霸凌导致了针对现实世界中的针对、骚扰、暴力和谋杀，甚至是灭绝种族和族裔清洗的罪行。如不采取行动则会导致公民空间进一步缩小、参与度减弱、歧视加剧以及致命后果的风险持续存在，尤其是对妇女、少数群体及移民，以及任何被视为“其他”的人们。

但是，监管机构限制言论和线上空间使用的过度反应也构成了一个重要的人权问题。几十个国家经常以打击仇恨或极端主义为幌子，限制人们可以访问的内容、扼制言论自由和政治活动。短暂关闭互联网似乎已经成为扼杀合法辩论、异议和抗议的常见工具。据非政府组织Access Now的统计，2018年，25个国家共短暂关闭互联网196次，几乎是2016年记录次数（75次）的三倍。

一些国家通过发布关于人权维护者和民间社会团体的虚假信息或策划骚扰活动，蓄意破坏其声誉。还有人正在使用数字监视工具来追踪和锁定人权维护者以及被视为批评者的其他人。

朋友和同事们，

除了监管不足、监管过度和蓄意滥用这些非常切实的危险之外，我们还看到隐私权正面临前所未有的风险。有太多的案例显示出，关于隐私的保障都失败了。许多人可能完全没有意识到是谁正掌握着他们的数据或这些数据将会被如何使用。

而且，由于掌握的数据规模巨大，滥用数据的风险和影响也非常之大。数字领域的黑暗面不仅威胁着隐私和安全，还破坏着自由、公正的选举，损害着言论、信息、思想和信仰自由，用假新闻掩盖真相。这一代价如此之高——威胁着各国和整片大陆的前途。

这不仅仅是重要的隐私问题，而且还关系到大规模收集和滥用数据以及操纵选民。我们已经在美国总统大选、英国脱欧公投以及巴西和肯尼亚的民意调查中看到了这类报道。包括《卫报》在内的各家报刊已经和专职公职人员合作，在把其中一些侵犯行为带入公共领域方面发挥了重要作用。

随着数字革命的不断发展，出于合法和非法目的使用技术的情况都将会增加。各国和工商企业已经在边境和刑事司法系统中使用以数据为驱动的工具，可以识别具有潜在安全威胁的个人。人工智能系统可以对人进行评估和分类，形成有关其身心特征的结论，预测他们未来的健康状况、对工作的适合性甚至犯罪的可能性。人们的个人资料、“评分”和“排名”可用于评估他们是否具备享受医疗保健、保险和金融服务的资格。

除了我描述的侵犯人权行为，我们还发现了一个全新的类别——这不一定是蓄意的，也不一定是希望进行控制或操纵的结果，而是合法追求效率和进展的副产品。

现实世界中的不平等现象会在算法中重现，并回流到现实世界。人工智能系统无法捕捉人类经验和需求的复杂性。数字系统和人工智能创造了权力中心，而不受监管的权力中心总是会带来风险，包括对人权的威胁。

我们已经知道其中一些风险在实践中是什么样的。会系统地降低妇女地位的征聘方案。会将黑人嫌疑人归类为更容易再犯罪的系统。会在贫困或少数群体聚居区导致过度警务的预测性警务方案。受影响最大的可能是处于社会边缘的人们。只有用人权的做法，才能充分应对这些挑战。因为这一做法将个人视为权利持有者，赋予人们能力，并创造法律和制度环境，让人们能行使其权利并寻求对任何侵犯和滥用权利的补救。

朋友和同事们，

数字技术不仅可以用来监测和分类，还可以带来影响。我们的数据不仅被数字化，还会被货币化和政治化。数字流程正在塑造我们，也正在为我们服务。我们对大数据、人工智能和其他数字技术会如何影响我们的生活和社会深感关切，这是正确的。

我们强调数字行业工作者的处境也是正确的。这些人通常就业不稳定或打零工，失去了稳定就业带来的所有益处。至关重要的是让他们能够享有充分的人权，包括参加工会和罢工的权利。在某些情况中，这可能有助于遏制业务过剩。

这些挑战让我们回想《世界人权宣言》中那些永不过时的原则。人人平等，每个人都有不可剥夺的权利和固有的尊严。人人有权享有不受歧视的生活，有权享有政治参与、隐私、健康、自由和公正的审判。人人享有生命权。

为了在飞速发展的世界中尊重这些权利，我们必须确保数字革命服务于人民，而非倒置。我们必须确保每个由机器制动的程序或人工智能系统都遵守诸如透明度、公平性、问责制、监督和补救等基本原则。

但是，谁负责应对这些跨文化、跨国界和跨司法管辖范围的多重且复杂的风险呢？是对保护人权和确保补救负有主要责任的国家吗？是可以改变运作方式的企业吗？还是可以寻求跨国解决方案的国际组织？学术界？记者？议员？人权维护者？非政府组织和民间社会团体？

我认为答案是应该由上述所有人和机构以共同责任感和主人翁意识一起应对。为了维护普遍人权，我们需要采取普遍的人权应对措施。

我们是否利用了伦理或人权来应对这些挑战？令人倍感鼓舞的是，一些国家、区域集团、企业、学术界和其他热情并有远见的人士在制定克服不公正和歧视的伦理准则方面展现了卓越的领导能力。但我也认为，准则、行为守则和自愿遵守本身并不足以应对我们所面临的挑战规模。

数据就是力量，大数据是强大的力量。所有力量都可以被滥用。这适用于任何情况，数字世界也不例外。除了伦理，国际人权框架帮助我们进一步对这一力量施加必要的制衡。国际人权框架为国家和企业在数字时代建立应对措施提供了具体的法律基础。它提供了关于可接受行为的非常明确的指导，而各国也已经建立并认同了这一框架，这一点同样重要。除《世界人权宣言》之外，我们还有许多公约、条约、法院、委员会和其他机构可以向国家和企业问责。

人权和伦理做法并不冲突。最近，世界经济论坛发布了一份关于负责任地使用技术的出版物，明确指出了人权和伦理可以相互配合，从而形成强有力的结合，使人权和伦理彼此互相强化。

事实上，如果我们要从数字革命中获得最大效益，就需要以人权框架为指南针，在所有应对措施中应用这种非二元思维。人权框架和伦理标准。义务和责任。国家和企业。人工智能和人类尊严。保证言论自由和明确防止仇恨言论。

这意味着政府在制定法律、准则和条例时应采取强有力的应对措施，实施将保护所有权利的责任纳入其中的政策，并适当考虑社会、文化和经济权利。这意味着科技巨头在其商业实践中要展现领导能力。这意味着要赋予人们控制关于其个人数据使用的决策的权力。这意味着当最贫困和最边缘群体的数据被滥用或在自动化决策制定过程中遭受歧视性决策时，应确保他们可以获得补救。这意味着在人工智能系统开发和部署的每个阶段都要开展人权影响评估，这是企业和研究人员可以展现责任感和领导能力的非常重要的领域。

但是政府和企业不需要另起炉灶。除《联合国企业与人权指导原则》之外，我们在具体行业已经有了出色的指导范例，例如欧洲联盟的关于实施指导原则的《信通技术部门指南》、《电信业对话》和《全球网络倡议原则和指南》。

朋友和同事们，

数字革命没有哪一部分不能或不应该从人权的角度来被审视。我们需要不断寻找和评估在保护方面存在的差距。这不仅意味着要通过与数字化发展同步的新法律，也意味着调整我们利用制度和程序的方式。我们需要能够对依赖数据的企业和国家的力量加以约束的制度。只有不断调整程序以找到正确的干预措施组合，我们才能有效地保护权利。

政府主导的网络空间监管当然也有自身的问题，特别是法治的基本保证得不到遵守，尤其是法律面前人人平等、公正和问责制。

我们不应该忘记，每当我们监管社交媒体时，我们就在决定人们能够表达、能够看到和听到的内容，而当今世界，社交媒体现已成为公开辩论和公共生活的主要场所。因此，我们的干预措施必须经过精心设计，避免不惜一切代价的过分干预。如果需要监管，我们则应该探寻关注平台行为而非基于观点的监管措施。通过合作、共享最佳做法和研究国家监管制度的详细成果，包括任何意外后果，我们将会找到最佳解决方案。

朋友和同事们，

各国政府、各社交媒体平台和其他企业亟需保护民主社会、法治和我们所有网络权利的基本支柱，也就是对监督、问责制和责任感的需要。随着数字化边界不断扩大，人权届面临的最大挑战之一是帮助企业和社会在我们尚未涉足的领域落实国际人权框架。这包括关于企业责任和国家义务的明确指导。

在最好的情况下，数字革命将增强能力、建立联系、提供信息并挽救生命。在最坏的情况下，它将减弱能力、切断联系、提供错误信息并造成生命损失。

人权能够彻底改变这一等式。

谢谢大家。