面部识别技术(FRT)的快速发展导致了在平衡个人隐私权和提供社会安全方面的复杂伦理选择。在这一领域,执法机构对这些技术的日益普遍的使用,为探索这一复杂的领域、其应用和公民监控的可接受程度提供了一个特殊的视角。各国逐步发展,例如:美国(USA)、英国(UK)和欧盟(EU)在执法机构使用和滥用FRT方面的监管背景和最近的判例法。以美国为例,它是技术正在快速发展的全球主要地区之一,然而,它的立法拼凑在一起,较少强调数据保护和隐私。在欧盟和英国的背景下,尤其当考虑到欧盟的一般数据保护条例(GDPR)和隐私设计(PbD)的法律焦点时,责任要求的发展一直是一个关键的焦点。然而,在全球范围内,没有标准化的人权框架和监管要求可以轻松应用于FRT的推出。本文讨论了在这些领域中发挥作用的伦理和监管维度的复杂性,包括考虑数据保护和人权框架。报告的结论是,数据保护影响评估和人权影响评估,以及提高透明度、加强监管、加强审计和解释FRT的使用以及在个别情况下的应用,将改善FRT的部署。此外,报告还列出了十个关键问题,认为要想更广泛地成功开发和部署FRT和AI,需要回答这些问题。有人建议,这些问题应该由立法者、政策制定者、人工智能开发人员和采用者来回答。
欧盟和英国在执法背景下的FRT立法格局
目前在欧盟和英国领域没有具体的FRT立法,但有其他立法规定了FRT的管理和推出。在个人数据管理方面,2018年生效的欧盟GDPR覆盖所有欧盟成员国,被视为为个人数据管理设置了最高水平的标准。因此,对于许多在全球范围内运营的科技公司来说,在所有全球业务中推广已被视为事实上的标准。需要注意的是,当GDPR生效时,虽然英国是欧盟的一部分,但它被纳入了英国国内立法,并在英国的背景下继续适用。英国在与欧盟GDPR保持一致方面是否足够,将继续由欧盟来判断。
GDPR要求系统实现“设计隐私”(PbD)和“默认隐私”内置任何个人数据处理。处理包括任何与个人数据有关的活动,包括创建、接收、共享,甚至销毁/删除个人数据。个人数据处理必须有明确的合法基础,此外,数据处理必须公平和透明。在此背景下,重要的是要理解,这并不会阻止个人数据收集,但确实需要仔细记录过程和随着时间的推移积极的个人数据管理。此外,必须指出,被认为是公平和合法的东西可能会有解释和法律辩论和辩论的余地。在某些情况下,处理需要征得同意。此外,还有特定的数据主体权利,例如在某些豁免的情况下,有权知道你持有的/关于你的东西,以及在某些情况下要求更正或删除数据(被遗忘的权利)。
美国在执法背景下的FRT伦理和立法环境
考虑到欧洲的监管框架,在部署FRT之前确保一些形式的伦理考虑,我们现在转向一个更分散的立法领域:美利坚合众国(USA)。在美国,FRT被执法部门大量使用,影响了超过1.17亿成年人,超过该国总人口的三分之一。FRT的推广非常广泛,但如果它被滥用,普通市民要追究运营商责任的手段非常有限。美国是最早采用信息自由法的国家,于1966年通过了《联邦出版信息法》,此后各州也相继通过了相关法律。这一套立法规定,国家当局在收到信息自由要求时,应对其政策和行动负责。这不会对私营公司产生影响,因为它们不会以同样的方式承担责任。此外,出于执法和国家安全的目的,立法中有某些豁免。有一些特定行业的隐私法,比如儿童上网,但没有类似GDPR的全面数据保护法。这些联邦法律随后由联邦贸易委员会(federal Trade Commission)执行,该委员会拥有保护消费者免受欺诈行为的极其广泛的授权;然而,它与欧洲国家的数据保护当局[26]没有可比性。如此大规模的FRT推出,却没有监管机构/监察员进行调查,这令人担忧,因为它依赖于个人的法律行动来揭发错误行为。此外,各州之间存在相当大的差异,而且明显缺乏对透明度的要求或呼吁。
这种对个人行为的依赖源于缺乏任何联邦(或州)数据保护机构的美国。这意味着,没有一个机构会积极地代表和保护公民的利益,同时拥有国家的法律和监管权力。此外,正如我们所看到的,数据保护当局可以代表公民进行干预,并在不启动法庭程序的情况下执行决定;在美国,这是不可能的——任何关于FRT和相关个人数据的冲突都必须在法庭上进行听证,这就需要漫长而昂贵的法庭斗争(这就是为什么公民代表如此重要)。因此,个人往往不得不向非营利组织寻求法律支持;那些无法确保其安全的人可能根本无法让FRT运营商或供应商承担责任。