人工智能(AI)已经并将继续改变我们的生活。人工智能正在自动驾驶、医疗、媒体、金融、工业机器人、互联网服务等越来越多的领域和场景中得到应用。人工智能的广泛应用及其与经济社会的深度融合，提高了效率，产生了效益。与此同时，它也不可避免地会影响现有的社会秩序，引发伦理问题。AI系统带来的隐私泄露、歧视、失业、安全风险等伦理问题给人们带来了极大的困扰。因此，AI伦理学这一与AI伦理问题研究相关的领域，不仅成为学术界的重要研究课题，也成为个人、组织、国家和社会共同关注的重要课题。本文将从总结和分析人工智能带来的伦理风险和问题、不同机构发布的伦理指南和原则、解决人工智能伦理问题的方法、评估人工智能伦理的方法等方面对该领域进行全面的概述。此外，本文还指出了在人工智能中实施伦理的挑战和一些未来展望。我们希望我们的工作能够为该领域的研究人员和从业者，尤其是该研究学科的初学者，提供一个系统和全面的AI伦理概述。
本文主要涉及如下四个方面的内容：
1）人工智能伦理问题和风险。现有人工智能伦理问题和风险，并提出了人工智能伦理问题的新分类。提出的新分类有助于识别、理解和分析人工智能中的伦理问题，然后开发解决这些问题的解决方案。此外，还讨论了与AI系统生命周期不同阶段相关的伦理问题。
2）人工智能伦理指南和原则。全球范围内公司、组织和政府发布的146个人工智能伦理指南文件，介绍了最新的全球人工智能伦理方针和原则。这些指导方针和原则为人工智能的规划、开发、生产和使用以及解决人工智能伦理问题的方向提供了指导。
3）人工智能伦理问题的解决路径。解决人工智能伦理问题的多学科方法，包括伦理、技术和法律方法。这不仅对伦理人工智能的实践进行了总结，而且还从各种角度提出了针对AI伦理问题潜在的不同解决方案，而不是仅仅依赖于技术方法。
4）人工智能伦理的评估方法。测试或评估人工智能系统是否符合伦理要求的方法。
3. 人工智能伦理问题和风险
要解决人工智能的伦理问题，首先需要认识和理解人工智能所带来的伦理问题和风险。人工智能的伦理问题通常是指与人工智能相关的伦理（或道德）上的坏事或有问题的结果（即人工智能的开发、部署和使用所引发的这些与伦理道德相关的问题和风险）。现有的应用和研究中已经发现了许多伦理问题，例如缺乏透明度、隐私和问责制、偏见和歧视、安全和安保问题、犯罪和恶意使用等等。
3.1人工智能伦理问题的分类总结
首先，我们对现有四篇文献中人工智能伦理问题的分类进行介绍，从不同的角度描述了人工智能的伦理问题或问题。其中两个来自政府报告，另外两个来自学术出版物。图分别展示了四篇文献中对AI伦理问题的分类。
3.2我们所提分类：人工智能在个人、社会和环境层面的伦理问题
在上一小节中，我们回顾了文献中对人工智能伦理问题的分类。然而，上述分类存在一些不足。具体而言，基于AI特征、人为因素和社会影响的分类[11]显然忽略了AI对环境的影响，如自然资源消耗和环境污染。基于AI和人类脆弱性的分类[29]忽略了几个重要问题，如责任、安全和环境问题。基于算法、数据、应用以及长期和间接伦理风险的分类[38]忽略了公平、自主和自由、人的尊严、环境问题等方面的考虑。尽管基于AI部署应用的分类[51]比较全面地涵盖了伦理问题，但这种分类过于繁琐，且有些问题（包括责任、安全和可持续性等）也被忽略了。这促使我们进一步分析和梳理人工智能伦理问题，并进行分类。
毫无疑问，人工智能系统主要服务于个人或社会公众。因此，我们可以从个人和社会的角度分析和讨论人工智能伦理问题。同时，作为地球上的实体，人工智能产品不可避免地会对环境产生影响。因此，还需要考虑环境方面相关的伦理问题。所以，在本小节中，我们提出将人工智能伦理问题分为三个不同层次，即个人、社会和环境层面的伦理问题。个人层面的伦理问题主要包括AI对个人及其权利和福祉产生不良后果或影响的问题[69]。社会层面的人工智能伦理问题考虑了人工智能为群体或整个社会带来或可能带来的不良后果[69]。环境层面的人工智能伦理问题关注人工智能对自然环境的影响。
1）个人层面的AI伦理问题
在个人层面，人工智能对个人的安全、隐私、自主和人格尊严产生了影响。人工智能应用给个人安全带来了一些风险。例如，涉及自动驾驶汽车和机器人的人身伤害事故在过去几年中已经发生和被报道。隐私问题是人工智能给我们带来的严重风险之一。为了获得良好的性能，人工智能系统通常需要大量数据，其中通常包括用户的私人数据。但是，这种数据收集存在严重的风险。主要问题之一是隐私和数据保护。此外，如上一小节所述，人工智能的应用可能会给人权带来挑战，例如自主权和尊严。自主性是指独立、自由且不受他人影响的思考、决定和行动的能力[70]。当基于人工智能的决策在我们的日常生活中被广泛采用时，就存在限制我们自主权的巨大危险。作为主要人权之一的人的尊严是关于一个人受到尊重和以合乎道德的方式对待的权利[71]。在人工智能的背景下，保护尊严至关重要。人的尊严应该是保护人类免受伤害的基本概念之一，在开发人工智能技术时应该受到尊重。例如，致命的自主武器系统[72]可能违反人类尊严原则。
2）社会层面的AI伦理问题
在考虑社会层面的人工智能伦理问题时，我们主要关注人工智能为社会以及世界各地社区和国家的福祉带来的广泛后果和影响。在社会层面的伦理问题分类下，我们讨论公平与正义、责任与问责、透明度、监控与数据化、人工智能的可控性、民主与公民权利、工作替代与人际关系。
人工智能存在偏见和歧视，对公平正义提出了挑战。人工智能中嵌入的偏见和歧视可能会增加社会差距并对某些社会群体造成伤害[70]。例如，在美国刑事司法系统中，用于评估犯罪风险的人工智能算法已被注意到表现出种族偏见[73]。责任意味着对某事负责。为参与者分配责任对于塑造算法决策的治理非常重要。基于这一概念，问责制是对损害负有法律或政治责任的人必须提供某种形式的正当理由或补偿的原则，并通过提供法律补救措施的责任体现出来[70]。因此，应建立机制以确保人工智能系统及其决策后果的责任和问责制。由于人工智能算法的黑盒性质，缺乏透明度已成为广泛讨论的问题之一。透明度，即对人工智能系统如何工作的理解，对于问责制也至关重要。监控和数据化[74]是我们生活在数字化和智能化时代的所面临的问题之一。数据是通过智能设备从用户的日常生活中收集的，这导致我们生活在大规模监控中。随着人工智能的力量迅速增强，人工智能系统的发展必须要保障和确保人工智能系统的人类可控性。其他问题，包括民主和公民权利、工作替代和人际关系，也属于社会层面的问题。
3）环境层面的AI伦理问题
环境层面的人工智能伦理问题关注人工智能对环境和地球的影响。人工智能可以为我们的生活带来很多便利，可以帮助我们应对一些挑战，但它也给地球带来了负担。人工智能的广泛应用往往需要部署大量的硬件终端设备，包括芯片、传感器、存储设备等，这些硬件的生产消耗了大量的自然资源，尤其是一些稀有的元素。此外，在这些硬件的生命周期结束时，它们通常会被丢弃，这可能会造成严重的环境污染。另一个重要的方面是人工智能系统通常需要相当大的算力，这伴随着高能耗。此外，从长远和全球的角度来看，人工智能的发展应该是可持续的，即人工智能技术必须满足人类发展目标，同时保持自然系统提供经济和社会所依赖的自然资源和生态系统服务的能力[2]。综上所述，人工智能发展所涉及的自然资源消耗、环境污染、能源消耗成本和可持续性是环境层面的主要问题和关注点。
我们提出的分类从三个主要层面阐明了AI伦理问题，即人工智能对个人、社会和环境的影响。无论人工智能应用在哪个领域，我们都可以从这三个层面考虑相应的伦理问题。显然，这种分类方法简单明了，全面涵盖了人工智能所涉及的伦理问题。
3.3与人工智能系统生命周期的每个阶段相关的关键伦理问题
在回顾了文献中讨论的伦理问题和风险之后，我们接下来根据人工智能系统生命周期的不同阶段来讨论相关的伦理问题。如果我们知道现有的伦理问题容易由人工智能系统生命周期的哪个阶段或步骤引发，这对我们消除这些问题将大有裨益。这是讨论人工智能系统生命周期各个阶段潜在伦理问题的动机。
基于机器学习的AI系统的一般生命周期或开发过程通常涉及以下阶段[75,76]：业务分析、数据工程、机器学习建模、模型部署以及运作和监控。
来源：
C. Huang, Z. Zhang, B. Mao and X. Yao, "An Overview of Artificial Intelligence Ethics," in IEEE Transactions on Artificial Intelligence, 2022, doi: 10.1109/TAI.2022.3194503.
