AI 伦理简介

AI 伦理是一种正向驱动力，能够产生许多积极的影响，包括减少偏见、消除可及性障碍、提升创造力等。随着各组织越来越多地依赖 AI 来制定影响人类生活的决策，审慎考虑其复杂的伦理影响变得至关重要。原因在于，AI 滥用不仅危害个人与社会，还会对企业利润与声誉造成不利影响。

本文将探讨：

• 通用的 AI 伦理准则、术语及定义
• 组织如何制定 AI 伦理准则
• 谁应对 AI 伦理负责
• 如何实施 AI 伦理培训、治理和技术流程
• 合乎伦理的 AI 用例与实施
• AI 伦理领域的一些先锋机构

AI 伦理准则示例

无论何时，人类福祉都应是 AI 伦理议题的核心。尽管 AI 系统可以内置道德伦理优先机制，但最终仍需人类把关，确保其设计应用符合伦理，并在必要时进行干预。

目前尚未形成一套公认的 AI 伦理准则。许多组织和政府机构会与伦理学、法律和 AI 领域的专家合作，共同制定指导原则。AI 伦理准则通常涉及以下方面：

• 人类福祉与尊严：AI 系统应始终将个人的幸福感、安全与尊严放在首位，既不取代人类，也不损害人类利益
• 人工监督：AI 的开发与使用每一步都需要人类的监控（这种机制有时称为“人工介入”），旨在确保最终的伦理责任由人类承担
• 消除偏见与歧视：设计流程应优先考虑公平性、平等性与代表性原则，消除 AI 中的偏见与歧视
• 透明性与可解释性：AI 模型的决策过程及结果产出应当以清晰易懂的方式进行解释和公开
• 数据隐私与保护：AI 系统必须符合最严格的数据隐私与保护标准，采用强有力的网络安全措施，防止数据泄露或未经授权访问
• 促进多元与包容：AI 技术应体现并尊重人类身份和经验的多元性
• 社会与经济：AI 应有助于推动社会进步和全民经济繁荣，而不是助长不平等或不公正行为
• 提升数字化技能与素养：AI 技术应尽可能对所有人开放且易懂，无论个人的技术背景如何
• 企业健康发展：AI 商业技术应助力企业加快业务流程，最大限度提高效率，并推动业务增长

AI 伦理术语与定义

AI 伦理是伦理学与高科技的交叉领域，因此关于 AI 伦理的讨论常涉及这两个领域的术语。理解这些术语对于探讨 AI 伦理话题至关重要：

• AI：指机器执行人类思维相关认知功能的能力，如感知、推理、学习和解决问题。AI 系统主要分为两种类型，部分系统为两者的结合体：

  • 基于规则的 AI（即专家 AI）依照人类专家制定的一整套明确规则运作。例如，许多电商平台使用基于规则的 AI 提供产品推荐
  • 基于学习的 AI根据人类预设的初始配置和训练数据集，自主解决问题并动态调整功能。生成式 AI 工具就是一种基于学习的 AI

AI 伦理：一套基于公认道德标准的价值观、原则和技术方法，用于指导 AI 开发、部署、使用和销售过程中的道德行为。

AI 模型：由人类创建并基于数据进行训练的数学框架，支持 AI 系统执行一系列特定任务，包括识别模式、制定决策和预测结果。常见应用包括图像识别、语言翻译等。

AI 系统：由算法和模型组成的复杂结构，旨在模拟人类推理方式并自主执行任务。

能动性：个体独立行动和自主选择的能力。

偏见：对某个人或群体持有倾向性或成见，尤指一些不公平的情况。训练数据中存在的偏见（如涉及特定群体的数据代表性不足或过多）会导致 AI 产生偏见性行为。

可解释性：回答“机器如何得出其输出结果”的能力。可解释性涉及 AI 系统的技术层面，比如其运行机制、规则、算法和训练数据。

公平性：无偏倚、公正的行为或处理方式，没有不公正的偏袒或歧视。

人工介入：人类能够在 AI 系统的每个决策周期中进行干预。

可解读性：指人类能够理解 AI 系统输出结果在现实情境中的影响，例如使用 AI 审批贷款。

大型语言模型 (LLM)：一种常用于文本识别和生成任务的机器学习技术。

机器学习：AI 的一个分支，使系统无需显式编程即可自动从经验中学习和做出改进，并适应新数据。

规范性：实践伦理学中的核心概念，关注个人或机构在特定情境下“应当”或“应该”采取的行动。

透明性：与可解释性概念相关，指能够说明 AI 系统如何以及为何被开发、实施和使用，并使相关信息对公众可见且易于理解。

如何实施 AI 伦理准则

对于组织而言，合乎伦理地使用 AI 不仅意味着推行 AI 伦理准则，更重要的是将这些准则融入所有 AI 技术性和运营性流程。尽管对快速采用 AI 技术的组织来说，集成 AI 伦理实践看似繁琐，但现实中因 AI 模型设计和使用不当造成损失的案例屡见不鲜，这表明忽视适当的伦理规范可能带来极高的风险与成本。

谁应对 AI 伦理负责？

简而言之，所有参与 AI 的相关方都应对 AI 伦理负责，包括企业、政府、消费者和公众。

不同角色在 AI 伦理中的职责

• 开发人员与研究人员在构建 AI 系统时发挥关键作用，负责确保系统优先考虑人的能动性与监督权、解决偏见与歧视问题，并具有透明性与可解释性。
• 政策制定者与监管机构负责制定相关法律法规，以规范 AI 伦理，保护个人权利。
• 企业与行业领导者负责确保其组织遵循 AI 伦理准则，以促进 AI 对社会产生积极影响。
• 民间组织负责倡导以合乎伦理的方式使用 AI，参与监督过程，并为受影响的群体提供支持。
• 学术机构负责开展相关教育与研究，并制定伦理指南，推动 AI 伦理不断发展。
• 最终用户与受影响用户（如消费者和公众）有责任确保 AI 系统具有可解释性、可解读性、公平性和透明性并且有益于社会。

企业领导者在 AI 伦理中的职责

许多企业都设立了由高管牵头的委员会来制定 AI 治理政策。例如，在 SAP，我们组建了由伦理和技术专家组成的顾问小组和 AI 伦理指导委员会，将我们的 AI 伦理准则融入产品与运营的各个环节。SAP 伦理原则重点关注以下方面：

• 适度性和无害性
• 安全和安保
• 公平和非歧视
• 可持续发展
• 隐私权和数据保护
• 人类的监督和决定
• 透明性和可解释性
• 责任和问责
• 认知和技术素养
• 多利益攸关方与适应性治理和协作

设立 AI 伦理指导委员会

设立指导委员会是规范企业 AI 伦理管理的关键举措，有助于落实高层问责与监督机制。该委员会致力于确保伦理考量贯穿于 AI 开发和部署的全过程。

设立 AI 伦理指导委员会的卓越实践

• 成员构成与专业背景：吸纳具备 AI、法律和伦理学专业知识的多元化利益相关者。外部顾问可提供客观中立的专业视角。
• 明确宗旨与职责范围：清晰界定委员会的使命和目标，聚焦符合伦理的 AI 设计、实施与运营规范，确保其符合企业核心价值观，同时贯彻公平、透明及隐私保护原则。
• 定义角色与责任：明确成员的具体职责，例如制定 AI 伦理政策、为 AI 项目提供伦理咨询，以及确保符合相关法规要求。
• 设定目标：设定明确且可衡量的目标，例如开展 AI 项目年度伦理审计，以及按季度组织开展 AI 伦理培训。
• 建立流程机制：建立运营机制，如会议安排、文档标准与沟通机制，确保工作流程公开透明。
• 持续教育与动态调整：定期开展培训并召开会议，及时了解 AI 技术、伦理规范及相关法规的最新发展。

制定 AI 伦理政策

制定 AI 伦理政策是规范组织内部 AI 项目的关键举措。在此过程中，AI 伦理指导委员会起到了重要作用。凭借多元化的专业知识背景，委员会需确保伦理政策符合法律法规、行业标准以及普世伦理准则。

制定 AI 伦理政策的示例方法

• 起草政策雏形：首先制定一份反映企业核心价值观、法律要求和卓越实践的政策。这份草案将作为后续修订的基准框架。

• 咨询与意见征集：广泛征询内外部利益相关方的意见，包括聆听 AI 开发人员、企业领导者和伦理学家的专业意见，确保政策内容全面且综合多方立场。

• 融合跨学科观点：依托委员会成员的多元化背景，融合技术、伦理、法律及商业领域的专业见解，确保能够处理复杂的 AI 伦理问题。

• 界定高风险与红线应用场景：为了确保边界清晰，委员会应明确界定哪些 AI 应用存在重大风险或被视为违反伦理规范，需要予以禁止。例如，SAP 指导委员会明确定义了：

  • 高风险场景：此类场景包括可能造成伤害的 AI 应用，包括与执法、移民及民主进程相关的 AI 应用，以及涉及个人数据、自动决策或影响社会福祉的应用。此类应用在开发、部署或销售前，必须经委员会全面评估。
  • 红线场景：支持人类监控、涉及歧视、导致数据去匿名化（导致个人或群体被识别），以及操控舆论或破坏民主讨论的 AI 应用场景均被禁止。SAP 认为这些 AI 用例极不道德，因此严禁其开发、部署和销售。

• 审查与修订：根据反馈持续审查和修订政策，确保其与时俱进并切实可行。

• 终审与批准：将政策文件最终版本提交决策层（如董事会）审批，同时附上委员会的强力推荐意见。

• 政策实施与持续监督：委员会应监督政策的落实情况，并依据技术与伦理领域的最新进展，对政策内容进行适时修订。

建立合规审查流程

制定高效的合规审查流程至关重要，有助于确保 AI 部署符合企业的 AI 伦理政策和监管要求。合规审查流程能有效增强用户和监管机构的信任，同时降低风险，确保 AI 项目恪守伦理准则。

典型的合规审查流程

• 建立标准化审查框架：建立综合评估体系，明确评估 AI 项目时所依据的伦理准则、法律标准和运营要求。
• 风险分类：根据伦理和合规风险，对 AI 项目进行分类。例如，高风险项目（如涉及敏感个人数据或影响重大决策的项目）需实施严格审查。
• 定期审计与评估：将自动化检测与跨学科团队的人工审核相结合，定期开展合规审计，确保持续合规。
• 利益相关方参与：邀请多元利益相关方参与审查流程，包括伦理学家、法律专家、数据专家和最终用户，排查潜在风险与伦理冲突。
• 文档记录与透明度：详细记录所有合规活动，确保在内外部审计中都清晰可查
• 反馈与上报机制：设立明确机制，用于报告和解决伦理风险及合规问题。

AI 伦理实践的技术实施

要将伦理考量融入 AI 开发，就必须调整现有技术实践，确保以负责任的方式构建和部署系统。除了通用的 AI 伦理准则外，企业有时还会制定“负责任 AI 准则”，更有针对性地聚焦其所属行业及具体的技术应用场景。

符合伦理的 AI 系统的关键技术要求

偏见检测与修正：采用多样化数据集与统计算法，检测并修正 AI 模型中的偏见。定期开展偏见审查。

透明性与可解释性：开发易于用户理解和验证的系统，采用特征重要性评分、决策树及模型无关解释等方法，提高透明度。

数据隐私与安全：确保 AI 系统中的数据得到安全管理，并符合相关隐私法规。系统必须使用加密和匿名化技术以及安全协议来保障数据完整性。

稳健可靠的设计：AI 系统的设计必须稳健、可靠，能够在不同条件下稳定运行，并通过大量测试与验证，可有效应对突发情况。

持续监测与更新：持续监控 AI 系统的性能与伦理合规情况，并根据最新数据或环境变化，及时更新系统。

利益相关方参与和反馈：在 AI 系统的设计和开发过程中，征集最终用户、伦理学家及领域专家的反馈意见，确保系统符合伦理和运营要求。

在组织中开展 AI 伦理培训

综合全面的 AI 伦理培训 对于确保员工深入理解 AI 伦理准则并能够负责任地使用 AI 技术至关重要。培训还有助于提升组织内 AI 工具与解决方案的完整性和有效性。

高效 AI 培训课程的关键组成部分

• 全面的课程开发：构建全面的课程体系，涵盖 AI 基础知识、伦理考量、合规问题及实际应用等，并根据学员在组织中的角色（从技术人员到高管）量身定制培训内容。
• 基于角色的培训模块：根据不同部门的具体职责和需求，量身定制培训模块。例如，开发人员可重点学习符合伦理的编码实践，销售和市场营销人员则应着重了解 AI 在客户互动中的影响。
• 持续学习与更新：鉴于 AI 技术发展迅速，因此必须持续更新培训内容，紧跟最新趋势与卓越实践。
• 交互式实操学习体验：通过案例研究、模拟练习和研讨会等方式，展示实际应用与伦理挑战，以实践经验强化理论知识。
• 评估与认证：建立考核机制，评估员工对 AI 伦理知识的理解和掌握程度，并考虑颁发认证来表彰学习成果，鼓励学员不断进步。
• 反馈机制：设立反馈机制，鼓励员工提出宝贵意见，助力持续优化培训计划，确保培训内容满足组织不断变化的需求。

组织中不同角色的 AI 伦理用例

所有使用 AI 应用或 AI 问答引擎的人员都应警惕 AI 偏见风险，并以负责任的方式开展工作。以下是企业中不同角色或部门的 AI 伦理用例：

• 数据专家或机器学习工程师：建议采用偏见检测与纠正方法，确保模型可解释，并不断提升其性能。这需要用到公平性指标和反事实分析等技术。
• 产品经理或业务分析师：其在 AI 伦理方面的职责包括开展伦理风险评估、优先采用以用户为中心的设计，以及制定清晰的沟通策略，帮助用户和利益相关方理解 AI 系统的运行机制。这一过程需综合考量潜在的社会影响与用户需求，并通过提升透明度来建立信任。
• 法务与合规部门：关键用例包括确保遵守相关法律法规（如数据隐私法）、管理与 AI 相关的法律风险和声誉风险，并制定适当的策略，以应对算法偏见或意外后果可能引发的责任问题。
• HR 专业人员：HR 部门应使用无偏见且符合反歧视法的基于 AI 的招聘工具。具体任务包括审计算法、引入人工介入机制，并开展 AI 招聘相关伦理培训。

AI 伦理领域的权威机构

AI 伦理议题具有一定的复杂性，受不断变化的法律法规标准、行业实践和技术进步的影响。组织必须及时了解可能影响自身的政策变化，并携手相关利益相关方，共同确定适用的政策。下面虽然没有详尽无遗地列出所有相关资源，但可为企业提供参考方向，帮助其根据所在行业和地区的情况，了解相关政策。

AI 伦理领域的权威机构与资源

非洲经济转型中心 (ACET)“Artificial Intelligence for Economic Policymaking”（AI 赋能经济政策制定）报告：非洲经济转型中心发布的这份研究报告评估了 AI 的经济效益与伦理风险，旨在为非洲各国制定具有包容性和可持续性的经济、金融及产业政策提供指引。

AlgorithmWatch：该人权组织倡导遵循 AI 伦理规范，致力于开发技术工具，确保算法系统的设计与应用符合民主、法治、自由、自主、公正与平等的原则。

东盟“Guide on AI Governance and Ethics”(AI 治理与伦理指南)：为东南亚国家联盟（ASEAN）成员国提供实用指南，指导各国以符合伦理且高效的方式设计、开发和部署 AI 技术。

欧盟“AI Watch”(AI 观察)：欧盟联合研究中心 (Joint Research Centre) 发布的报告，旨在指导构建值得信赖的 AI 系统，包括提供国家或地区特定的报告和仪表板帮助监测 AI 在欧洲的发展、采用和影响。

美国国家电信与信息管理局 (NTIA)“AI Accountability Repor”(AI 问责报告)：由美国国家电信与信息管理局发布的报告，提出一系列自愿性和强制性举措及其他措施，旨在促进美国建立合法且可信的 AI 系统。

经合组织 (OECD)“AI Principles”(AI 准则)：该多方论坛汇聚了成员国及利益相关方，致力于构建可信的AI 体系。2019 年，其推动制定了“OECD AI Principles”(经合组织 AI 准则) ，这是全球首个政府间 AI 准则，同时也为二十国集团（G20）AI 准则提供了范式基础。

联合国教科文组织 (UNESCO)《人工智能伦理问题建议书》(Recommendation on the Ethics of Artificial Intelligence)：由联合国机构制定的建议框架，经过为期两年的全球专家与利益相关方磋商，现已被 193 个成员国采纳。

结语

总之，若要确保 AI 开发与部署符合伦理，需要多措并举。组织应制定清晰的伦理准则，将其纳入 AI 开发流程，并通过健全的治理与培训机制，确保持续遵守这些准则。通过重点贯彻公平、透明和问责等以人为本的价值观，企业能够以负责任的方式充分利用 AI 的强大功能，在推动创新的同时降低潜在风险，并确保这些技术惠及整个社会。

阅读文章