警惕缺乏明确规则的 AI：谁在监督算法？

人工智能不再是一项实验性技术。在家中，我们会阅读有关 AI 的内容、咨询 AI、质疑 AI 的使用方式，并不断寻找优化其功能的方法。企业中也发生着类似的变化：AI 正积极参与信贷审批、欺诈检测、定价、文字、图形和视听内容的创作、业务流程自动化、客户服务以及许多其他与专业职能相关的决策。

然而，关于如何对这些决策进行监管、控制和审计的讨论，并未以同样的速度推进。这种情况既发生在各个组织内部，也发生在国家和全球层面。

这带来了诸多后果（本文将不对此进行探讨），我想重点关注算法治理，因为它是声誉、合规和竞争优势的关键因素。

算法治理可以定义为一套流程、政策和监督机制，使组织能够管理 AI 模型的生命周期。如果我们希望并期望这些模型能够影响组织内部的财务、合同或业务决策，那么了解它们的运作方式以及应如何对其进行治理就显得尤为重要。

当然，这个问题因行业而异。例如，在银行、保险和医疗等行业，AI 模型可以决定谁能获得贷款批准、为客户分配何种风险等级，以及更多内容。从战略角度而言，了解每个模型背后的逻辑及其偏见至关重要。这包括了解数据的来源、质量、代表性，以及如何监控数据以确保其符合每个组织旨在坚持的标准。

因此，算法治理与监管合规密切相关，但它也有助于减轻更细微的风险——即在任何违规行为实际发生之前就可能出现的风险。这就是数据可追溯性如此重要的原因：组织需要了解他们正在自动化的决策背后的逻辑。

《拉丁美洲人工智能指数》(ILIA 2025) 通过评估制度框架、国际参与和监管框架，分析了该地区 19 个国家的 AI 现状，凸显出我们所在地区的高度分散性。

在采用过程中，实际情况各不相同，也面临诸多尚待解决的挑战，但核心问题在于公开承诺与实际成熟度之间存在差距。随着企业寻求扩大 AI 解决方案的规模，它们会遇到资金不足、基础设施瓶颈和缺乏全球标准等问题。

巴西、智利和乌拉圭等国家制定了具有长期愿景的战略。然而，根据 ILIA 2025，该地区约有七个国家尚未制定 AI 发展路线图。即使在已制定战略的国家中，也很少在分配预算或制定有效监管的行动计划方面取得重大进展。

鉴于这一背景以及政府监管的滞后，世界经济论坛 (WEF) 建议，治理应从组织内部开始。业务领导者不能坐等具体法律出台；必须将数据治理列为优先事项。

面对 AI 自噬的风险（即模型在 AI 生成的数据上进行训练时性能下降），企业需要优先考虑数据溯源系统，以确保构建有机、可靠的信息结构，并将其融入日常运营中。上述 WEF 报告指出，随着真实数据与合成数据之间的界限日益模糊，信任将越来越依赖强有力的治理。

将信任视为战略资产是第一步。能够展示其模型如何运作、如何管理控制措施以及如何降低风险的企业，将最有能力利用 AI 的力量实现规模化发展。根据 WEF 报告，信任正成为 AI 推广应用的真正制约因素，而 81% 的企业仍处于实施负责任治理实践的早期阶段。

随着该地区向全球标准迈进，拉丁美洲企业有机会通过创造建立信任和合法性的新途径来确立自身地位。治理既是一个社会问题（关乎信任），也是一个技术问题，由数据中心和基础设施提供支持。数据可追溯性和溯源系统与参与式治理相结合，有助于增强参与度并提升合法性。

一旦建立信任，组织便可安全地利用合成数据——由 AI 模型生成、可与现实世界数据结合的数据。其应用可成为创新引擎，助力企业实现长期规模化发展。

例如，可以使用合成数据来复制真实世界数据中发现的统计模式，而不会泄露个人信息。它还可以帮助解决代表性不足的人口群体、健康状况或其他因素，从而改善金融领域的公平性。通过这种方式，组织可以开发模型并运行模拟，从而加速创新，同时降低使用真实世界数据所带来的风险。

为了保持这种优势，投资数据溯源和可追溯性系统必须成为企业的优先事项。这些功能有助于降低现有偏见被放大或模型随时间推移而性能下降的风险。如果组织想要快速扩展，就必须确保数据尽可能高效地流动。

一家积极实施透明机制的企业会立即脱颖而出。许多拉丁美洲企业向全球价值链提供服务，或本身就是全球价值链的一部分，因此需要能够展示其如何治理和控制其使用的 AI 系统。

全球制药公司、领先的国际银行或跨国公司不太可能将关键流程委托给缺乏可解释性和监督机制，也无法检测错误、纠正错误并启动相应处理机制的服务提供商。以 Natura 为例，它致力于在各个业务领域和供应商之间实现信息民主化，从而在不忽视治理的前提下实现更大的可扩展性。该公司明白，如果数据无法追溯，其价值就极其有限。

虽然其他竞争对手可能受到数据访问限制或监管方面的制约，但这些组织将拥有一个安全的平台，可以在该平台上进行试验、训练模型和开发新服务。建立在信任基础上的竞争优势是实现可持续增长和真正创新的最佳途径——这正是未来所需要的企业。