AI治理：构建安全、公平的人工智能实践

01 什么是人工智能治理

人工智能治理是指组织为确保人工智能实例安全、公平且正确使用而实施的一系列规则和检查措施。在数据管理方面，它确保人工智能系统使用高质量、合规的数据，并辅以人工对关键决策进行复核，形成“人机协同设计”的治理模式。

02 人工智能治理的新趋势

在构建数据成功计划时，我们涵盖所有权、管理、目录、术语表、质量等多个方面。如今，通过人工智能治理，我们将纳入记录的用例、风险评级系统、模型清单等更多内容。文化转变的难度相对较小，因为如果你的组织已实现数据驱动的决策，那么引入人工智能将是一个循序渐进的过程。

03 起始点：从何处开始

成功的关键在于明确起点。我们建议从最简单的入手，如数据科学家向高层汇报的机器学习项目。虽然数据准备和职责分配不易，但我们的目标是确保从数据和治理角度保证项目成功。

因此，首先确定适用的框架，如NIST AI风险管理框架、IEEE伦理一致性设计等。没有万能解决方案，需认真考虑并随时调整方向。同时，避免外部意见干扰内部决策。

我喜欢简单明了，目前正在设计和实施AI治理方案。欢迎读者决定并分享尝试方法或着手方式，评论区已开放，让我们互相学习。

04 我的AI治理框架概览

目标简化流程，特别是推广应用方面。我将在中央目录中整合数据治理未涉及的内容。目录是构建框架模型的理想场所，可视化模板帮助清晰思考和保护内容。

我的AI治理框架包含以下细节：模型名称、描述、所有者等基本信息；用途和范围，如商业案例、目标受众等；技术细节，如模型类型、架构等；以及操作细节，如部署、监控等。

05 信息存放何处？

我为每个模型创建AI模型卡或参考，使用我的框架构建模板。管理工作可能由其他部门完成，但所有流程和程序需记录在目录中。

接下来该做什么？

明确问题并详细介绍物理模型信息后，进入目标和范围部分。团队成员需详细了解AI模型的商业案例，而不仅是简短描述。希望看到一个包含问题、解决步骤等的故事。

了解解决方案的目标用户和使用场景标准。记录允许和不允许的操作，并解释限制原因。添加关键性和风险等级，解释模型问题对组织的损害程度。

06 人工智能模型卡

技术细节包括模型类型、架构、数据信息等。类型部分说明模型类型和行为方式；架构部分说明模型构建方式和物理架构；数据信息部分介绍训练数据和任何局限性。

类型

说明模型类别和特性，如大型语言模型等。这些决定风险承受能力和控制要求。

架构

描述模型所基于的物理架构和开发生命周期等。使用行业标准框架有助于设计。

数据信息

详细介绍训练数据和任何局限性，支持数据溯源和合规性审查。

初始基准测试结果

提供基线并给出模型性能的初步预期。

当前基准测试

维护当前分数并与预期基准比较。建议限制记录数量以保持简洁。

性能特征

描述模型在正常情况下的表现，如用户对响应质量的感知评分等。

稳健性和压力测试

说明模型在异常情况下的行为，如提示变化敏感度等。

偏见检验与公平信号

确保模型不偏向任何一方并保持平衡。提供偏差评估的工具和方法名称。

模型局限性

提供关于模型不可信情况的信息，如已知故障模式等。

护栏和控制

阐述如何积极控制和降低风险。解释我们在提示约束等方面所采取的措施。