人工智能治理：构建安全、公平、高效的AI框架

01 人工智能治理的奥秘

人工智能治理是一套规则与检查体系，旨在确保AI实例的稳健性、公平性与合规性。在数据层面，它确保AI运用优质、合规的数据，并辅以人工复核重大决策，实现“人机协同”的治理目标。

02 人工智能治理的新篇章

在数据成功计划框架下，我们囊括了所有权、管理、目录、术语表等核心要素。如今，通过人工智能治理，我们将记录用例、风险评级、模型清单等，并引入更多策略与伦理规范。文化转变的阻力将小于之前的数据计划，因为数据驱动的决策已深入人心。

03 起点：从哪里开始

成功的起点总是令人好奇。从最简单的入手，我们的数据科学家已向高层汇报了机器学习项目，并渴望迅速实施。尽管数据准备与角色分配绝非易事，但我们的职责在于确保项目在数据与治理层面取得成功。

建议首先确定使用框架，无论是NIST AI风险管理框架、IEEE伦理一致性设计，还是欧盟可信AI伦理指南等。如同数据治理，没有万能解决方案，需认真考虑并随时调整方向。此外，外部意见仅供参考，无需盲从。

我热衷于简单明了，因此边设计边撰写此文。欢迎你们决定并分享尝试方法或着手方式。评论区已开放，让我们共同学习。

04 我的AI治理框架全貌

目标在于简化流程，特别是在推广应用方面。因此，我关注数据治理中未触及的方面，并整合至中央目录。目录是构建框架模型的理想场所，可清晰展示与保护所需内容。是否向企业开放目录部分访问权限或调整权限，我们稍后再议。

我的AI治理框架涵盖以下物理细节：模型名称、简短描述、所有者、管理员等。用途与范围包括商业案例、目标受众等。技术细节涉及模型类型、数据信息等。操作部分涵盖部署详情、监控等。

05 信息存放何处？

在中心目录中，我希望为每个模型展示AI模型卡或参考。利用我的框架构建模板。部分管理工作可能由其他部门完成，但为消除管理孤岛，请务必记录所有流程和程序于目录中。

下一步：我们该如何行动？

在明确显而易见的问题并介绍物理模型信息后，我们进入目标与范围部分。团队成员需更详细了解AI模型的商业案例。希望看到包含问题、解决方案等的故事。可根据需要添加更多要求，如问题持续时间。最终成功取决于你们。

接下来，我想知道解决方案的目标用户是谁。谁会使用新AI工具/模型？它如何助人？记录使用场景标准，如允许的操作等。提供操作限制的解释，否则可能遭遇质疑。对于喜欢折腾的人来说，这部分内容正合适。

为AI模型添加关键性与风险等级。这与物理安全级别不同，后者告知最高数据分类。关键性分类则告知模型问题对组织的损害程度。可采用简单的低、中、高分类。

低风险对组织声誉几乎无损害，而高风险可能意味着需寻找新工作。高风险可能包括泄露个人身份信息(PII)、商业机密等。风险指标将解释选择此等级的原因。

06 AI模型卡详解

技术细节涵盖模型类型、架构等。类型部分需说明AI类型与行为方式。架构部分需指定物理架构与开发生命周期等。

类型

说明AI类型与行为方式至关重要。需指定模型类别与特性，如大型语言模型(LLM)等。

架构

描述模型构建方式与物理架构。需提及托管云等。

数据信息

详细介绍训练数据等。需注明数据最高安全级别与来源。

初始基准测试结果

提供基线并给出模型性能预期。需包含任务有效性等指标。

当前基准测试

维护当前分数以便比较。可记录历史数据但建议限制数量。

性能特征

描述模型正常表现。需查看用户对响应质量的感知评分等指标。

稳健性与压力测试

说明模型在异常情况下的行为。记录对提示变化的敏感度等指标。

偏见检验与公平信号

确保模型无偏见并保持平衡。记录偏差评估工具与结果。

模型局限性

提供模型不可信情况的信息。介绍已知故障模式与幻觉模式等。

护栏与控制

“技术细节”最后部分阐述风险控制措施。解释我们在提示约束等方面所采取的措施。