📢 转载信息
原文作者：Rachna Chadha and Peter Hallinan
随着人工智能应用的日益复杂，许多构建者都在努力恰当地、负责任地平衡人工智能的益处与风险。鲜有资源能够帮助非专业人士阐明和解决他们必须做出的关键设计决策。然而，情况不必如此。今天，我们宣布推出 AWS Well-Architected 负责任的 AI 镜头（AWS Well-Architected Responsible AI Lens）——一套深思熟虑的问题和相应的最佳实践，旨在帮助构建者在整个开发和运营过程中解决负责任的 AI 问题。该镜头基于我们在帮助客户运行数十万个 AI 工作负载的经验以及负责任的 AI 科学家的经验，为整个 AI 生命周期提供了清晰、可操作的指导。通过在开发早期系统地解决负责任的 AI 考量，团队可以减少代价高昂的后期变更，并加速实现可信赖的生产系统之旅。
什么是负责任的 AI 镜头？
负责任的 AI 镜头 指导构建者完成构建目标 AI 应用程序（而非前沿模型）的端到端生命周期。它旨在帮助构建者做出明智的决策，平衡业务和技术要求，并加快可信赖 AI 系统的部署速度。
负责任的 AI 镜头基于三个设计原则：
- 设计即负责任 (Responsible by design)：在整个 AI 生命周期（从设计到运营）中考虑负责任的 AI 维度，同时强调在生命周期的尽可能早期识别和解决潜在问题。
- 窄化用例范围 (Scope use cases narrowly)：通过从 AI 用例（即要解决的问题）反向工作来制定 AI 系统的规范。用例的范围越窄，识别、缓解和测试 AI 用例及其解决方案可能对利益相关者构成的风险就越简单。
- 遵循科学 (Follow the science)：使用实用、有科学依据的指导来评估和减轻风险，并支持基于证据的发布决策。
下图显示了高层次的设计 (Design)、开发 (Develop)、运营 (Operate) 阶段及其子类别。
如何使用负责任的 AI 镜头
负责任的 AI 镜头组织了八个关注领域，涵盖了 AI 生命周期中的不同步骤。每个关注领域都提供了需要考虑的关键问题，并提供了有助于解决这些问题的最佳实践。给定问题的最佳实践涵盖了相关的负责任的 AI 维度，例如公平性 (fairness)、可解释性 (explainability)、隐私性 (privacy)、安全性 (security)、安全性 (safety)、可控性 (controllability)、真实性 (veracity)、鲁棒性 (robustness) 和透明度 (transparency)。每项最佳实践都包括指导、实施考量和资源。
这八个关注领域有助于：
- 描述用例 (Describe use case) – 定义正在解决的具体问题，验证对 AI 的需求，并确定利益相关者。
- 评估益处和风险 (Assess benefits and risks) – 识别用例在不同利益相关者群体中的潜在益处和风险。
- 定义发布标准 (Define release criteria) – 为 AI 系统的就绪状态设定清晰、可测试的标准。
- 设计数据集 (Design datasets) – 为训练、评估和运营创建高质量的数据集。
- 设计 AI 系统 (Design the AI system) – 将负责任的行为直接植入系统设计中。
- 做出基于证据的发布决策 (Make an evidence-based release decision) – 评估实际的益处和剩余风险，以便根据证据做出明智的发布决策。
- 提供下游指导和透明度 (Provide downstream guidance and transparency) – 通过对预期用途和局限性的清晰解释来支持用户和其他下游利益相关者。
- 管理发布后监控和退役 (Manage post-release monitoring and decommissioning) – 监控系统性能并响应问题。
由于 AI 开发通常是迭代和非线性的，您不需要按顺序处理这些关注领域。但是，我们建议您首先通读所有指导，然后按照最适合您情况的顺序处理各个领域。
谁应该使用负责任的 AI 镜头？
负责任的 AI 镜头服务于在开发和部署负责任的 AI 系统中扮演互补角色的三个受众：
- AI 构建者 (AI builders)，包括工程师、产品经理和科学家，他们负责开发和部署 AI 系统。构建者可以获得关于如何构建工作的指导，以识别和优化特定于 AI 应用的益处与风险权衡。
- AI 技术领导者 (AI technical leaders)，他们负责监督构建 AI 系统的团队，并在企业范围内实施负责任的 AI 实践。领导者可以获得一个框架，用于标准化其平衡投资组合风险和赢得客户信任的方法。
- 负责任的 AI 专家 (Responsible AI specialists)，他们制定组织为遵守适用法规和行业标准所需的特定政策，并与构建者团队合作以满足这些政策。专家们受益于一个基于科学的最佳实践框架，以帮助他们制定和实施组织内部与 AI 相关的政策。
入门
要开始使用负责任的 AI 镜头，请使用GitHub 存储库中提供的最佳实践指导。创建或选择一个 AI 工作负载，从可用的自定义镜头中添加负责任的 AI 镜头，然后开始处理与您的开发阶段相关的关注领域。
将此镜头用于新的 AI 项目或帮助增强现有系统。请联系您的 AWS 解决方案架构师或客户经理，以获取有关将这些实践应用于您的特定用例的指导。
AWS Well-Architected 负责任的 AI 镜头的发布，标志着我们在长期致力于帮助组织负责任地利用 AI 进行创新方面迈出了重要一步。结构化的指导和实用的工具将帮助您驾驭 AI 开发的复杂性，提高益处，降低风险，并避免代价高昂的后期变更。
负责任的 AI 镜头体现了 AWS 团队间的合作——从将基于证据的实践方面的深厚专业知识带来的负责任的 AI 科学家，到贡献了与跨行业客户合作见解的解决方案架构师。他们共同的视角塑造了能够应对现实世界 AI 开发挑战的实用指导。
有关相关阅读，您可以探索 AWS Well-Architected 框架和其他镜头文档，包括 AWS Well-Architected生成式 AI 镜头和机器学习镜头，它们为 AI 实施提供了补充性指导。
关于作者
Rachna Chadha 是 AWS 的首席技术专家，致力于帮助客户利用生成式 AI 解决方案推动业务价值。凭借数十年来帮助组织采用和实施新兴技术的经验，特别是在医疗保健领域，Rachna 对人工智能的道德和负责任使用充满热情。她相信 AI 有潜力创造积极的社会变革，并促进经济和社会进步。在工作之余，Rachna 喜欢与家人共度时光、徒步旅行和听音乐。
Peter Hallinan 是 AWS 负责任的 AI 总监，他领导着一个组织，致力于推进 AWS 负责任 AI 的科学和实践。他在 AI（哈佛大学博士）和创业（Blindsight，后被亚马逊收购）方面拥有深厚的专业知识。他的志愿活动包括在斯坦福大学医学院担任客座教授，以及担任马达加斯加美国商会会长。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区