📢 转载信息
原文作者：Segolene Dessertine-Panhard, Sri Elaprolu, and Randi Larson
想象一下这个场景：您的企业刚刚部署了第一个生成式AI应用。初步结果令人鼓舞，但当您计划跨部门扩展时，关键问题出现了。随着AI应用的激增，您将如何执行一致的安全措施、防止模型偏差并保持控制权？
事实证明，您并不孤单。一项涵盖38个国家/地区750多名领导者的麦肯锡调查揭示了构建治理战略时面临的挑战和机遇。尽管组织正在投入大量资源——大多数计划在负责任的AI方面投资超过100万美元——但实施障碍依然存在。超过50%的受访者认为知识差距是主要障碍，而40%的受访者提到了监管不确定性。
然而，拥有既定负责任AI计划的公司报告了显著的好处：42%的公司看到了业务效率的提高，而34%的公司体验到了消费者信任的增加。这些结果表明了为什么强大的风险管理是实现AI全部潜力的基础。
负责任的AI：从第一天开始就不可或缺
在AWS生成式AI创新中心，我们观察到，那些取得最强成果的组织从一开始就将治理融入其DNA。这与AWS致力于负责任的AI开发的承诺是一致的，我们最近推出的AWS Well-Architected负责任AI透镜就是明证，这是一个在整个开发生命周期中实施负责任实践的全面框架。
创新中心始终坚持这些原则，倡导一种“设计即负责任”的理念，仔细界定用例范围，并遵循基于科学的指导。这种方法促成了我们的AI风险智能（AIRI）解决方案，该方案将这些最佳实践转化为可操作的自动化治理控制——使负责任的AI实施既可实现又可扩展。
负责任和安全的生成式AI部署的四个技巧
综合我们帮助全球各行业一千多家组织积累的经验，以下是通过自动化和无缝流程，将强大的治理和安全控制集成到AI应用开发、审查和部署中的关键策略。
1 – 采纳“设计即治理”的心态
在创新中心，我们每天与走在生成式AI和智能体AI应用前沿的组织合作。我们观察到一个一致的模式：虽然生成式AI的前景吸引了企业领导者，但他们通常难以规划出负责任且安全的实施路径。取得最令人印象深刻成果的组织从一开始就确立了“设计即治理”的心态——将AI风险管理和负责任的AI考量视为基础要素，而不仅仅是合规性的勾选框。这种方法将治理从一个被视为障碍转变为实现更快创新并保持适当控制的战略优势。通过将治理嵌入到开发流程本身，这些组织可以更自信、更安全地扩展其AI计划。
2 – 协调技术、业务和治理
创新中心的首要任务是帮助客户开发和部署满足业务需求的AI解决方案，同时利用最合适的AWS服务。然而，技术探索必须与治理规划齐头并进。可以把它想象成指挥管弦乐队——如果不了解每种乐器的工作原理以及它们如何和谐共鸣，您就不会协调交响乐。同样，有效的AI治理需要深入了解底层技术，才能实施控制。我们帮助组织从一开始就建立技术能力、业务目标和治理要求之间的清晰联系，确保这三个要素协同工作。
3 – 将安全作为治理的门户
在确立了“设计即治理”的心态并协调了业务、技术和治理目标之后，下一步的关键是实施。我们发现，安全是实现全面AI治理最有效的切入点。安全不仅提供至关重要的保护，还通过将信任构建到AI系统的基础中来支持负责任的创新。创新中心采用的方法强调在整个实施过程中都遵循“设计即安全”的原则，从基础架构保护到复杂工作流程中的高级威胁检测。
为了支持这种方法，我们帮助客户利用AWS安全代理等功能，该代理在整个开发生命周期中自动化安全验证。这个前沿代理根据集中定义的标准进行定制化的安全审查和渗透测试，帮助组织将其安全专业知识的规模与开发速度相匹配。
这种安全优先的方法奠定了更广泛治理控制的基础。AWS负责任AI框架将公平性、可解释性、隐私与安全、安全性、可控性、真实性和稳健性、治理和透明度统一为一个连贯的方法。随着AI系统更深入地融入业务流程和自主决策，在保持严格监督的同时自动化这些控制对于成功扩展至关重要。
4 – 企业级自动化治理
在基础要素——心态、协调和安全控制——到位后，组织需要一种系统地扩展其治理工作的方法。这就是AIRI解决方案发挥作用的地方。它不是创建新流程，而是通过自动化，以分阶段的方式将我们讨论的原则和控制付诸实践。
该解决方案的架构通过一个三步流程无缝集成到现有工作流程中：用户输入、自动化评估和可操作的见解。它分析从源代码到系统文档的所有内容，利用自动化文档处理和基于LLM的评估等先进技术进行全面的风险评估。最重要的是，它对生成式AI系统进行动态测试，检查语义一致性和潜在漏洞，同时适应每个组织特定的要求和行业标准。
从理论到实践
有效AI治理的真正衡量标准是它如何在保持严格标准的同时，随组织一起发展。成功实施后，自动化治理使团队能够专注于创新，确信他们的AI系统在适当的护栏内运行。一个引人注目的例子来自我们与欧洲最大的航空公司集团瑞安航空（Ryanair）的合作。随着他们在2034年迈向3亿乘客的目标，瑞安航空需要为其机组人员应用程序提供负责任的AI治理，该应用程序为一线员工提供重要的操作信息。使用Amazon Bedrock，创新中心进行了AI驱动的评估。这在先前难以量化的风险领域建立了透明的、数据驱动的风险管理体系——为瑞安航空现在可以扩展到其整个AI产品组合的负责任AI治理树立了典范。
这次实施展示了系统性AI治理的广泛影响。使用此框架的组织一致报告称，他们加速了投产路径，减少了手动工作，并增强了风险管理能力。最重要的是，他们实现了从技术到法律再到安全团队的强大跨职能一致性——所有这些都基于清晰、可衡量的目标共同努力。
创新的基础
负责任的AI治理不是一种约束——它是一种催化剂。通过将治理嵌入到AI开发的结构中，组织可以自信地进行创新，因为他们知道自己拥有安全、负责任扩展所需的控制措施。上述示例展示了自动化治理如何将理论框架转化为实用的解决方案，这些方案在保持信任的同时推动了业务价值。
了解更多关于AWS生成式AI创新中心的信息，以及我们如何帮助不同规模的组织实施负责任的AI，以补充其业务目标。
关于作者
Segolene Dessertine-Panhard 是AWS生成式AI创新中心负责任AI和AI治理倡议的全球技术负责人。在此职位上，她利用AWS能力和最先进的科学模型，通过实施强大的治理流程和有效的AI与网络安全风险管理系统，支持AWS客户扩展其生成式AI战略。在2018年加入AWS之前，她曾是纽约大学坦登工程学院的金融全职教授。她还曾担任金融纠纷和监管调查的独立顾问数年。她拥有巴黎索邦大学的博士学位。
Sri Elaprolu 担任AWS生成式AI创新中心总监，他利用近三十年的技术领导经验推动人工智能和机器学习创新。在此职位上，他领导一个由机器学习科学家和工程师组成的全球团队，为面临复杂业务挑战的企业和政府组织开发和部署先进的生成式和智能体AI解决方案。在近13年的AWS任职期间，Sri担任过不断晋升的领导职位，包括领导ML科学团队，与NFL、Cerner和NASA等知名组织合作。这些合作使AWS客户能够利用AI和ML技术实现变革性的业务和运营成果。加入AWS之前，他在诺斯罗普·格鲁曼公司（Northrop Grumman）工作了14年，成功管理过产品开发和软件工程团队。Sri拥有工程科学硕士学位和专注于通用管理的MBA学位，这为他目前担任领导职务提供了必要的技术深度和商业头脑。
Randi Larson 为AWS生成式AI创新中心将AI创新与高管战略联系起来，塑造组织如何理解技术突破并将其转化为业务价值。她主持创新中心的播客系列，并通过全球主题演讲和关于AI转型的行政访谈，将战略叙事与数据驱动的洞察相结合。在亚马逊之前，Randi曾在彭博社担任记者，并担任金融技术倡议的顾问，服务于经济机构、智库和家族办公室，从而磨练了她的分析精确性。Randi拥有杜克大学福夸商学院的MBA学位，以及波士顿大学的新闻学和西班牙语学士学位。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区