📢 转载信息
原文链接：https://www.bbc.com/news/articles/c24g8v6qr1mo?at_medium=RSS&at_campaign=rss
原文作者：BBC News
英国首相里希·苏纳克（Rishi Sunak）表示，人工智能（AI）对人类生存构成了“存在性风险”（existential risk）。
他表示，必须对新兴技术进行紧急监管，以防止其对人类造成灾难性后果。
首相说，他希望英国在AI方面“处于世界领先地位”，但这也要求英国政府“在世界上第一个解决AI风险的国家中处于领先地位”。
在为期一天的“AI安全峰会”前夕，苏纳克承认，他一直在与世界各地的同行进行讨论，讨论如何管理这项技术。
在接受BBC新闻的采访时，苏纳克表示，他认为各国需要就如何对AI进行安全测试达成一致。
他说，这项技术可能带来的风险包括：网络攻击、生物武器或对人类控制能力的削弱。
在与美国总统乔·拜登（Joe Biden）进行双边会晤后，苏纳克表示，美国同意与英国一道，在AI安全方面发挥领导作用。
周三，苏纳克表示：“我们正在谈论的AI是远超我们当前所见技术的下一代AI。”
他继续说：“这是一种可能带来巨大机遇的技术，但它也带来了我们必须认真对待的风险。”
“我将明确表示，如果我们不认真对待这些风险，我们可能会面临非常严重的问题。”
他说，当考虑到这些风险时，他需要考虑所有可能的后果，包括那些“更具推测性、更具存在性的风险”。
苏纳克表示，他正在与美国、中国和欧盟进行对话，以建立一个全球性的框架来管理这项技术。
他说，人工智能“很可能会在本十年内”超越人类的许多智能水平。
“我们不能等待，直到它真的发生，然后才开始思考如何管理它，”他告诉BBC新闻的政治编辑克里斯·梅森（Chris Mason）。
“我们现在必须开始思考如何安全地开发和部署这项技术。”
对于苏纳克将AI风险提升到如此高的层面的言论，科技界和政治界人士反应不一。
人工智能伦理学家表示，苏纳克对未来风险的担忧是正确的，但政府应该更关注眼前的伤害，例如偏见和虚假信息。
伦敦国王学院数字伦理学和AI教授约翰·伯恩斯（John Burns）博士告诉BBC：“我确实认为，我们对‘存在性风险’的担忧是合理的，但我们不能让它分散我们对当前正在发生的这些伤害的注意力。”
伯恩斯博士说：“AI正在对就业、工作流程、偏见和虚假信息产生影响。这些是今天发生的事情，我们应该优先解决这些问题。”
但是，一些支持AI发展的倡导者则批评了苏纳克对AI风险的关注。
智库“数字未来中心”（Centre for the Digital Future）的创始人兼首席执行官史蒂夫·富尔顿（Steve Fulton）表示，苏纳克对AI的描述“过于悲观”。
富尔顿说：“是的，风险确实存在，但我们必须将风险置于更广阔的背景下。AI带来的好处是巨大的，我们不应该被对未来的过度恐惧所扼杀。”
苏纳克在与拜登会晤后表示，两国同意在未来共同努力，应对AI的潜在危险。
两国签署了一项名为《布莱切利宣言》（Bletchley Declaration）的协议，该宣言得到包括中国在内的28个国家以及欧盟的签署。
该宣言确认了AI构成的风险，并承诺将各国在AI安全研究方面的工作整合起来。
该宣言强调了对AI能力进行严格的“红队测试”（red-teaming）的重要性。
苏纳克说：“我们正在与世界各国合作，包括中国，以确保AI是安全的。我们不能只与我们喜欢或认同的国家合作。”
“我们需要一个全球性的方法来管理这种风险。”
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区