📢 转载信息
原文链接：https://www.bbc.com/news/articles/clye99wg0y8o?at_medium=RSS&at_campaign=rss
原文作者：BBC News
人工智能领域正在迅速发展，一些专家警告称，对通用人工智能（AGI）的追求可能带来巨大的风险。
在一份最新的评估报告中，英国的AI安全研究所（AISI）概述了到2030年AGI可能带来的潜在威胁，包括对社会稳定、就业市场和全球安全的风险。
该报告由来自美国、英国和欧盟的数百名顶尖AI研究人员和政策制定者撰写，呼吁各国政府和科技公司紧急制定应对措施。
AI安全研究所的警告
报告指出，AI模型规模的不断扩大和能力的提升，使得它们在未来几年内可能实现某些超人的能力，并可能产生“我们尚未充分理解的”能力。
其中一位主要作者，来自剑桥大学的萨米尔·巴特（Samir Bahtt）博士表示：“这些模型的能力正在以指数级的速度增长。”
“我们正处于一个转折点，我们必须认真对待这些风险，并开始制定应对策略，否则我们将面临不可逆转的后果。”
报告强调，AGI的发展不仅仅是技术问题，它还涉及政治、经济和社会治理的深刻变革。
关键风险领域
报告详细列出了几个关键的风险领域，包括：
- 网络安全风险：AGI可能被用于发起更复杂、更难防御的网络攻击。
- 信息失真：深度伪造和自动化宣传可能严重破坏社会信任和民主进程。
- 失控和对齐问题：确保超级智能AI的目标与人类价值观保持一致（即“对齐”问题）是最大的长期挑战。
AI安全研究所呼吁建立一个全球性的监管框架，类似于核安全协议，以确保AGI的研发是安全和负责任的。
政策制定者的角色
报告敦促政策制定者采取更具前瞻性的监管方法，而不是等到威胁真正出现时才进行反应。
“我们不能等到AGI出现后才开始讨论如何控制它。现在就是制定护栏的时候了，” 另一位报告撰写者，前美国国家安全委员会官员，迈克尔·刘（Michael Liu）表示。
许多科技公司已经开始投资于AI安全研究，但专家们认为，仅靠行业自律是不够的，需要强有力的政府监督和国际合作。
随着AI能力的不断飞跃，这场关于如何管理未来最强大技术的辩论，正变得越来越紧迫。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区