📢 转载信息
原文链接：https://www.wired.com/story/the-man-who-invented-agi/
原文作者：Steven Levy
在1956年的夏天，一群学者——我们现在称他们为计算机科学家，但当时还没有这个称谓——齐聚新罕布什尔州的达特茅斯学院（Dartmouth College），讨论如何让机器像人类一样思考。其中一位，约翰·麦卡锡（John McCarthy），创造了“人工智能”（artificial intelligence）这个术语。这次传奇的会议和这一新领域的命名是广为人知的。
在本世纪，这个术语的一个变体已成为焦点：人工智能通用智能（artificial general intelligence，或称AGI）——即计算机在所有人类认知能力上都能匹敌或超越的阶段。AGI是本周头条新闻的驱动力：OpenAI和微软之间达成了一项交易，其基础在于OpenAI是否能实现AGI；Meta、谷歌和微软为追求AGI而进行的大规模资本支出；以及对实现AGI的渴望帮助英伟达成为一家价值5万亿美元的公司。美国政客们表示，如果我们不能比中国先实现它，我们就完了。预言家们说，我们可能在本十年结束前实现它，届时一切都将改变。然而，这个术语的起源，以及它最初是如何定义的，却鲜为人知。但这个问题的答案是明确的。迄今为止21世纪最重要的首字母缩写词的创造者——以及一个至今仍被广泛采纳的定义——对几乎所有人来说都是陌生的。这是他的故事。
纳米迷
1997年，马克·古布鲁德（Mark Gubrud）痴迷于纳米技术及其潜在危险。他是埃里克·德雷克斯勒（Eric Drexler）的粉丝，后者普及了关于极微小事物的科学。古布鲁德开始参加纳米技术会议。他特别关注的是，这项技术以及其他前沿科学如何可能被用作危险的战争武器。“我当时是马里兰大学（University of Maryland）地下室的地下室里的研究生，听着后面的一个巨大的污水泵响一阵停一阵，非常大声，同时尽可能多地阅读，”他在一次Zoom通话中告诉我，当时他正坐在科罗拉多州一间小木屋的门廊上。
同年，古布鲁德在第五届分子纳米技术前瞻大会（Fifth Foresight Conference on Molecular Nanotechnology）上提交并发表了一篇题为“纳米技术与国际安全”的论文。他论证了突破性技术将重新定义国际冲突，使其可能比核战争更具灾难性。他敦促各国“放弃好战的传统”。他讨论的新科学当然包括纳米技术，也包括他当时称之为“人工智能通用智能”的先进人工智能。似乎在此之前没有人使用过这个短语。论文稍后定义了它：
“我们所说的先进人工智能通用智能，是指在复杂性和速度上与人脑相媲美或超越的AI系统，它们能够获取、处理和推理通用知识，并且几乎可以在人类智能本应发挥作用的任何工业或军事行动阶段中使用。”
去掉最后一句，你就得到了今天大多数人使用的AGI定义。
“我需要一个词来区分我所谈论的AI与当时人们所熟知的AI——即专家系统——之间的不同，而且很明显，专家系统不会是他们所说的那种通用智能，”他解释道。这篇论文没有广泛流传，影响甚微。
真正的AI
快进到21世纪初，当时AI寒冬仍在笼罩该领域。一些有远见的研发人员感觉到了解冻的迹象。1999年，雷·库兹韦尔（Ray Kurzweil）在他的著作《灵性机器的时代》（The Age of Spiritual Machines）中预测，到2030年左右，AI将能够匹敌人类认知能力。这引起了计算机科学家本·戈尔茨尔（Ben Goertzel）的共鸣，他开始与志同道合的合作者卡西奥·佩纳钦（Cassio Pennachin）一起编辑一本关于可用于广泛用途的AI方法的书籍，而不是将机器学习用于解决特定和有限的领域，比如下棋或做出医疗诊断。
库兹韦尔将这种更广泛的技术称为“强人工智能”（strong AI），但这听起来很模糊。戈尔茨尔尝试称之为“真正的AI”（real AI），或者“合成智能”（synthetic intelligence）。这两种选择都没有让该书的贡献者感到满意，所以他邀请他们集思广益，讨论其他想法。这个讨论串中包括了后来的AI影响人物，如沙恩·勒格（Shane Legg）、王沛（Pei Wang）和埃利泽·尤德科夫斯基（Eliezer Yudkowsky）（没错，就是那位后来成为末日论领袖的人）。
勒格当时拥有硕士学位，并与戈尔茨尔共事过，他提出了在AI一词中加入“通用”（general）这个词的想法。他现在是这样描述的：“我在一封邮件中说，‘本，别叫它真正的AI——这对整个领域来说是个巨大的冒犯。如果你想写关于具有通用智能的机器，而不是特定的东西，也许我们应该称之为人工智能通用智能（artificial general intelligence），简称AGI。它朗朗上口。”戈尔茨尔回忆说，王沛建议换一种词序，认为追求的方向应该被称为“通用人工智能”（general artificial intelligence）。戈尔茨尔指出，如果大声读出来，首字母缩写词GAI可能会带来意想不到的联想。“当然，这也没什么不妥，”他赶紧补充道。他们最终采纳了勒格提出的AGI。
王沛现在在天普大学（Temple University）任教，他说他对2002年左右的讨论只有模糊的记忆，但他表示，他们定义的AGI“基本上就是最初的AI”。达特茅斯会议的创始人设想的是那些能像人类一样广泛表达智能的机器。“我们需要一个新的标签，因为那个唯一的标签的常用含义已经改变了，”他说。
于是，定局已定。“我们都在一些在线论坛上开始使用这个短语AGI，”勒格说。（他并非一直使用它：“我从没有在我的博士论文中提到过AGI，因为我认为这太有争议性了，”他说。）戈尔茨尔的书《人工智能通用智能》直到本世纪中叶才出版，但那时这个术语已经开始流行，并有了以其命名的期刊和会议。
古布鲁德确实成功地要求承认自己是AGI命名者的身份。21世纪中叶，古布鲁德本人将这个术语提请给那些使其流行的研究者们注意。正如勒格所说，“突然有人冒了出来说，‘哦，我在97年就想出了这个术语’，我们当时想，‘你是谁？’然后我们查了一下，果然，他有一篇论文里提到了这个词。所以[我不是发明者]，而是 kind of 重复发明了这个术语。”（勒格当然是谷歌 DeepMind 的联合创始人兼首席AGI科学家。）
古布鲁德参加了2006年的第二次AGI会议，并与戈尔茨尔有过简短的会面。他从未见过勒格，尽管多年来他偶尔会在网上与他互动，而且一直都很友好。古布鲁德理解，他自己的没有跟进使得他退出了这个领域。
“我接受在首次引用中获得荣誉，并把他们授予我在其他方面所做的许多工作，而我并没有做——也许应该做——但那不是我的重点，”他说。“我的关注点是军备竞赛。写那篇论文的全部目的是警告这一点。”古布鲁德此后没有发表过大量作品——他的职业生涯飘忽不定，现在他把很多时间花在照顾母亲身上——但他撰写了许多主张禁止自主杀人机器人等武器的论文。
古布鲁德无法忽视自己与AGI巨头们地位上的反差。“它正在接管世界，价值数万亿美元，”他说。“而我是一个66岁的老人，拥有一个毫无价值的博士学位，没有名声、没有钱、也没有工作。”但古布鲁德确实留下了遗产。他为AGI赋予了名字。他的定义至今仍然有效。而他对这种技术危险性的警告，仍然值得我们倾听。
这是 史蒂文·利维的 Backchannel 时事通讯的一个版本。以前的通讯请点击 此处阅读。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区