人工智能永远不会有意识

考虑一下硬件和软件之间的鲜明区别。将硬件与软件在计算机中分离的美妙之处在于，许多不同的程序可以在同一台机器上运行；软件和它所编码的知识可以在硬件“死亡”后仍然存在。这种分离也反映了我们内心深处对二元论的直觉——即遵循笛卡尔的观点，可以在精神物质和物理物质之间划出清晰的界限。但在大脑中，硬件和软件之间的区别根本不存在；在那里，软件就是硬件，反之亦然。记忆是神经元之间连接的物理模式，它既不是硬件也不是软件，而是两者兼有。

事实上，发生在你身上的一切——你所经历、学习或记住的一切——都会永久性地改变你大脑的物理结构，重新连接其连接方式。（从这个意义上说，大脑中不存在二元论；精神物质永远无法与物理物质完全分离。）用各种不同基质运行相同意识算法的想法，在基质本身——大脑——正在被其上运行的任何信息（或“意识算法”）持续物理重构的情况下，是毫无意义的。你的大脑在物质上与我的不同，正是因为它被不同的生活经历塑造了，也就是被意识本身塑造了。大脑根本不是可互换的，无论是在计算机之间还是在彼此之间。

几乎你在任何一个点上深入探究，计算机即大脑的比喻都会失效。计算机科学家对待大脑中的神经元，就像对待芯片上的晶体管一样，由电流脉冲触发或关闭。这种类比有一些道理，但事实是，电流并非影响神经元放电的唯一因素。大脑中还充斥着化学物质，包括神经调节剂和激素，它们强烈影响神经元的行为，不仅影响它们是否放电，还影响放电的强度。这就是为什么精神药物可以深刻地改变意识（但对计算机没有明显影响）。神经元的活动还受到穿过大脑的波状振荡的影响；这些振荡的不同频率与不同的精神活动相关，例如意识与无意识、专注注意力和做梦（以及睡眠的其他阶段）。

将神经元比作晶体管，是对其复杂性的严重低估。与芯片上的晶体管相比，大脑中的神经元是大量互连的，每个神经元直接与多达10,000个其他神经元通信，形成的网络如此复杂，以至于我们离绘制其连接的最粗略地图都还有几十年的路要走。在计算机科学中，人们对“深度人工神经网络”的出现大加赞扬——这是一种据说模仿大脑的机器学习架构，它通过分层排列海量处理器，使网络能够处理和学习海量数据。这当然令人印象深刻，但最近的一项研究表明，单个皮层神经元所能做的一切，就是一个完整的深度人工神经网络所能做的一切。

是的，计算机在许多方面确实与大脑相似，计算机科学通过模拟大脑的各种方面和操作取得了长足的进步。但认为大脑和计算机在任何方面都可以互换——这是计算功能主义的前提——无疑是牵强的。然而，这不仅是巴特林报告的基础，也是该领域大部分的基础。不难看出原因何在。如果大脑是计算机，那么足够强大的计算机就应该能够做到大脑所做的一切，包括产生意识。这个前提几乎保证了结论。换句话说，是报告作者们自己移除了构建有意识AI的最大“障碍”——即认为大脑与计算机存在关键差异的障碍。

报告的第二个方面让我怀疑其结论的可信度，那就是它提出的人工智能是否真正具有意识的判断标准。这是一个严峻的挑战。引用勒莫因事件（无论是否公正），作者们指出，AI很容易愚弄人类，让人相信它们有意识，而实际上它们没有。（由于我们容易拟人化和迷信，可能是我们自己欺骗了自己。）当AI已经学习了几乎所有关于意识的言论时，“可报告性”（询问AI本身这一哲学术语）将不再有效。解决这一困境的一种方法是，从AI训练的数据集中删除所有关于意识（以及推测中的情感和情绪）的引用，然后看看它是否还能令人信服地谈论自己有意识。

相反，作者们提议，我们应该寻找AI意识的“指标”，这些指标应与所涉及的各种意识理论的预测相匹配。因此，例如，如果一个AI的设计包含一个工作空间，将各种信息流汇集在一起，但只有在这些信息流竞争进入该工作空间之后，这看起来才像全局工作空间理论，因此可能被视为有意识的。报告回顾了大约六种意识理论，确定了AI需要表现出哪些“指标”才能满足每一种理论，从而被认为是潜在有意识的。

这里的问题是（嗯，其中一个问题）：它提议我们用来衡量AI的意识理论中，没有一个理论是接近被任何人满意地证明的。那这算什么样的证据标准？更重要的是，许多这些理论都可以在AI的设计中被模拟出来，这不足为奇，因为它们都基于意识是计算这一理念。我们就这样循环往复。

🚀 想要体验更好更全面的AI调用？