📢 转载信息
原文链接：https://www.wired.com/story/ai-sentient-consciousness-algorithm/
原文作者：Will Knight
作为一名报道人工智能的记者，我听到了无数人坚信ChatGPT、Claude或其他聊天机器人已经达到了所谓的“感知力”（sentience）或“意识”（consciousness），或者——我个人最喜欢的说法——“有了自己的想法”。是的，图灵测试早就被通过了，但与死记硬背的智能不同，这些东西并不容易被界定。大型语言模型会声称自己会独立思考，甚至描述内心的折磨或表达永恒的爱意，但这些言论并不意味着它们具有内在体验（interiority）。
它们可能拥有内在体验吗？许多真正构建AI的人士并不使用这些术语。他们正忙于追逐被称为“通用人工智能”（artificial general intelligence）的性能基准，这是一个纯粹的功能性范畴，与机器体验世界的潜力毫无关系。因此——尽管我本人持怀疑态度——我认为花些时间与一家认为自己可以破解意识代码的公司接触一下，可能会让人大开眼界，甚至可能有所启发。
Conscium公司由英国AI研究人员兼企业家Daniel Hulme于2024年创立，其顾问包括神经科学家、哲学家以及动物意识专家的令人印象深刻的阵容。当我们首次交谈时，Hulme很务实：有充分的理由怀疑语言模型有能力产生意识。乌鸦、章鱼，甚至是变形虫，它们与环境的互动方式都是聊天机器人无法做到的。实验还表明，AI的言论并不反映出连贯或一致的状态。正如Hulme所说，这与广泛的共识相呼应：“大型语言模型是对大脑非常粗糙的表征。”
但是——一个很大的“但是”——这一切都取决于“意识”本身的含义。一些哲学家认为，意识过于主观，以至于永远无法被研究或重现，但Conscium押注的是，如果意识存在于人类和其他动物身上，那么它就可以被检测、衡量并内置到机器中。
关于意识的关键特征存在相互竞争和重叠的观点，包括感知和“感受”的能力、对自身和环境的认识，以及所谓的元认知（metacognition），即思考自身思维过程的能力。Hulme认为，当这些现象结合在一起时，主观的意识体验就会出现，就像快速翻阅按顺序排列的图像会在书中创造出运动的错觉一样。但是，如何识别意识的组成部分——即一个个“动画”以及将它们组合起来的“力”呢？Hulme说，答案是将AI反过来作用于自身。
Conscium的目标是将有意识的思维分解到其最基本的形式，并在实验室中催化这一过程。参与Conscium项目的南非精神分析学家兼神经心理学家Mark Solms说：“一定有什么东西构成了意识的基础——意识在进化中正是从中产生的。”在他的2021年著作《隐藏的泉源》（The Hidden Spring）中，Solms提出了一种感性的新方式来思考意识。他认为，大脑利用感知和行动在一个旨在最小化“惊讶感”的反馈循环中运作，不断生成关于未来的假设，并在接收到新信息时进行更新。这个想法建立在著名但有争议的神经科学家Karl Friston（Conscium顾问之一）开发的“自由能原理”（free energy principle）之上。Solms进一步提出，在人类身上，这个反馈循环演变成了一个由情绪介导的系统，而正是这些感觉催生了感知和意识。这一理论得到了这样一个事实的支持：大脑干部的受损似乎会导致患者的意识消失，而大脑干对调节情绪起着关键作用。
在书的结尾，Solms提出了一种在实验室中测试其理论的方法。现在，他说他已经做到了。他还没有发表论文，但他给我看了。这是否让我有点“烧脑”？是的，有一点。Solms的人工智能体生活在一个简单的计算机模拟环境中，它们由具有弗里斯通式的、受感觉介导的循环所控制的算法驱动，这正是他提出的作为意识基础的机制。“我对这项研究有几个动机，”Solms说，“其中一个就是它非常有趣。”
Solms的实验条件不断变化，需要持续的模型化和调整。这些AI代理对这个世界的体验是通过类似于恐惧、兴奋甚至快乐的模拟反应来介导的。所以，用一个词来说，它们是“快乐机器人”（pleasure-bots）。与今天人们谈论的所有AI代理不同，Solms的创造物有一种字面意义上的渴望去探索它们的环境；为了正确理解它们，人们必须努力想象它们对这个小世界的“感受”如何。Solms相信，最终可以将他正在开发的方法与语言模型相结合，从而创建一个能够谈论其自身感知体验的系统。
Conscium的工作在这一点上，非常初级，几乎可以被视为不存在。它只是一个可能性的微弱闪光。但它确实非常有趣，更重要的是，它促使我以一种新的方式思考我自己的意识。如果我稍微元认知一下：我倾向于认为思考使我具有意识，而不是我的情绪。但是，我们寻找意识的地方是否完全错了呢？如果它可以简化为如此简单的机制，那又意味着什么呢？也许那些声称在ChatGPT中瞥见感知力的人并非在产生幻觉。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区