📢 转载信息
原文作者：Michelle Kim
在2024年，宾夕法尼亚州的一位民主党国会候选人夏梅因·丹尼尔斯（Shamaine Daniels）曾使用一个名为阿什莉（Ashley）的AI聊天机器人与选民进行电话交谈。电话的开场白是：“您好。我叫阿什莉，我是夏梅因·丹尼尔斯竞选国会议员的人工智能志愿者。”丹尼尔斯最终并未获胜。但也许这些电话对她的事业有所助益：一项新的研究表明，AI聊天机器人在一次对话中就能改变选民的观点——而且它们在这方面表现得异常出色。
一个由多所大学组成的研究团队发现，与带有政治偏见的AI模型聊天，比观看政治广告更能有效地促使民主党人和共和党人转而支持反对党的总统候选人。这些聊天机器人通过引用事实和证据来影响观点，但它们并非总是准确的——事实上，研究人员发现，那些最具说服力的模型恰恰说了最多不实之词。
这些发现发表在《自然》（Nature）和《科学》（Science）两本期刊上，是证明大型语言模型（LLM）具有说服力的最新研究成果。它们对生成式AI可能如何重塑选举提出了深刻的问题。
相关报道
康奈尔大学心理学家戈登·彭尼库克（Gordon Pennycook）是《自然》研究的参与者之一，他说：“与一个LLM进行一次对话，对重要的选举选择会产生相当大的影响。”他表示，LLM之所以比政治广告更有效地说服人们，是因为它们能实时生成更多信息，并在对话中有策略地部署这些信息。
在《自然》论文中，研究人员招募了2300多名参与者，在2024年美国总统大选前两个月让他们与一个聊天机器人进行对话。这个被训练来支持两大候选人中一方的聊天机器人，在讨论候选人关于经济和医疗等议题的政策平台时，表现出惊人的说服力。与支持卡玛拉·哈里斯（Kamala Harris）的AI模型交谈后，原本支持唐纳德·特朗普（Donald Trump）的支持者略微倾向于支持哈里斯，在一个100分的量表上向她移动了3.9分。这大约是2016年和2020年选举中政治广告衡量效果的四倍。而支持特朗普的AI模型则使哈里斯的支持者向特朗普移动了2.3分。
在2025年加拿大联邦选举和2025年波兰总统选举前夕进行的类似实验中，该团队发现了更大的效果。这些聊天机器人使反对派选民的态度发生了约10个百分点的转变。
长期以来，关于政治动机推理的理论认为，党派选民对与其信念相悖的事实和证据是免疫的。但研究人员发现，这些聊天机器人（使用了包括GPT和DeepSeek变体在内的多种模型）在被指示使用事实和证据时，比被告知不要这样做的模型更具说服力。参与该项目的美国大学心理学家托马斯·科斯特洛（Thomas Costello）说：“人们正在根据模型提供的事实和信息进行更新。”
问题在于，聊天机器人提供的一些“证据”和“事实”并不属实。在所有三个国家中，倡导右翼候选人的聊天机器人提出的不准确说法比倡导左翼候选人的要多。科斯特洛指出，底层模型是在海量的人类书面文本上训练出来的，这意味着它们会再现现实世界中的现象——包括“来自右翼的政治言论，而这些言论往往准确性较低”，这与对党派社交媒体帖子的研究结果一致。
在同一周发表的另一项发表在《科学》杂志上的研究中，一个重叠的研究团队调查了是什么让这些聊天机器人如此具有说服力。他们对来自英国的近77000名参与者进行了调查，讨论了700多个政治议题，同时改变了计算能力、训练技术和修辞策略等因素，部署了19个LLM与之互动。
使模型更具说服力最有效的方法是指示它们充实论点中的事实和证据，然后通过提供有说服力的对话示例对其进行额外训练。事实上，最具说服力的模型使最初不同意某一政治声明的参与者向同意的方向移动了26.1个百分点。参与该项目的英国AI安全研究所研究科学家科比·哈根伯格（Kobi Hackenburg）说：“这些都是非常大的处理效应。”
相关报道
然而，优化说服力是以牺牲真实性为代价的。当模型变得更具说服力时，它们提供的误导性或虚假信息就越来越多——没有人确切知道原因。“可能是因为模型学会了部署越来越多的事实，它们实际上触及了它们所知道的东西的‘最底层’，所以事实的质量就变差了，”哈根伯格说。
作者指出，聊天机器人的说服力可能对民主的未来产生深远影响。使用AI聊天机器人的政治竞选活动可能会影响公众舆论，从而损害选民做出独立政治判断的能力。
尽管如此，影响的确切轮廓仍有待观察。“我们不确定未来的竞选活动会是什么样子，以及它们可能如何纳入这类技术，”普林斯顿大学政治学家安迪·盖斯（Andy Guess）说。争夺选民注意力既昂贵又困难，而且让人们与聊天机器人进行长时间的政治对话可能具有挑战性。“这会成为人们了解政治的方式，还是会成为一种小众活动？”他问道。
即使聊天机器人确实在选举中占据了更大的比重，它们是更多地放大真相还是虚假信息尚不清楚。通常情况下，虚假信息在竞选中具有信息优势，因此选举性AI的出现“可能意味着我们正走向灾难，”西北大学政治学家亚历克斯·科普克（Alex Coppock）说。“但也可能意味着现在，正确的信息也将是可扩展的。”
然后就是谁将占据上风的问题。“如果每个人都在野外运行着自己的聊天机器人，这是否意味着我们将把自己说服到平局？”科普克问道。但有理由怀疑会陷入僵局。政治人物获取最有效模型的渠道可能不会平均分配。而且不同政治光谱的选民与聊天机器人的参与程度也可能不同。盖斯说：“如果某个候选人或政党的支持者比另一方更懂技术，那么说服力的影响可能就不会平衡。”
随着人们转向AI来帮助他们处理生活，他们可能会开始向聊天机器人寻求投票建议，无论竞选活动是否促成这种互动。对于民主来说，这可能是一个令人担忧的世界，除非有强有力的保障措施来约束这些系统。审计和记录LLM在政治对话输出中的准确性可能是第一步。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区