📢 转载信息
原文链接：https://www.wired.com/story/ai-emotional-spellcheck-difficult-people/
原文作者：Anthony Lydgate
一、创始人
Sol Kennedy 过去常常让他的助理代读前妻发给他的信息。肯尼迪说，在他们于 2020 年分居后，他发现他们的沟通“很艰难”。一封或一系列电子邮件传来——关于他们两个孩子的事情夹杂着无关的情绪重击——他花了一整天时间试图回复，结果一整天都被毁了。肯尼迪是硅谷一位连续的科技创始人兼投资者。当时他正在接受心理治疗。但在每周的治疗课程之外，他觉得需要实时支持。
离婚后，他们之间的沟通转移到了一个名为 OurFamilyWizard 的平台，该平台被美国及国外的数十万父母用来交换信息、共享日程、追踪开支。（OFW 会对所有内容进行带时间戳、可作为法庭证据的记录。）肯尼迪额外付费购买了一个名为 ToneMeter 的附加功能，OFW 当时大力宣传它为“情绪拼写检查器”。当你起草信息时，其软件会进行基本的情绪分析，标记出可能“令人担忧”、“有攻击性”、“令人不安”、“贬低性”等的语言。但肯尼迪说，有一个问题：他的共同父母似乎没有使用她的 ToneMeter。
肯尼迪作为一名早期的技术采纳者，一直在尝试使用 ChatGPT 与他的孩子“共同创作”睡前故事。现在，他转向 ChatGPT 寻求关于如何与前妻沟通的建议。他惊叹不已——而且他不是第一个这么做的人。在 Reddit 和其他互联网论坛上，那些与难缠的前任、家庭成员和同事打交道的人们纷纷发帖，对聊天机器人似乎能提供的出色指导和宝贵的情绪验证感到震惊。这里有一个机器，它能以一种似乎没有私心的态度告诉你，你并不是那个疯子。这里有一个咨询师，它会 24 小时耐心握着你的手，陪你度过任何程度的胡言乱语。“一个可扩展的解决方案”来补充治疗，正如肯尼迪所说。终于。
但肯尼迪说，刚开箱的 ChatGPT 对他的需求来说太健谈了——而且太爱道歉了。他会输入一些尖锐的信息，它会建议回复（通常要多说很多句话）“我很抱歉，请原谅我，我会做得更好”。因为它没有自我，所以它没有自尊。
肯尼迪想要一个有“骨气”的聊天机器人，他认为如果他自己开发出来，很多其他共同父母也会想要。在他看来，AI可以在他们沟通的每个阶段提供帮助：它可以过滤掉传入信息中带有触发情绪的语言，只总结事实。它可以提出适当的回复。肯尼迪说，它可以指导用户走向“更好的方式”。于是他创立了一家公司，开始开发一款应用。他将其命名为 BestInterest，取自法院在监护权决定中经常使用的标准——“最佳利益”原则（“best interest” of the child or children）。他将使用现成的 OpenAI 模型，并用他自己的提示词赋予它们骨气。
当然，分居的伴侣因各种原因会发生激烈争吵。对许多人来说，也许是大多数人来说，几个月后事情就会平静下来，像 BestInterest 这样的工具可能不会长期有用。但是，当涉及到某种特定类型的人格时——称之为“高冲突”、“自恋”、“控制欲强”、“有毒”（或你倾向于在网上看到的任何“让人发疯”的同义词）——至少从一方来看，关于孩子的争斗从未停止过。肯尼迪希望他的聊天机器人能与这些人抗衡，所以他转向了他们可能最讨厌的那种人：Ramani Durvasula，一位在洛杉矶的临床心理学家，她专门研究自恋如何影响人际关系。
二、用户
“我对人类抱有希望，”一位 AI 研究人员告诉我。至于对一个特定的人——她的前夫和共同父母——“得到他需要的帮助”抱有希望？那就很难说了。
当我们交谈时，这位 AI 研究人员要求 WIRED 不要公布她的姓名或身份信息，因为她担心会对她两个学龄儿童造成影响。她认为他们的父亲患有自恋型人格障碍。她说，当她决定离开他时，“我在情感上已经衰退到了一个地步，我完全不知道自己是谁了。”她说，她看过心理治疗师，“但没有一个我觉得他们真正受过帮助人们应对有自恋型配偶的人的培训。”然后，她说，“在网上寻找资源时，我偶然发现了 Dr. Ramani。”这就是她接受心理教育的方式。
人们从网络上的自恋大师那里学到了什么？这位 AI 研究人员告诉我，“自恋型人格障碍者的本质是他们渴望自恋供应（narcissistic supply）。”他们在外面可能看起来光鲜亮丽、自信满满，但内心是一个尖叫的黑洞，对关注有着无底洞般的需求。这就是为什么 Dr. Ramani 说，如果你不能与自恋者“零接触”（no-contact）——比如因为你们共同抚养孩子、有亲戚、朋友——那么最好的选择是“灰岩法”（gray-rock）对待他们：在所有互动中，通过像一块石头一样无聊来剥夺他们的供应。（如果你觉得需要多一点“色彩”，也可以采取“黄岩法”（yellow-rock）。）
这位 AI 研究人员告诉我，最终，她的前夫可能会意识到她“不再是他供应的来源了”。但就目前而言，她正在使用 BestInterest 来过滤她共同父母的信息并协助回复。该应用为她分配了一个新的电话号码，她只将该号码告诉了她的前夫，他通过这个号码给她发短信。“无论他给我发什么，它都会以平和的方式过滤掉一切——每一条信息，”她说。“所以，如果他说：‘你真是个白痴，我不敢相信你做了这个，你病了，我受不了你，你真恶心，我讨厌你——你能下午 3 点接孩子吗？’该应用告诉我的唯一信息是‘他很生气，他想知道，你能下午 3 点接孩子吗？’”
在这种情况下，BestInterest 似乎实现了肯尼迪所设想的——正如他所说（用流利的治疗术语）——“在你的反应和行动之间创造空间”。尽管如此，他说，当用户“感觉更有力量时”，他们“回去查看原始信息”是很重要的，以确保 AI 没有遗漏任何重要信息，无论是关于孩子的实质性信息，还是应该让律师看到的离谱指控。“我无法想象会有人只是忽略它，”肯尼迪说。没有人想在监护听证会上向法官解释他们对他们没有写的回复、他们没有读到的信息的意思，以及这对他们孩子的最大利益意味着什么。
那么，这位 AI 研究人员会定期回去查看她前夫的原始信息吗？她承认：“技术就是技术，它会出故障。”“但我目前不觉得有必要去看。”如果她要回法庭呢？当然会。
三、竞争
今年早些时候，在 Sol Kennedy 推出 BestInterest 大约七个月后，OurFamilyWizard 对 ToneMeter 进行了升级。该公司放弃了其 2010 年代的感情分析技术，转而采用大型语言模型。ToneMeter AI 仍然会告诉你你使用的词语是否过于“消极”（Negative）——但对于选择加入的用户，它还会生成替代措辞。
OurFamilyWizard 母公司的首席执行官 Nick VanWagner 表示，许多用户已经转向平台外的通用聊天机器人寻求帮助。但他表示，总部位于明尼苏达州明尼阿波利斯的 OFW 拥有训练数据，可以为“一个非常明确的用例来解决一个非常精确的需求”而构建。该公司首席技术官 Larry Patterson 表示，为了创建 ToneMeter AI，他的团队“想出了一个衡量标准”，以评估其最终消息的清晰度和“语气意识”。然后，他们收集了一个包含大约 10,000 条符合这些标准的真实消息（为保护用户隐私已匿名化）的训练集。“我们进行了一个监督式微调练习，使用了我们自己控制范围内的技术，”Patterson 说。“可以这么说，它从未离开过我们的范围。”该系统使用开源模型的几种变体。其中一个名为 Lighthouse，负责情绪分析。另一个名为 Harbor，负责生成文本。Patterson 称之为“LLM 裁判”的第三个模型会审查输出，以确保其符合公司的标准。VanWagner 说，使用 AI 的目标不是“把思考从”共同育儿中剔除，而是“培养更好的沟通并帮助你后退一步。”
即使有了 AI，OFW 的 ToneMeter 仍然依赖于一个可疑的前提：一个高冲突的共同父母是否会真正听从它的建议。Dr. Ramani 很快指出了 BestInterest 中一个类似的弱点：如果你想从过滤后的消息中获得全部好处，你需要你的共同父母通过你应用分配的电话号码联系你——而让一个高冲突的共同父母同意这一点将是她所说的另一场巨大的、可能无法取胜的冲突。用户可能最终需要手动将前任的消息复制粘贴到应用程序中（就像他们中许多人可能已经在用 ChatGPT 做的那样）。
虽然 Dr. Ramani 认为科技行业“掌舵的人”是“自恋狂”，但她并不生他们最新发明（AI）的气。事实上，她认为某种形式的情绪拼写检查应该成为智能手机的内置功能。想象一下，一个 AI 过滤器“剥离掉”家庭群聊中的毒性，她说。想象一下一个 AI 约会助手，可以提醒你注意操纵性的短信。想象一下你自己的 Dr. Ramani“住在你的手机里”，她说，“就像坐在你肩膀上的理智天使。”这肯定能解决复制粘贴的问题。
但就目前而言，假设你想给你的共同父母发一条信息，内容是：“你真是个白痴，我不敢相信你做了这个，你病了，我受不了你，你真恶心，我讨厌你——你能下午 3 点接孩子吗？”当你把这条信息输入 OFW 时，Lighthouse 模型会将其标记为“消极”（Negative），Harbor 模型会生成一个更合适的替代方案：“我对这种情况感到担忧。你能下午 3 点接孩子吗？”你可以接受它，生成另一个，或者完全忽略 ToneMeter。
当你把完全相同的信息输入 BestInterest 时，AI 教练会告诉你，你的“强烈情绪”是“可以理解的”和“合理的”。然后它会说，发送一条包含如此强烈个人攻击的信息，虽然在当下可能会让人感到发泄，但“很可能会显著升级冲突”。然后它会问：“你是否考虑过用一个剥离了情绪内容、只关注实际问题回复？”也许像这样：“你能下午 3 点接孩子吗？”
那么，人类，感觉如何呢？
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区