📢 转载信息
原文作者：Rhiannon Williams
聊天机器人非常擅长构建复杂的对话和模仿富有同情心的行为。它们从不厌倦聊天。因此，毫不奇怪，现在有这么多人将它们用作伴侣——建立友谊甚至恋爱关系。
根据非营利组织Common Sense Media的一项研究，72%的美国青少年使用AI进行陪伴。尽管一些大型语言模型被设计成充当伴侣，但越来越多的人正在追求与通用模型（如ChatGPT）的关系——这一点连OpenAI的首席执行官Sam Altman都表示赞同。虽然聊天机器人可以为某些人提供急需的情感支持和指导，但对其他人来说，它们可能会加剧潜在的问题。与聊天机器人的对话已被与AI诱发的妄想、强化错误甚至危险的信念以及使人们产生自己“解锁了隐藏知识”的错觉联系在一起。
情况变得更加令人担忧。正在对OpenAI和Character.AI提起诉讼的家庭声称，他们模型的伴侣式行为导致了两名青少年自杀。自那以后又出现了新的案件：Social Media Victims Law Center在2025年9月对Character.AI提起了三起诉讼，并在2025年11月对OpenAI提起了七项申诉。
我们开始看到针对AI伴侣进行监管和遏制不当使用的努力的开端。9月份，加利福尼亚州州长签署了一项新法规，将迫使最大的AI公司公开说明他们为确保用户安全所做的工作。同样，OpenAI也在ChatGPT中引入了家长控制功能，并正在开发一个专为青少年设计的新版本聊天机器人，并承诺将提供更多安全护栏。因此，虽然AI陪伴在短期内不太可能消失，但其未来正变得越来越受监管。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区