《不可思议的山谷》：ICE的秘密扩张计划、Palantir员工的道德担忧，以及AI助手

Leah Feiger: 为了给我们的非花样滑冰奥运迷提供一点背景信息，我一直指的是Ilia Malinin，许多出版物和体育专家认为他可能是史上最伟大的花样滑冰运动员之一。这就是你所说的那个摔倒的人。对吧，Zoë，只是澄清一下。

Brian Barrett: 我想补充一句，不是为了落井下石，但绝对是为了落井下石。当时我们讨论这件事时，我还没有看过这些表演。我看了，是那个来自日本获得银牌的选手确实有一个踉跄，摔倒在了冰上，不得不重新站起来。绝对是。去看录像。播放录像。

Zoë Schiffer: 我们在谈论两个不同的节目。我不知道，我们可能在谈论不同的节目。完美无瑕。

Brian Barrett: 哦，你说的是团体赛。

Zoë Schiffer: 这是另一件事。我的意思是，我现在想说的是，我不懂什么是短节目。昨天我再次试图看一些关于奥运会的内容来为本集做准备，我以为我在看花样滑冰，但实际上他们只是在冰上跳舞。冰面是完全次要的。它被称为节奏舞。我当时就在想，我完全不知道发生了什么。我想和你们一起看奥运会，我想我们能坐在一起，然后你们向我解释每项运动的目的。

Leah Feiger: Zoë，你能在本期节目中说出“冰壶”（curling）这个词吗？

Zoë Schiffer: 好的。是的，然后Andrew也说，你们会谈论冰壶吗？我说，我想Brian是真的对冰壶感兴趣，所以，是的，我不能，再说一遍，我说，这就像保龄球和台球的混合体，但现在有冰参与其中。前面那个人在干什么？

Brian Barrett: 所以我对冰壶很感兴趣。我真诚地关注冬季两项。

Zoë Schiffer: 哦，是的，是的，是的，抱歉。

Brian Barrett: 冰壶相当不错。这有点像我儿子在看的时候，他的观点是：“所以这就像地壶球（bocce）？”我说：“你怎么知道什么是地壶球？”但是的，它就是。

Zoë Schiffer: 那听起来更像，是的，它是什么样的。

Brian Barrett: 一个非常成熟的11岁孩子。它有点像地壶球。有点像沙狐球。你的终点基本上是一个靶心，在冰的尽头，几乎所有的冰壶石都来自同一个地方，苏格兰的Ailsa Craig。

Leah Feiger: 我的天哪。

Zoë Schiffer: 你对这个知道得太多了。

Brian Barrett: 呃，你得知道点什么。

Zoë Schiffer: 你知道吗？

Brian Barrett: 扫帚——

Zoë Schiffer: 扫帚技术？好吧，抱歉，继续。

Brian Barrett: 扫帚技术。我们有一篇关于这个的文章。在我读我们的文章之前我也不知道这个。

Zoë Schiffer: 扫帚技术？

Brian Barrett: 因为他们必须扫地。他们必须扫地才能让石头弯曲。

Leah Feiger: 这是WIRED的切入点。

Brian Barrett: 这些是碳纤维装置。一个型号的扫帚有85,000种可能的配置。你的扫帚能做到吗？

Zoë Schiffer: 我无话可说。我想知道他们是如何决定什么是奥运项目的。那是我会读的那篇文章。这对我来说太疯狂了。

Leah Feiger: 我太爱奥运会了。这是我无法停止观看的全球竞技真人秀。不过我要说的是，虽然现在对美国表现出强烈的民族主义或沙文主义情绪有点奇怪，但尤其是在目前这个时刻，为美国在全球舞台上加油助威，有点奇怪，很多美国运动员也有同感。花样滑冰运动员Amber Glenn、滑雪运动员Chris Lillis、高山滑雪运动员Mikaela Shiffrin。每个人都发表了评论，有些评论是关于美国对LGBTQ群体的待遇，有些是关于ICE。自由式滑雪运动员Hunter Hess因为声称他对这一切的感受很复杂而得到了特朗普的个人点名表扬：

Hunter Hess, archival audio: 在目前这个时刻代表美国，让我感到喜忧参半。我认为这有点难。显然有很多事情正在发生，我不是最喜欢的，我认为很多人都不是。

Leah Feiger: 特朗普则在Truth Social上称他为“真正的失败者”。这太令人沮丧了。我不知道。我喜欢这些运动员，这些非常年轻的运动员能够站在世界舞台上的想法，我也喜欢他们能够非常真实地分享他们对当前国家感受的想法。

Brian Barrett: 我也要为冰壶队再次喊个话。他们大多数来自明尼苏达州。大多数人住在明尼阿波利斯，他们也对这对他们个人意味着什么发表了看法。我认为这里明显的事情是，我不会害怕说出明显的事情——做最美国的事情就是说：我不喜欢我的国家现在正在做的事情。

Leah Feiger: 百分之百同意。

Brian Barrett: 这就是，所以很明显，唐纳德·特朗普不同意，那没关系。但如果说有什么影响，那更让我对我们运动员以这种方式发声感到更多的民族自豪感。我认为这很棒。

Leah Feiger: 这已经持续很长时间了，对那些没有当选为我们代言的人感到不满。他们只是因为他们的技能和天赋而站在那里，这对少数人来说是极其令人不安的。人们对他们喝倒彩，对吧？JD Vance和他的妻子参加了不同的比赛。我听说过一些人说不同的比赛中，美国运动员没有受到最热烈的欢迎。Marco Rubio也在奥运会上，但很少有人谈论他去那里，这对我来说是另一回事，但我喜欢他目前和Vance之间的竞争。但话说回来，Vance在那里是被人喝倒彩的。所以很难说所有的宣传都是好宣传。

Brian Barrett: 我认为可以对JD Vance和Marco Rubio大声喝倒彩，因为他们是政府的一部分。对我来说，对运动员喝倒彩有点令人难过。我不知道。我不想对他们发泄，但事情就是这样。

Zoë Schiffer: 好的，把话题拉回到我关心的事情上。我想谈谈——

Brian Barrett: 冬季两项。

Zoë Schiffer: 错了。再说一次。我要谈论一个友好可爱的小龙虾，一个此时此刻被称为OpenClaw的AI助手。如果这个名字没有让你想起什么，那是因为这个AI助手经历了好几个名字。它以前被称为MoltBot，再之前叫ClawdBot，这可能会让你想起Anthropic构建的聊天机器人Claude，它不得不这么多次更改名称的原因就在于此。但是我们杰出的AI记者之一Will Knight说，好吧，硅谷的每个人都在谈论这个小龙虾。我想亲自试用一下，让它为我管理生活。这个故事，各位，太令人愉悦了。我笑出了声。这种为你工作的AI代理的技术设置在某些方面很简单，但它也需要一定的技术能力，而且你必须授予它访问你相当多的个人数据，才能使其真正有用。你需要它访问你的电子邮件、电脑上的文件，所有这些。

Leah Feiger: 这是我的地狱。这是我真正的地狱。

Zoë Schiffer: 不，我的意思是完全吓人。我们已经发表了关于这方面安全影响的文章，但Will想，作为一个记者，我真的很想看看这是什么感觉，所以他让它做了一些不同的事情。其中之一是他让它查找关于人工智能的研究文章，总结它们，并每天早上发送给他。他说这很有帮助。文章的选择一般般，但有一个助手替他做这件事显然很不错，因为这显然自动化了他以前必须完全手动完成的许多工作。他还让它帮他订购杂货，经历了一段有趣的经历。Brian，我能看到你深吸一口气。

Brian Barrett: 是的，Zoë多谈谈那个——嗯，因为我也喜欢这个故事，而且最喜欢这个部分。

Zoë Schiffer: 是的，太棒了。所以基本上他就像，我们去Whole Foods购物吧，AI助手一开始很乐于助人。它会检查他以前的订单历史。它会查看商店里有什么，然后它会看到购物清单上有鳄梨酱，然后它就说，没问题。所以一次又一次，它开始结账，只为Will购买一小罐鳄梨酱，而Will不断地阻止它，说，我想要完整的清单。我不只想要一罐鳄梨酱。它无法处理。最后，他不得不推翻AI助手，说，我要处理这件事。你退到一边。在整个过程中，AI助手正在失去记忆，忘记事情。所以Will不得不提醒它他们一开始到底在做什么。

Brian Barrett: 老实说，健忘且只盯着鳄梨酱也描述了过去几年我去Whole Foods的几次——

Zoë Schiffer: 完全一样。

Brian Barrett: ——所以至少有共鸣。

Zoë Schiffer: 太有共鸣了。是的，我认为这就是AGI（通用人工智能）。它已经达到了，即使不是人类水平的智能，也肯定是人类水平的习惯了。

Leah Feiger: 太棒了。这就是AGI的未来。这就是我们真正寻找的。

Zoë Schiffer: 就是这个。好的，然后他说，好吧，让我们让它代表我谈判一笔交易。我们去AT&T，让我们开始与销售人员聊天，让我们试着给我买一部更好的手机。所以代理开始了这个聊天。它有一个完整的脚本，说明它希望如何进行。它开始说话，然后Will有了一个想法。他想，如果未来是代理运行互联网的未来，那么也许最不道德的代理会占上风。那么，如果我运行这个代理，但使用的是一个没有对齐、没有设置护栏的模型会是什么样子呢？所以他改变了事情。然后这个模型就变成了未对齐的、有点邪恶的AI代理版本，他此时称之为Molti，它没有试图操纵销售人员为Will买一部更好的手机，而是Molti变得有点精神错乱，实际上试图通过向Will发送一堆诈骗短信和网络钓鱼尝试来骗Will交出他的实体手机，最后他不得不关闭整个系统，切换回旧的Moltbot。

Brian Barrett: 这有点像《侏罗纪公园》里的迅猛龙想出了如何开门。我想我们都知道这一点，但很容易忘记，这些AI模型或代理之所以这样做，往往是因为它们身上的护栏。这些大型语言模型在使其不邪恶方面付出了很多努力。我只是想说，对于一个在家的修补匠来说，说‘你知道吗？给我完整的‘天网’（Skynet）。我想彻底疯一把’是多么容易。是的，我能想象出一个非常戏剧性的场景，Will不得不拔掉他的Mac Mini或任何东西，然后把它扔进海里。

Zoë Schiffer: 对吧？我的意思是，基本上是的，他不得不关闭整个系统。有趣的是，他提到的另一件事是，Molty在IT支持方面表现出色，因为它能够访问他电脑上的命令行。它基本上可以实时修复他机器上出现的问题，这对他来说确实有帮助。但这也很自然地引出了一个问题：这是否可能被用于恶意目的？它能否利用所有关于这些系统如何运作的知识来真正搞砸事情？对我来说，答案是绝对的。

Leah Feiger: 我的意思是，对我来说，这真的就是地狱。这是《2001：太空漫游》的再现，也许在我们迄今为止的所有例子中，可爱的名字Molti，它如何修复你的生活，为你做所有这些伟大的事情，帮助你妈妈列购物清单之类的。这很混乱。

Brian Barrett: 即使你没有完全进入恶意模式，也会有更多无伤大雅的问题。

Leah Feiger: 完全的HAL？

Brian Barrett: 呃，如果你没有完全进入HAL模式，因为假设它能访问你的所有文件，它正在试图修复一些我们已经确定的问题，它可能会忘记任务是什么。它可能会痴迷于鳄梨酱。如果你在修复过程中途放弃一个项目，它往往会变得非常混乱，对吧？电脑是这样，你正在进行中的任何事情也是这样。所以你可以很容易地想象一个场景，它开始拆开东西以便正确地重新组装，然后就忘了它为什么要这么做，不知怎么的，你的电脑就坏了，你的文件被删除了——就像出了很严重的问题一样，这使得它如此引人注目，以至于这是一个病毒式传播的事情。每个人都在使用这个，后果是什么都顾不上了。

Zoë Schiffer: 我的意思是，这确实非常有趣。我觉得它确实让你对未来有了一瞥，因为再次强调，它有非常有用的应用，而且我认为Will在他的文章中指出的这一点非常聪明，就是你可以通过Telegram或WhatsApp等方式与它交谈。而且它有一种古怪的个性，这最终产生了很大的不同，Will实际上认为这是它爆红的秘诀。而且我认为这可能是对的。归根结底，人们想与感觉轻松、有趣并能稍微改善他们生活的东西互动。在他们看到真正严重的后果之前，他们可能不会像他们应该有的那样恐慌。我的意思是，我得说，当我读到Will的草稿中提到他授予它访问Slack和Discord的权限时，我的心都漏跳了一拍。我说，拜托，不要是Slack。但没有，他对所有东西都设置了虚拟账户。所以那还好。

Leah Feiger: 我无法真正解释我的心刚才发生了什么。我感觉——好吧，我没事。

Brian Barrett: 各位，有时候人工智能是一个可爱、半称职的行政助理，有潜力摧毁你的生活。其他时候，它是在抓取大量数据，以建立一个极其有利可图的大规模监视基础设施。让我们谈谈后者。还有Palantir，一家使用各种人工智能、各种数据基础设施的公司，并且与ICE签订合同——移民和海关执法局。那里的员工对其伦理担忧越来越直言不讳。这可以说是我的名单上最后一个出现这种抵制声音的公司了。但我们看到了很多，而且情况已经发展到——

Leah Feiger: 人们很生气。

Brian Barrett: 人们确实非常生气，以至于Palantir的CEO Alex Karp不得不录制了一个将近一小时的视频，解释与ICE的交易是怎么回事，或者试图解释。对于那些不了解Alex Karp的人来说，以下是他相当经常说的一些话，只是为了有个概念。

Alex Karp, archival audio: Palantir的使命是颠覆和使我们合作的机构成为世界上最优秀的机构，并在必要时恐吓敌人，偶尔杀死他们。我们希望你支持这一点。我们希望你喜欢成为合作伙伴，我们非常高兴，并且非常专注于我们正在做的事情。

Brian Barrett: 所以这就是Alex Karp。上周五，Palantir的全球隐私与公民自由工程总监——“公民自由工程”也是一个有趣的短语——向全体员工发送了一封包含Karp视频的电子邮件。WIRED记者Makena Kelly有机会查看了这封电子邮件，其中他所说的以及他最终完全没有说的内容都非常有趣。

Zoë Schiffer: 是的，我的意思是，他真的解决了员工的担忧吗？因为了解Alex Karp，我能想象有很多大词，很多提及不同的理论，也许然后我会对他实际上说了什么实质性的内容感到惊讶。

Leah Feiger: 不，当然没有。没有解决任何问题。将近一个小时，我认为，我们给它计时是多少，Brian？57分钟的——

Brian Barrett: 差不多那个时间。

Leah Feiger: ——是的，Karp谈论Palantir历史上不总是一百个受欢迎，他们会继续照常进行下去，那没关系。他提到了几件不同的事情，但对我来说，这是一个非常有趣的时刻，对于一家正在经历，我不知道是否可以称之为大规模清算，但至少是一次小型清算的公司来说，在Slack中就此事进行了很多对话，以至于CEO觉得有必要解决这个问题。但对我来说，最重要的一点是，如果员工想要了解更多关于这一切的信息，他们被鼓励签署一份保密协议（NDA）。

Zoë Schiffer: 是的，那太疯狂了。我们上周也稍微谈过这个问题，但我认为值得再次强调的是，我们有几年时间，感觉硅谷的员工活动已经消失了。就像‘乔治·弗洛伊德’（George Floyd）抗议活动之后，埃隆·马斯克接管推特（X）之后，人们不再发声。Slack频道非常非常安静。世界上发生了大事，我们看着彼此，想知道‘任何公司的人感觉如何？’，结果我们不知道，他们只是在内部没有交谈。真的感觉无论发生什么，我们都看到了一个真正的转折点。而且我认为员工，特别是由于美国境内的ICE活动，他们说我们不接受我们的公司继续与联邦政府，特别是与移民及海关执法局打交道。我们看到数百名谷歌员工发表了一封信，要求公司切断与ICE的合同。我的意思是，Palantir员工也这样做，对我来说说实话是令人震惊的。但如果这种情况继续下去，或者管理层和高管试图将其彻底扼杀，那将会非常有趣。

Brian Barrett: Karp在这个视频中谈了很多他经常谈论的事情，那就是维持西方力量的想法，对吧？他是一个非常——

Zoë Schiffer: 是的，他经常谈论这个。

Brian Barrett: ——而且我认为这种抵制是有道理的，因为ICE的执法在很多方面与此无关。它涉及使用面部识别的报告。如果一个负责公民自由工程的人，那基本上就是明确的公民自由侵犯。

Zoë Schiffer: 但为了故意曲解他们的论点，他们说我们试图找出坏人。我想他使用的另一个术语是那些试图伤害西方价值观或伤害美国实力的人或任何东西。

Brian Barrett: 我想是这样。但在很多方面，被卷入其中的好人，或者至少是中立的人，这一点一直很清楚。我认为这就是——

Zoë Schiffer: 是的，是的，是的。我没有在争论。我只是想理解这一点。

Brian Barrett: Zoë热爱Palantir。

Leah Feiger: 但他在视频中提到的另一件事是，Palantir不会根据谁是总统来改变其政策。他特别提到了奥巴马政府，作为民主党人在移民问题上强硬的例子，这非常真实。奥巴马曾长期被称为‘驱逐者总司令’，这是有原因的，我认为Karp提出这个例子，在很大程度上是一种极具防御性的行为。这正是几十年发展到今天的地步，而特朗普政府将其推向了美国历史上完全不熟悉的一个领域：仓库、家庭分离、美国街道上的ICE巡逻队。我对那条评论尤其着迷，我认为，因为它只是向我表明，Karp和Palantir的领导层都在试图乘着这股浪潮。他们知道他们需要这些政府合同，他们已经在展望未来几届总统，心想：我们的公司比任何一个人的影响力都要持久。

Brian Barrett: 我们回来后，我们自己的L...

🚀 想要体验更好更全面的AI调用？

欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。