📢 转载信息
原文链接：https://www.wired.com/story/a-filmmaker-made-a-sam-altman-deepfake-and-got-unexpectedly-attached/
原文作者：Jason Parham
导演亚当·巴拉·劳夫（Adam Bhala Lough）最初的目的并非是制作一部关于数字版山姆·奥特曼的纪录片。
但在声称给OpenAI首席执行官发了大约100天的短信和邮件都没有得到回复后，并且投资人正催促他兑现最初的提案，劳夫感到了走投无路。
他几乎尝试了所有方法。“一旦到了那个阶段，我就放弃了，转而采取了强行闯入OpenAI的策略，”他说。尽管他在2023年获得艾美奖提名的纪录片《电话推销员》（Telemarketers）中也采用了类似策略——该片揭露了电话推销行业的系统性腐败——但这并不是一种他感到非常舒服的拍摄风格。“那像是一个堡垒。我设法溜过了大门，但保安立刻抓住了我，并将我从现场物理驱逐出去。”
这就是劳夫的纪录片《深度伪造山姆·奥特曼》（Deepfaking Sam Altman）的开端，该片描绘了AI如何重塑社会，以及他试图与幕后人物对话的经历。当他的初始计划失败后，他从奥特曼本人那里获得了灵感。“斯嘉丽·约翰逊的争议爆发了，”他说。2024年，这位女演员公开谴责OpenAI，称其新的人工智能语音助手Sky的声音似乎模仿了她。（在2024年5月的声明中，奥特曼向约翰逊道歉，并表示Sky的声音“从未打算模仿”她的声音。）
最初只是一个简单的声音克隆，随后发展成一个名为“山姆机器人”（Sam Bot）的完整深度伪造，劳夫带着这个项目前往印度进行制作。但在这部劳夫的电影中，没有什么是按计划进行的。在不剧透太多细节的情况下，“山姆机器人”最终成为了一个独立实体，电影也由此进入了一个更奇异、更具启发性的深层探讨。“这部电影和《终结者2：审判日》有相似之处，但没有暴力元素，”他说。劳夫在所谓的“AI 1.0时代”长大。他对詹姆斯·卡梅隆的《终结者2》的痴迷，对他技艺的形成产生了重大影响。
《深度伪造山姆·奥特曼》部分取材于《纽约杂志》将山姆·奥特曼描绘成我们这个时代奥本海默的文章，片中包含了前OpenAI安全工程师海蒂·克拉夫（Heidy Khlaaf）的评论。她告诉劳夫：“我们开始看到OpenAI将触角伸向军事用途，我无法想象像Dall-E和ChatGPT这样的系统被用于军事辅助。考虑到这些系统的不准确性，这真的让我感到恐惧。”
在回应置评请求时，OpenAI将WIRED引向了其使用政策，该政策规定人们不得使用其服务进行“武器开发、采购或使用，包括常规武器或[化学、生物、放射性、核和高当量爆炸物]”。
在某些方面，劳夫表示，在拍摄这部作品之前和之后，他对AI的看法变得更加积极。
他在纪录片中说道：“我从没想过‘山姆机器人’会像那样哀求自己的生命”，后来他承认这个深度伪造已经成为了他的“朋友”。
“我并不是现在AI的狂热倡导者。但这部电影真的让我思考，我们距离实现人与AI之间真正的关系已经非常接近了。我知道有些人已经建立了这种关系，但普通大众也会如此，”他告诉WIRED。“如果你处于一个别无选择、并非自己选择孤独的境地，我认为AI是一件好事。它可以在这方面提供帮助。但我们不应该开始用AI来取代人类。我划清的界限就在于此。”
这部由Hartbeat和Vox Media Studios联合制作的影片，将于1月16日在纽约进行限制放映，并于1月30日在洛杉矶放映。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区