文字记录

[音乐]

ERIC HORVITZ: 您正在收听的是《Ideas》，一档深入探讨技术研究和代码背后深刻问题的微软研究院播客。我是微软首席科学官Eric Horvitz，在本系列中，我们将探讨塑造我们未来的技术以及推动它们发展的重要思想。

[音乐淡出]

今天，我很高兴能谈论“释义项目”（Paraphrase Project），这是一个我共同领导的努力项目，旨在探索AI在蛋白质设计方面的进展如何可能影响生物安全。结果报告在我们最近发表于《Science》杂志上的论文中，题为《针对生成式蛋白质设计工具加强核酸生物安全筛选》，发表于10月2日。

与我同行的还有该论文的几位主要合著者：微软高级应用科学家Bruce Wittmann；Twist Bioscience副总裁兼国际基因合成联盟（International Gene Synthesis Consortium）董事会主席James Diggans；以及国际生物安全与生物防范科学倡议（IBBIS）的技术负责人Tessa Alexanian。

现在，让我们回溯到两年前。差不多就在同一天，Bruce和我发现了一个漏洞。在为一次关于人工智能与生物安全的研讨会准备案例研究时，我们发现开源的AI蛋白质设计工具可以被用来重新设计有毒蛋白质，使其能够绕过生物安全筛选系统——这些系统旨在识别令人担忧的合成订单。

在当时的工作中，我们利用开源工具创建了一个AI流程，可以基本上“释义”（paraphrase）氨基酸序列——即重新构建它们，同时努力保持其结构和潜在功能。

这些被释义的序列可以避开主要DNA合成公司使用的筛选系统，而这些系统是科学家们依赖它们来安全生产AI设计蛋白质的保障措施。

该领域的专家将这一发现描述为AI和生物安全的第一个“零日漏洞”（zero day）。这标志着一项深入的、为期两年的协作努力的开始，旨在调查和解决这一挑战。

在强大的跨部门团队（包括James、Tessa、Bruce以及其他许多人）的帮助下，我们在幕后努力构建了AI生物安全“红队测试方法”（red-teaming approaches），探测漏洞，并设计实用的修复方案。这些“补丁”，类似于网络安全中的补丁，现已与全球组织共享，以加强生物安全筛选。

这便是我有幸参与过的最引人入胜的项目之一，因为它涉及技术复杂性、伦理和政策层面，以及跨行业、政府和非营利部门的非凡合作。

该项目突显了那些有能力带来巨大益处的AI工具也可能被滥用，这要求我们保持警惕、深思熟虑和富有创造力，以便我们能够持续从AI工具中获得最大益处，同时努力确保我们避免代价高昂的误用。

话不多说，让我正式欢迎我们的嘉宾。

Bruce, James, Tessa，欢迎做客播客。

BRUCE WITTMANN: 谢谢，Eric。

JAMES DIGGANS: 谢谢您的邀请。

HORVITZ: 与各位紧密合作对我来说是一种荣幸，不仅因为你们的专业知识，更因为你们对公共卫生和全球安全的深刻承诺和热情。

在深入探讨技术细节之前，我想请各位分享一下，你们是如何进入这个领域的？是什么激励你们成为生物学家，然后又去探究AI进步对生物安全的影响？Bruce？

WITTMANN: 嗯，我一直喜欢制造东西。这就是我的起点。你知道，Eric，在我不研究生物学或AI事务的时候，我的爱好是在家里做些建筑改造之类的，对吧？做施工之类的事情。

但我更广泛的兴趣一直都是生物学、化学。所以我最初接触的是有机化学。我发现那非常迷人。从那里，我转向了合成生物学，特别是代谢工程，因为这有点像有机化学，但你是在将生物体新陈代谢的不同部分连接起来，而不是不同的化学反应。在我从事这个领域工作时，我隐约想到，肯定有一种更简单的方法来做这件事 [笑声]，因为进行任何类型的代谢工程都非常困难。这就是我进入AI领域的原因，试图解决这些非常复杂的生物学问题，试图构建我们甚至不一定理解的东西，通过我们从数据中获得的理解，或者从数据中推导出理解。

所以，你知道，这就是我如何走到今天这条曲折的道路——我到达今天的抽象方式。

HORVITZ: 那么，Tessa，是什么激励你投身于这个领域，聚焦于生物学和生物科学，并帮助我们避免灾难性的后果呢？

ALEXANIAN: 是的，我想我真正对生物学感到兴奋的起源其实是一本名为《细胞生命》的书，作者是Lewis Thomas，这是一本非常优美的散文集，让我心想，哇，生命真是太神奇了。我记得我12、13岁时读了它，我说，生命太不可思议了。我想从事这个领域的工作。这是最美的科学，对吧？然后在大学里，我学习工程学，听说有一个工程生物学团队——就是iGEM团队——我加入了，我想，哦，这太酷了。我真的很想在这个合成生物学领域工作。

然后我也尝试做了湿实验生物学，我心想，哦，但我其实不喜欢这部分。我其实不喜欢像照看微生物那样盯着它们。[笑声] 我觉得……有些人是出色的湿实验生物学家，他们有着非常坚强的意志。他们真的很喜欢弄清楚如何重新设计他们的阴性对照，以便他们能判断是污染还是温度波动造成的。显然我不是那种人。

所以我最终成了一名实验室自动化工程师，因为我可以帮助科学发生，但……我的职责是机器人和计算机，而不是那些有点固执的微生物。

HORVITZ: 是的。我在想那些坚强的灵魂；他们过去也用嘴吸移液管吸取这些受污染的液体……

WITTMANN: 现在不会了。 ALEXANIAN: 没错。[笑声]

DIGGANS: 现在不会了。[笑声]

ALEXANIAN: 他们过去更坚强。他们过去更坚强。

HORVITZ: James。

DIGGANS: 我本科读的是计算机科学和微生物学，主要是因为当时我无法决定更喜欢哪一个。我两个都喜欢。等到我毕业时，我很幸运地意识到两者的交叉点可以成为一个领域。于是我获得了计算生物学博士学位，然后我在麻省理工学院（MITRE Corporation）工作了五年，那是一家非营利组织。我获得了与美国生物防御社区合作的机会，亲眼目睹了一群致力于保护部队和广大民众免受生物威胁的杰出人士，学到了很多关于生物学和“双重用途”风险的知识。所以当Twist给我打电话，问我是否愿意加入Twist并建立他们的生物安全项目时，我抓住了这个机会，在过去的十年里一直在做这件事。

HORVITZ: 好的，感谢各位。

我相信，特别是AI驱动的蛋白质设计，是现代科学中最激动人心的前沿领域之一。它在医学、公共卫生乃至材料科学方面都蕴藏着突破的潜力。我们已经看到它带来了新的疫苗、新颖的疗法，并在科学层面上，对生命机制的强大洞察。

因此，未来还有更多的工作要做，尤其是在AI如何帮助我们促进健康、长寿和疾病预防方面。但在我们走得太远之前，虽然我们的一些听众从事生物科学工作，但许多人可能对一些基础知识没有充分的了解。

所以，Bruce，你能否给我们一个蛋白质的高层次概述？它们是什么？为什么它们很重要？它们如何融入人类设计应用中？

WITTMANN: 当然。是的。很幸运，我以前教过一门关于AI在蛋白质设计中应用的课程，所以这正是我擅长的领域。[笑声]

HORVITZ: 太完美了，背景很完美。[笑声]

WITTMANN: 很完美。是的。我得以回顾所有这些。是的，从最基本的层面来说，蛋白质是生命的“主力军”。

我们体内发生的每一种化学反应——好吧，我们体内几乎发生的每一种化学反应——我们细胞的大部分结构，你随便说吧。任何生命过程，蛋白质都起着核心作用。

现在，蛋白质由所谓的……好吧，我不该说“编码”。它们是由被称为氨基酸的物质构建的——有20种——根据你串联这些氨基酸的组合和顺序，你会得到不同的蛋白质序列。这就是我们所说的蛋白质序列的含义。

蛋白质的序列决定了它在细胞内折叠成什么形状，而这个形状决定了蛋白质的功能。所以我们常说序列决定结构，结构决定功能。

现在，我们在蛋白质工程中面临的挑战是可能性有多大。在实际操作中，它是无限的。我们有20个构建模块。一个蛋白质平均约有300个氨基酸。所以那是20的300次方种可能的组合。一个常见的参考点是，据估计，可观测宇宙中大约有10的80次方个粒子。所以可能性组合的数量是天文数字，而蛋白质工程师的工作就是在这个潜在蛋白质的空间中找到一个或几个能做我们想让它做的事情的蛋白质。

因此，当人类有一个想法，比如“好吧，我希望蛋白质能做到这个”，我们有各种技术来寻找所需的蛋白质，其中一种就是使用人工智能，试图在这些潜在蛋白质的海洋中进行筛选，或者，正如我们将在本次播客中更多讨论的，实际地生成它们。也就是说，以某种方式创造它们，从一个合理的蛋白质分布中采样。

HORVITZ: 很好。所以我想现在请James来谈谈蛋白质设计如何从计算机走向现实——从in silico（计算机模拟）到试管中。Twist Bioscience [Twist Bioscience] 在将数字蛋白质设计转化为合成蛋白质方面扮演着什么角色？也许我们也可以谈谈贵公司有哪些安全措施，以及我们为什么需要它们。

DIGGANS: 所以，Bruce所描述的所有这些蛋白质都是由DNA编码的。因此，我们的细胞用来存储如何制造这些蛋白质的信息的语言都编码在DNA中。因此，如果你作为一个工程师设计了一种蛋白质，并想测试它是否能完成你预期的功能，第一步是制造出编码该蛋白质的DNA，而Twist这样的公司就承担着这一角色。

然而，我们也意识到，这些是…… [内容被截断]

🚀 想要体验更好更全面的AI调用？

欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，小白也可以简单操作。

青云聚合API官网https://api.qingyuntop.top

支持全球最新300+模型：https://api.qingyuntop.top/pricing

详细的调用教程及文档：https://api.qingyuntop.top/about