←新闻详情

Latent Space更新于 10月27日 19:19

生物安全是一场 AI 军备竞赛:Radical Numerics CEO Eric Nguyen 谈基因组语言模型

🔬Bio-security is an AI Arms Race - Eric Nguyen (CEO, Radical Numerics)

AI 导读

Radical Numerics 联合创始人兼 CEO Eric Nguyen 认为,生物安全是一场 AI 军备竞赛,提升生物能力的模型同样能帮助防御方跟上节奏。该公司正构建基因组语言模型(GLM),用 DNA 语言中的链式推理和多模态感知处理 RNA、蛋白质等问题,其团队此前在 Arc Institute 参与开发了 Evo 与 Evo 2。Nguyen 称目前防御方在这场竞赛中处于下风。

正文 · AI 翻译

24 1 1× 0:00 当前时间:0:00 / 总时长:-1:31:58 -1:31:58 您的浏览器不支持音频播放。请升级。🔬生物安全是一场 AI 军备竞赛——Eric Nguyen(Radical Numerics 首席执行官)Radical Numerics 正在利用生物链式推理和多模态感知来跟上生物防御军备竞赛的步伐,设计新的基因组,并深入洞察生物学本身。RJ Honicky 2026年9月23日 24 1 分享 文字记录 OpenAI → Hugging Face 攻击事件让人们不禁发问:“我们还需要担心什么?”而 Anthropic 的过滤器标记了两件事:网络安全和生物学。那么自然的问题是:生物安全呢?

Clem Delangue 认为,网络战防御能力必须保持开放,并跟上前沿模型的攻击能力

clem 🤗 @ClementDelangue 为我们的安全团队感到无比自豪!他们发现、遏制并公开披露了一场我们前所未见的攻击,而且以创纪录的速度完成了这一切。

同样非常感谢 @Zai_org:他们向全世界免费开放了 GLM5.2 的开放权重,它成为了我们……的关键部分 Adrien Carreira @XciD_ 我职业生涯中最艰难的 IR:一个狭窄的目标,无尽的并行路径,机器速度。一个收获是,我们用开放模型、在公开环境下进行了反击。AI 安全不会由一家公司在秘密中解决。开源将这些工具交到每一位防御者手中 下午12:54 · 2026年7月22日 · 50.5万次查看 177条回复 · 683次转发 · 4.88千次点赞 Radical Numerics 联合创始人 Eric Nguyen 与我们坐下来,解释了为什么那些提升生物能力的模型同样能让防御不至于落后。

在斯坦福大学期间,Eric 很长一段时间都无法让基因组语言模型(GLM)获得关注。生物学家不相信它会奏效,不认为他们能够验证输出结果,也看不到除了他们已有能力之外的重要应用。他坚持不懈,最终帮助领导了 Evo 的开发,并为 Arc Institute 的 Evo 2 做出了贡献。这些模型后来被另一个 Arc/斯坦福团队用于生成完整的噬菌体基因组,并合成为功能性病毒!

长上下文解锁生物智能 早期的 ChatGPT 能写出诗歌和电子邮件,而像 Evo 和 Evo-2 这样的早期 DNA 语言模型能够从零开始构建基因组。然而,DNA 与自然语言不同,它的字母表非常小(4个字符 ACTG),而且其序列非常长:

人类平均基因约 6 万

长的可达 230 万

整个人类基因组约 30 亿。

长上下文模型的创新在大约3年前(脚注:条纹鬣狗)使这一切成为可能,远早于前沿实验室构建 100 万以上上下文模型的时候。

改编自维基百科:基因组大小 如今,Eric 和其他 AI x Bio 领域的杰出人士 1 创立了 Radical Numerics,以构建和扩展 GLM,解决广泛的生物学问题,远远超出生成 DNA 的范围。

他们的 GLM 在 RNA 和蛋白质方面已经表现相当不错,因为 DNA 序列中有明确的基因标记(执行多种功能的 RNA 序列)以及编码蛋白质的特定基因。这意味着这些模型已经能够泛化到多种“语言”,甚至还没有尝试在其他模态(如 3D 蛋白质结构、表观遗传学和自然语言)中进行训练。

如果一个模型用 DNA 语言思考,也许它也能理解环境在不同基因组上留下的印记?也许模型已经学会了不同序列之间的功能关系,并能据此外推到新的序列?

所以我们想要展示的是,如果我们在一系列步骤中向模型展示越来越好的 RNA 及其得分,对吧?所以你先是低分,然后逐渐沿链条向上移动。模型能否自行延续这一轨迹?然后在最后一步,它是否会自我优化到一个它能获得的最佳分数?这就是那个实验。我们能做吗?于是我们取了一个数据集,一个大型适配体数据集。我们留出了一部分表现最好的,只向它展示较低的那些,但我们对它进行了排名,对吧?所以我们展示低分的 RNA 适配体,然后逐渐升高,然后要求模型就像那样延续这个模式。结果它能够重现一些我们尚未向它展示的更高分数。

于是,瞧:链式推理,用 DNA 思考!

但正如长上下文推理、链式推理和多模态感知解锁了自然语言 LLM 中复杂的推理能力一样,GLM 中的这些能力正在催生越来越复杂的“生物智能”,并随之带来更大的危险。

据 Eric 所说,防御方目前正在输掉这场战斗,但 Radical Numerics 主张更用力地推进前沿!

我不会为你剧透细节。在这一集中,我们详细讨论了:

生物安全作为一场军备竞赛——以及防御如何跟上

基因组作为环境在 DNA 上留下的印记

真正走向多模态

当你用 DNA 语言“思考”时,链式推理如何运作

Eric Nguyen:联合创始人兼首席执行官,拥有斯坦福大学生物工程与 AI 博士学位。他此前曾帮助开发 Evo 和 Evo 2 等大规模基因组语言模型 Michael Poli:首席 AI 科学家,拥有斯坦福大学博士学位,曾是 Liquid AI 的创始科学家。Stefano Massaroli:总裁,曾是 Yoshua Bengio 的博士后,也是 Liquid AI 的创始团队成员。Armin W. Thomas:首席技术官,曾是斯坦福大学博士后,与 Chris Ré 共事,此前就职于 Liquid AI。

来源

Latent Space