Hugging Face 发布开源 DNA 模型 Carbon-X,可在笔记本本地运行
Hugging Face’s New AI Biology Model Lets You Chat With DNA | WIRED
Hugging Face 周四发布开源 DNA 理解模型 Carbon-X,可在笔记本本地运行,用户能用自然语言询问 DNA 变化对基因活性和健康的影响。该模型与中关村学院和那不勒斯费德里科二世大学的研究者合作开发,基于已有语言模型扩展词表以六字母为单位读取 DNA,并在 3000 亿 token 的 DNA 序列、英文文本和 DNA 与生物描述对应样本上继续训练。模型为 14B 参数,单次可处理约 5 万碱基对的序列,不能上传完整人类基因组;开发者也说明尚未通过湿实验验证预测准确度。
推荐理由
AI 评分 71
Carbon-X 把 DNA 序列与自然语言放进同一个对话界面,并给出 14B 参数可本地运行的取舍,读者可据此判断基因组问答的可用边界。
主题
正文 · AI 翻译
00天:00小时:00分钟:00秒加入我们在迈阿密的行列查看完整阵容
人工智能平台 Hugging Face 周四发布了一款新的开源模型,用于理解 DNA,可在笔记本电脑上本地运行。
该模型由 Hugging Face 与中国中关村学院和意大利那不勒斯费德里科二世大学的研究人员合作开发,基于基因组序列和自然语言进行训练,使人们可以就 DNA 变化对基因活性和健康的影响提出问题,并获得对话式的回答。
Hugging Face 的高级研究科学家 Lewis Tunstall 表示,该工具旨在帮助研究人员设计新药和基因疗法,并有可能帮助患者解读自己的基因组。
“我们解锁了语言模型的一项新能力,其根本在于能够与 DNA 对话,”他在谈到这款名为 Carbon-X 的新模型时说道。使用自然语言意味着,即使是非技术用户“也能真正提出关于 DNA 的问题,而这些问题通过任何其他工具都无法触及。”
Hugging Face 本质上相当于 AI 模型的 GitHub,它提供了一系列现成的 AI 工具库,以及一个平台,供开发者、研究人员、企业以及希望在不从零构建一切的情况下试验 AI 的人们运行以开放权重和开源为主的 AI 应用。今年 9 月,英伟达同意以近 130 亿美元收购该公司。(今年早些时候,Hugging Face 还处于 OpenAI 模型发起的一次重大黑客攻击的中心。)
DNA 更像计算机代码,而不是自然语言。不过,它不用 0 和 1,而是用 A、C、G 和 T 来编码信息。人类基因组包含 60 亿个这样的字母。尽管人类基因组已被端到端测序,科学家们仍不了解其中大部分是如何运作的。
如今,AI 模型正在帮助研究人员解开其中一些谜团。去年,Google DeepMind 发布了 AlphaGenome,它可以预测 DNA 序列和基因突变的影响,但以数字格式呈现。它还需要更多算力。Evo 2 是由 Arc Institute 和英伟达与学术合作伙伴共同开发的模型,它使用 DNA 的语言,可以从零生成完整的基因组。
Carbon-X 在对话式界面中同时整合了 DNA 和自然语言。可以把它想象成 DNA 版的 ChatGPT。
该团队从现有语言模型入手,扩展其词表,以每六个字母为一组读取 DNA。随后,他们继续在 3000 亿个数据块(即 token)上进行训练,这些数据结合了 DNA 序列、英文文本以及将 DNA 与生物学描述关联起来的示例。DNA 序列来自哺乳动物(包括人类)、其他脊椎动物、无脊椎动物、植物、真菌和原生动物。Tunstall 表示,团队没有用病毒训练该模型,因为他们不希望它被用于可能危险的用途。
用户将无法上传完整的人类基因组。该模型经过训练,能够接收约 5 万个碱基对的 DNA 序列,因此用户一次只能查询基因组的一小部分。
科学家使用 Carbon-X 的方式之一,是帮助判断某种基因突变是良性的还是致病的,这是开发靶向药物或基因疗法的关键一步。如果干预措施针对了错误的突变,可能完全无效,甚至更糟,造成意外伤害。
研究人员在将可识别或敏感的患者数据上传到前沿 AI 模型时面临限制,因此 Tunstall 表示,他的团队有意设计了一个 140 亿参数的小型模型。这将使其能够在用户的硬件上本地运行,而不必依赖基于云的模型。他说,不会有任何数据发送给 Hugging Face 或任何其他公司。
Carbon-X 的开发者提醒说,他们尚未通过实际的湿实验验证该模型,因此无法说明其预测的准确度如何。
介绍这款应用:更多充分利用《连线》的方式
为什么这么多 AI 研究人员认为这项技术可能杀死我们所有人
重磅访谈:帕蒂·哈里森曾梦想一个科技乌托邦
我让一个 AI 智能体黑进了我所有的设备——而且我还会再来一次