Hugging Face 发布开源 DNA 模型 Carbon-X,可在笔记本本地运行
Hugging Face 周四发布开源 DNA 理解模型 Carbon-X,可在笔记本本地运行,用户能用自然语言询问 DNA 变化对基因活性和健康的影响。该模型与中关村学院和那不勒斯费德里科二世大学的研究者合作开发,基于已有语言模型扩展词表以六字母为单位读取 DNA,并在 3000 亿 token 的 DNA 序列、英文文本和 DNA 与生物描述对应样本上继续训练。模型为 14B 参数,单次可处理约 5 万碱基对的序列,不能上传完整人类基因组;开发者也说明尚未通过湿实验验证预测准确度。
g Face 还处于 OpenAI 模型发起的一次重大黑客攻击的中心。) DNA 更像计算机代码,而不是自然语言。不过,它不用 0 和 1,而是用 A、C、G 和 T 来编码信息。人类基因组包含 60 亿个这样的字母。尽管人类基因组已被端到端测序,科学家们仍不了解其中大部分是如何运作的。 如今,AI 模型正在帮助研究人员解开其中一些谜团。去年,Google DeepMind 发布了 AlphaGenome,它可以预测 DNA 序列和基因突变的影响,但以数字格式呈现。它还需要更多算力。Evo 2 是由 Arc Institute 和英伟达与学术合作伙伴共同开发的模型,它使用 DNA 的语言,可以从零生成完整的基因组。 Carbon-X 在对话式界面中同时整合了 DNA 和自然语言。可以把它想象成 DNA 版的 ChatGPT。 该团队从现有语言模型入手,扩展其词表,以每六个字母为一组读取 DNA。随后,他们继续在 3000 亿个数据块(即 token)上进行训练,这些数据结合了 DNA 序列、英文文本以及将 DNA 与生物学描述关联起来的示例。DNA 序列来自哺乳动物(包括人类)、其他脊
匹配字段正文