先了解这件事
AI 综述
2026年5月6日,Zyphra 发布 MoE 语言模型 ZAYA1-8B。据 Zyphra Research 介绍,该模型激活参数不到 10 亿,在数学、编码和推理任务上对标 Nemotron-3-Nano-30B-A3B、Mistral-Small-4-119B 等更大开源模型。模型在 1024 张 AMD MI300X 集群上完成预训练,采用压缩卷积注意力 CCA 与新型 MLP 专家路由,并配套提出 Markovian RSA 测试时计算方法。发布时模型已在 Zyphra Cloud 提供免费 serverless 端点,权重上线 Hugging Face,采用 Apache 2.0 许可。目前尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
Zyphra 发布 ZAYA1-8B 推理模型,基于 AMD 全栈训练事件进展
1 个已确认进展
- 来源:Zyphra Research
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
5月6日
Zyphra Research一手
Zyphra 发布 ZAYA1-8B 推理模型,基于 AMD 全栈训练
Zyphra 发布 MoE 语言模型 ZAYA1-8B,激活参数不到 10 亿,在数学、编码和推理任务上对标 Nemotron-3-Nano-30B-A3B、Mistral-Small-4-119B 等更大开源模型。该模型在 1024 张 AMD MI300X 集群上完成预训练,采用压缩卷积注意力 CCA 与新型 MLP 专家路由,并配套提出 Markovian RSA 测试时计算方法。模型已在 Zyphra Cloud 提供免费 serverless 端点,权重上线 Hugging Face,采用 Apache 2.0 许可。