先了解这件事
事件摘要
还没有公开综述,先看下面的报道时间线。
最新进展 · 正式报道
Zyphra 预览 ZAYA1:首个完全在 AMD 平台端到端训练的模型事件进展
1 个已确认进展
- 来源:Zyphra Research
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
11月24日
Zyphra Research一手精选
Zyphra 预览 ZAYA1:首个完全在 AMD 平台端到端训练的模型
Zyphra 发布 ZAYA1 预览,称这是首个完全在 AMD 硬件、软件和网络栈上端到端训练的 AI 模型,配套技术报告已发布到 arXiv。ZAYA1-base 在 14T token 上训练,采用 Muon 优化器和 CCA 注意力、新型 MoE 路由等架构改进,基准表现与同规模 Qwen3 系列相当,并超过 SmolLM3、Phi4 等西方开源模型。训练集群由 Zyphra、AMD 和 IBM 合作搭建,使用 128 个节点、每节点 8 块 AMD MI300X GPU 与 AMD Pensando Pollara 网络,提供超过 750 PFLOPs 实际训练性能。
Zyphra Research一手
Zyphra 发布 ZAYA1:首个在 AMD 全栈平台完成大规模训练的 MoE 基础模型
Zyphra 发布技术报告,介绍 ZAYA1——首个完全在 AMD 平台(AMD Instinct MI300X GPU、AMD Pensando 网络与 ROCm 软件栈)上完成大规模训练的 MoE 基础模型,训练集群由 AMD 与 IBM Cloud 联合构建。ZAYA1-base 总参数 8.3B、激活参数 760m,在推理、数学和编码基准上表现与 Qwen3-4B、Gemma3-12B 相当,并超过 Llama-3-8B 和 OLMoE。Zyphra 称其为 AMD 生态可支撑前沿级 AI 训练的验证,并采用压缩卷积注意力(CCA)等架构创新提升训练吞吐与推理效率。