←事件详情

热点事件

Zyphra发布技术报告展示AMD平台大规模训练

2 篇正式报道2 条事件动态更新于 11月24日 08:00

先了解这件事

事件摘要

还没有公开综述,先看下面的报道时间线。

最新进展 · 正式报道

Zyphra 预览 ZAYA1:首个完全在 AMD 平台端到端训练的模型

事件进展

1 个已确认进展

  1. Zyphra发布技术报告展示AMD平台大规模训练

    来源:Zyphra Research

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

11月24日

  1. Zyphra Research一手精选

    Zyphra 预览 ZAYA1:首个完全在 AMD 平台端到端训练的模型

    Zyphra 发布 ZAYA1 预览,称这是首个完全在 AMD 硬件、软件和网络栈上端到端训练的 AI 模型,配套技术报告已发布到 arXiv。ZAYA1-base 在 14T token 上训练,采用 Muon 优化器和 CCA 注意力、新型 MoE 路由等架构改进,基准表现与同规模 Qwen3 系列相当,并超过 SmolLM3、Phi4 等西方开源模型。训练集群由 Zyphra、AMD 和 IBM 合作搭建,使用 128 个节点、每节点 8 块 AMD MI300X GPU 与 AMD Pensando Pollara 网络,提供超过 750 PFLOPs 实际训练性能。

  2. Zyphra Research一手

    Zyphra 发布 ZAYA1:首个在 AMD 全栈平台完成大规模训练的 MoE 基础模型

    Zyphra 发布技术报告,介绍 ZAYA1——首个完全在 AMD 平台(AMD Instinct MI300X GPU、AMD Pensando 网络与 ROCm 软件栈)上完成大规模训练的 MoE 基础模型,训练集群由 AMD 与 IBM Cloud 联合构建。ZAYA1-base 总参数 8.3B、激活参数 760m,在推理、数学和编码基准上表现与 Qwen3-4B、Gemma3-12B 相当,并超过 Llama-3-8B 和 OLMoE。Zyphra 称其为 AMD 生态可支撑前沿级 AI 训练的验证,并采用压缩卷积注意力(CCA)等架构创新提升训练吞吐与推理效率。

关联事件

  1. 相关事件LG AI Research 开发出集成晶体生成模型 MCFlow
  2. 相关事件Ai2 推出 HiRO-ACEv2 气候模拟系统更新
  3. 相关事件Nvidia发布Nemotron 3.5 Super VL与Bolt模型
  4. 相关事件小米 MiMo 发布 MiMo-V2.6 Pro 与 Flash