AI News

热点事件

Google发布TPU模型设计与优化开源指南

1 篇正式报道1 条事件动态更新于 11月16日 08:00

先了解这件事

AI 综述

2026年11月16日,Google开源AI-Hypercomputer/tpu-codesign指南,面向Ironwood(TPU v7x)及后续TPU给出模型设计与优化规则,覆盖形状对齐、LatentMoE等架构选择与并行策略。指南要求将d_model、FFN宽度、head_dim等维度对齐到256;实测把Qwen3-30B MoE注意力从32×128改为16×256后训练提速,且上下文越长收益越大。相关原则同样适用于新增原生FP4的TPU 8t与TPU 8i。目前尚无后续进展。

AI 根据公开报道生成

最新进展 · 正式报道

Google 发布 TPU 模型设计与优化指南

事件进展

1 个已确认进展

  1. Google发布TPU模型设计与优化开源指南

    来源:Google Developers Blog

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

11月16日

  1. Google Developers Blog一手

    Google 发布 TPU 模型设计与优化指南

    Google 开源 AI-Hypercomputer/tpu-codesign 指南,给出面向 Ironwood(TPU v7x)及后续 TPU 的模型设计规则,覆盖形状对齐、LatentMoE 等架构选择与并行策略。指南要求将 d_model、FFN 宽度、head_dim 等维度对齐到 256,实测把 Qwen3-30B MoE 注意力从 32×128 改为 16×256 后训练提速,且上下文越长收益越大。相关原则同样适用于新增原生 FP4 的 TPU 8t 与 TPU 8i。

关联事件

  1. 相关事件Anthropic发布Claude Opus 5.5
  2. 相关事件TensorZero验证程序化数据蒸馏
  3. 相关事件Google 介绍 autofinetune 自主后训练循环
  4. 相关事件RRSI 教程演示自改进智能体评估筛选流程