AI News

AMD 苏姿丰确认 EPYC 担任 Google TPU 8tx 主机处理器

Lisa Su更新于 11月9日 23:04

Congratulations to our friends at @googlecloud and @AminVahdat! We’re proud to partner with you, with @AMD EPYC serving as the host processor for TPU 8tx.

AI 导读

AMD CEO 苏姿丰祝贺 Google Cloud 与 Amin Vahdat,并确认 AMD EPYC 作为 TPU 8tx 的主机处理器,双方就此展开合作。被引用的 Google 原帖称,第八代 TPU 新增 TPU 8i Max 与面向安全机密推理的 TPU 8tx,这是 Google 首次在同一年内推出四款 TPU 系统。

推荐理由

AI 评分 71

AMD CEO 公开确认 EPYC 成为 Google 第八代 TPU 中 TPU 8tx 的主机处理器,呈现两家在 AI 基础设施上的合作分工。

主题

标签

引用

Amin Vahdat

@AminVahdat

非常高兴能与大家分享我们 @Google 的 AI 与基础设施团队取得的一项重大里程碑。 今天,我们通过以下产品扩展了我们的第八代 TPU 产品组合: • TPU 8i Max:专为超大规模上下文窗口和每机架最高计算密度而打造 • TPU 8tx:专为安全、机密推理而设计 这标志着我们首次在一年内、于同一代产品中推出四款不同的 TPU 系统。 对开发者而言,硬件的价值取决于软件栈。我们希望你们能够像我们在 Google 内部一样,轻松高效地基于 TPU 进行构建。现在,你可以: ↳ 通过 TorchTPU 运行原生 PyTorch 和 Hugging Face 模型(无需重写任何代码) ↳ 借助开源 TPU Sync 将 KV 传输延迟降低 90% 以上 ↳ 通过 Agent Compute Engine 消除闲置算力浪费 在我们的博客上阅读更多关于最新 TPU 的内容:https://t.co/8eaFhq3jhi 我期待与不断拓展 AI 与计算边界的开发者、研究人员、工程师以及各机构建立联系!

查看原文

Thrilled to share a big milestone from our AI & Infrastructure team at @Google. Today we’re expanding our 8th generation TPU portfolio with: • TPU 8i Max: Built for massive context windows and the highest compute density per rack • TPU 8tx: Purpose-built for secure, confidential inference This marks the first time we’ve introduced four distinct TPU systems in a single generation, in one year. For developers, hardware is only as good as the software stack. And we want you to be able to build with TPUs as easily and efficiently as we do at Google. You can now: ↳ Run native PyTorch & Hugging Face models via TorchTPU (zero code rewrites) ↳ Cut KV transfer latency >90% with open-source TPU Sync ↳ Eliminate idle compute waste with Agent Compute Engine Read more about our newest TPUs on our blog: https://t.co/8eaFhq3jhi I look forward to connecting with builders, researchers, engineers and organizations pushing the boundaries of AI and computing!

查看原帖

正文 · AI 翻译

祝贺我们在 @googlecloud 和 @AminVahdat 的朋友们!我们很自豪能与你们合作,由 @AMD EPYC 担任 TPU 8tx 的主机处理器。

来源

Lisa Su