←事件详情

热点事件

Google Cloud 将原生 TPU 支持集成进 vLLM

1 篇正式报道1 条事件动态更新于 8月26日 08:00

先了解这件事

AI 综述

Google Cloud 将原生 TPU 支持集成进 vLLM,并以 Qwen3 Embedding 系列为目标模型完成多项优化。据官方 2026 年 8 月 26 日发布的信息,该集成使嵌入推理可处理 4K+ token 文本和 15K+ token 多模态输入。精度方面,TPU 输出与 XPU 参考基线的余弦相似度达到文本 ≥0.999、多模态 ≥0.995。官方还表示已在 AI-Hypercomputer 公共仓库开源 Qwen3-Embedding-8B 的部署与评测 recipe。目前尚无后续发展事实。

AI 根据公开报道生成

最新进展 · 正式报道

Google Cloud 在 Cloud TPU 上为长上下文多模态嵌入推理提供企业级精度

事件进展

1 个已确认进展

  1. Google Cloud 将原生 TPU 支持集成进 vLLM

    来源:Google Developers Blog

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

8月26日

  1. Google Developers Blog一手

    Google Cloud 在 Cloud TPU 上为长上下文多模态嵌入推理提供企业级精度

    Google Cloud 将原生 TPU 支持集成进 vLLM,并以 Qwen3 Embedding 系列为目标模型完成多项优化,使嵌入推理可处理 4K+ token 文本和 15K+ token 多模态输入。TPU 输出与 XPU 参考基线的余弦相似度达到文本 ≥0.999、多模态 ≥0.995,官方已在 AI-Hypercomputer 公共仓库开源 Qwen3-Embedding-8B 的部署与评测 recipe。

关联事件

  1. 相关事件DeepMind发布EmbeddingGemma 2
  2. 相关事件Meta发布开放权重模型Muse Spark Open
  3. 相关事件vLLM接入Transformers后端
  4. 相关事件Mistral发布一万亿参数Mistral Large 4预览版