先了解这件事
Google 发布 EmbeddingGemma 2 论文,介绍一个 Apache 2.0 许可的端侧多模态嵌入模型,把文本、代码、图像、音频和视频映射到同一向量空间。该模型基于 Gemma 4 构建,通过向更大的 Gemini Embedding 2 学习并用对比训练调优,744M 参数规模在多项任务上超过大 2 至 12 倍的模型。在 Pixel 11 Pro 上,量化后的文本权重占用约 191MB 活跃内存,完整多模态模型约 567MB,上下文窗口扩大 4 倍至 8K tokens,可容纳约 5.5 分钟音频、29 张图像或 58 帧视频;直接嵌入语音在 MSEB 口语查询检索基准上得分 69.54,高于先转写再检索的 57.59,代码检索在 MTEB Code 上从 EmbeddingGemma 1 的 68.76 提升到 78.68。目前尚无后续进展。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源:Rohan Paul
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
10月29日
Rohan Paul
Google 发布 EmbeddingGemma 2 论文,744M 参数端侧多模态嵌入模型
Google 发布 EmbeddingGemma 2 论文,这是一个 Apache 2.0 许可的端侧多模态嵌入模型,把文本、代码、图像、音频和视频映射到同一向量空间。模型基于 Gemma 4 构建,通过向更大的 Gemini Embedding 2 学习并用对比训练调优,744M 参数规模在多项任务上超过大 2 至 12 倍的模型。在 Pixel 11 Pro 上,量化后的文本权重占用约 191MB 活跃内存,完整多模态模型约 567MB,上下文窗口扩大 4 倍至 8K tokens,可容纳约 5.5 分钟音频、29 张图像或 58 帧视频;直接嵌入语音在 MSEB 口语查询检索基准上得分 69.54,高于先转写再检索的 57.59,代码检索在 MTEB Code 上从 EmbeddingGemma 1 的 68.76 提升到 78.68。