先了解这件事
2026年10月1日,Perplexity Research 与 turbopuffer 发布 pplx-embed-v2-context-9b-preview,一个面向 RAG 管线的上下文嵌入模型,每个 chunk 在编码时都能看到完整文档。该模型以 Perplexity 的 query-aware 上下文压缩模型作为教师,用逐 token 打分池化出的软目标替代单一 gold passage 标注,训练时随机采样切块策略,推理阶段不增加延迟或存储。权重已在 Hugging Face 以 MIT 许可开源,需 transformers>=5.4.0 并设置 trust_remote_code=True,暂未上线 Perplexity API,模型卡提示权重与接口可能不向后兼容。模型基于内部 9B ColBERT 检索模型,线性投影输出 2048 维,Matryoshka 训练支持 1024 维,量化感知训练支持原生 int8 嵌入,训练使用约 430 个数据集、覆盖 50 多种语言。目前尚无后续发展事实。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源:MarkTechPost
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
10月1日
MarkTechPost
Perplexity 发布 pplx-embed-v2-context-9b-preview 上下文嵌入模型
Perplexity Research 与 turbopuffer 发布 pplx-embed-v2-context-9b-preview,一个面向 RAG 管线的上下文嵌入模型,每个 chunk 在编码时都能看到完整文档。模型以 Perplexity 的 query-aware 上下文压缩模型作为教师,用逐 token 打分池化出的软目标替代单一 gold passage 标注,训练时随机采样切块策略,推理阶段不增加延迟或存储。权重已在 Hugging Face 以 MIT 许可开源,需 transformers>=5.4.0 并设置 trust_remote_code=True,暂未上线 Perplexity API,模型卡提示权重与接口可能不向后兼容。模型基于内部 9B ColBERT 检索模型,线性投影输出 2048 维,Matryoshka 训练支持 1024 维,量化感知训练支持原生 int8 嵌入,训练使用约 430 个数据集、覆盖 50 多种语言。