MMarkTechPost
Perplexity Research 与 turbopuffer 发布 pplx-embed-v2-context-9b-preview,一个面向 RAG 管线的上下文嵌入模型,每个 chunk 在编码时都能看到完整文档。模型以 Perplexity 的 query-aware 上下文压缩模型作为教师,用逐 token 打分池化出的软目标替代单一 gold passage 标注,训练时随机采样切块策略,推理阶段不增加延迟或存储。权重已在 Hugging Face 以 MIT 许可开源,需 transformers>=5.4.0 并设置 trust_remote_code=True,暂未上线 Perplexity API,模型卡提示权重与接口可能不向后兼容。模型基于内部 9B ColBERT 检索模型,线性投影输出 2048 维,Matryoshka 训练支持 1024 维,量化感知训练支持原生 int8 嵌入,训练使用约 430 个数据集、覆盖 50 多种语言。
Perplexity Research 与 turbopuffer 发布 pplx-embed-v2-context-9b-preview,一个面向 RAG 管线的上下文嵌入模型,每个 chunk 在编码时都能看到完整文档。模型以 Perplexity 的 query-aware 上下文压缩模型作为教师,用逐 token 打分池化出的软目标替代单一 gold passage 标注,训练时随机采样切块策略,推理阶段不增加延迟或存储。权重已在 Hugging Face 以 MIT 许可开源,需 transformers =5.4.0 并设置 trust remote code=True,暂未上线 Perplexity API,模型卡提示权重与接口可能不向后兼容。模型基于内部 9B ColBERT 检索模型,线性投影输出 2048 维,Matryoshka 训练支持 1024 维,量化感知训练支持原生 int8 嵌入,训练使用约 430 个数据集、覆盖 50 多种语言。
匹配字段摘要、正文