先了解这件事
2024年12月19日,Zyphra 发布 Mixture-of-PageRanks(MixPR)长上下文 RAG 系统,用于长上下文任务中的高效预处理,可搭配任意基础模型。据 Zyphra Research 介绍,该系统用 Standard PageRank 处理全局检索、Personalized PageRank 处理局部检索,由基础模型零样本判断查询类型后路由;文本分块采用 TF-IDF 稀疏嵌入,邻接矩阵由余弦相似度一次矩阵乘法构建,在桌面 CPU 上处理百万级 token 上下文只需数秒。该系统在 RULER、BABILong、HashHop 等基准上取得 SOTA 结果;搭配 GPT-4o 在 BABILong 上取得第二名,仅次于专门微调的循环记忆 Transformer,在 RAG 模型中排名第一。目前尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
Zyphra 发布 Mixture-of-PageRanks 长上下文 RAG 检索器事件进展
1 个已确认进展
- 来源：Zyphra Research
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
12月19日
Zyphra Research一手
Zyphra 发布 Mixture-of-PageRanks 长上下文 RAG 检索器
Zyphra 发布 Mixture-of-PageRanks（MixPR）RAG 系统，用于在长上下文任务中做高效预处理，可搭配任意基础模型，并在 RULER、BABILong、HashHop 等基准上取得 SOTA 结果。该系统用 Standard PageRank 处理全局检索、Personalized PageRank 处理局部检索，由基础模型零样本判断查询类型后路由；文本分块用 TF-IDF 稀疏嵌入，邻接矩阵由余弦相似度一次矩阵乘法构建，在桌面 CPU 上处理百万级 token 上下文只需数秒。MixPR 搭配 GPT-4o 在 BABILong 上取得第二名，仅次于专门微调的循环记忆 Transformer，在 RAG 模型中排名第一。