先了解这件事
AI 综述
2024年9月19日,Anthropic提出Contextual Retrieval方法,用于改进RAG检索。该方法包含Contextual Embeddings和Contextual BM25两项子技术,据Anthropic介绍,可将top-20检索失败率降低49%,从5.7%降至2.9%;叠加reranking后降低67%,从5.7%降至1.9%。其做法是用Claude 3 Haiku为每个分块生成50-100 token的上下文说明,再拼接到分块前进行嵌入和建立BM25索引。配合prompt caching时,生成上下文化分块的一次性成本为每百万文档token 1.02美元。Anthropic同时提供了可直接部署的cookbook。目前尚无后续发展事实。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源:Anthropic Engineering
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
9月19日
Anthropic Engineering一手精选
Anthropic 推出 Contextual Retrieval,将 RAG 检索失败率降低 49%
Anthropic 提出 Contextual Retrieval 方法,通过 Contextual Embeddings 和 Contextual BM25 两项子技术,将 top-20 检索失败率降低 49%(5.7% 降至 2.9%),叠加 reranking 后降低 67%(5.7% 降至 1.9%)。该方法用 Claude 3 Haiku 为每个分块生成 50-100 token 的上下文说明,再拼接到分块前进行嵌入和建立 BM25 索引,配合 prompt caching 时生成上下文化分块的一次性成本为每百万文档 token 1.02 美元。Anthropic 同时提供了可直接部署的 cookbook。