←新闻详情

heise online更新于 10月25日 20:11

如何用检索日志优先处理数据质量问题

Retrieval-Logs zur Priorisierung von Datenqualität nutzen | heise online

AI 导读

企业将文档导入 RAG 系统时往往像当年建 Data Lake 一样缺少相关性评估,而 RAG 系统本身已记录哪些数据被实际调用,可据此判断数据维护的优先级。Bitkom 数据显示,41% 的 20 人以上企业已生产性使用 AI,另有 48% 在规划或讨论,多数从内部文档问答助手起步。Amazon Bedrock Knowledge Bases 等工具通过现成连接器接入 Confluence、SharePoint 和整个 Web 域名并自动完成分块与索引,但未做内容预筛,索引中未整理内容越多,检索命中越差,团队越会调大 k 值,推高每次请求传给大模型的上下文成本。

正文 · AI 翻译

2010年10月,James Dixon创造了“数据湖”一词,主张先把原始数据放进去,结构以后再补。不到四年后,Gartner便给出了令人清醒的结论。数据湖通常起步于缺乏语义一致性、也没有受管元数据的无管控存储库。业界把这种结果称为“数据沼泽”。

企业把文档导入AI助手的方式与当年往数据湖里灌数据颇为相似,往往没有清晰的相关性评估。

RAG系统已经会记录哪些数据实际被使用、哪里值得进行数据维护。

聊天机器人能揭示实际的数据需求,帮助有针对性地优先分配资源。

大约十年后,同样的模式再度上演。据Bitkom统计,在员工20人以上的企业中,41%已生产性使用人工智能,另有48%正在规划或讨论部署,多数从内部助手起步,用来回答关于自有文档库的问题,技术上讲就是检索增强生成(Retrieval-Augmented Generation,简称RAG)。门槛已然消失:例如Amazon Bedrock Knowledge Bases通过现成连接器接入Confluence、SharePoint乃至整个Web域名,并顺带完成分块与索引。一键之下,源系统便进入向量索引。没有内容层面的预筛。也没有人问一句:这些内容究竟会不会有人来检索。

利用检索日志优先处理数据质量

OpenWiki实测:为编码代理提供记忆

教程:用来自互联网的最新事实充实本地AI模型

链式操作如何变成风险:AI代理中的传话游戏

便利是有代价的,而且这笔账不会记在向量存储的账单上。真正计费的是系统在每次请求时传给语言模型的上下文。索引中未经整理的内容越多,目标信息出现在靠前命中结果中的概率就越低,团队也就越会大方地调高参数k。该参数决定每次请求有多少个最相似的文本片段被送入语言模型。

以上是我们heise-Plus文章《利用检索日志优先处理数据质量》的试读部分。订阅heise-Plus即可阅读全文。

小巧省电早已不够:六款搭载AMD、Apple和Intel SoC的迷你PC展示了它们应对现代AI任务的能力。

一篇声称认证机制让Passkey变成陷阱的博客文章近日走红。Passkey中的认证机制究竟如何运作。

AnythingLLM可导入文档,并通过AI聊天给出相关回答。数据与LLM均留在本地,完全处于您的掌控之中。

新的移动处理器为迷你PC带来了可观的改进。但内存和SSD的离谱价格迫使人们格外谨慎地做出购买决定。

在这里,我讲述自己如何与兄弟一起把一台2.5吨重的工业铣床搬进我们的业余工坊,并将其改装为LinuxCNC。

借助27系列系统,Apple改动了很多,也要求许多新条件。我们将展示您应该测试什么、调整什么,以及与您的MDM供应商澄清哪些问题。

来源

heise online