←新闻详情

heise online更新于 10月25日 20:11

如何用检索日志优先处理数据质量问题

Retrieval-Logs zur Priorisierung von Datenqualität nutzen | heise online

AI 导读

企业将文档导入 RAG 系统时往往像当年建 Data Lake 一样缺少相关性评估,而 RAG 系统本身已记录哪些数据被实际调用,可据此判断数据维护的优先级。Bitkom 数据显示,41% 的 20 人以上企业已生产性使用 AI,另有 48% 在规划或讨论,多数从内部文档问答助手起步。Amazon Bedrock Knowledge Bases 等工具通过现成连接器接入 Confluence、SharePoint 和整个 Web 域名并自动完成分块与索引,但未做内容预筛,索引中未整理内容越多,检索命中越差,团队越会调大 k 值,推高每次请求传给大模型的上下文成本。

正文

Im Oktober 2010 prägte James Dixon den Begriff des Data Lake, Rohdaten hinein und Struktur später. Knapp vier Jahre später lieferte Gartner die Ernüchterung nach. Data Lakes starteten typischerweise als ungesteuerte Ablagen ohne semantische Konsistenz und ohne verwaltete Metadaten. Die Branche nannte das Ergebnis Data Swamp.

Unternehmen laden Dokumente in KI-Assistenten ähnlich wie früher in Data Lakes, oft ohne klare Relevanzbewertung.

RAG-Systeme protokollieren bereits, welche Daten tatsächlich genutzt werden und wo Datenpflege sinnvoll ist.

Chatbots bieten Einblicke in den tatsächlichen Datenbedarf und helfen, Ressourcen gezielt zu priorisieren.

Gut zehn Jahre später wiederholt sich das Muster. Laut Bitkom setzen 41 Prozent der Unternehmen ab 20 Beschäftigten Künstliche Intelligenz produktiv ein, weitere 48 Prozent planen oder diskutieren den Einsatz, meist beginnend mit einem internen Assistenten, der Fragen an den eigenen Dokumentbestand beantwortet, technisch gesprochen Retrieval-Augmented Generation, kurz RAG. Die Hürde dafür ist verschwunden, Amazon Bedrock Knowledge Bases etwa bindet Confluence, SharePoint und ganze Web-Domains über fertige Konnektoren an und erledigt Chunking und Indexierung gleich mit. Ein Klick, und das Quellsystem liegt im Vektorindex. Ohne inhaltliche Vorauswahl. Ohne die Frage, ob irgendjemand diese Inhalte jemals abrufen wird.

Retrieval-Logs zur Priorisierung von Datenqualität nutzen

OpenWiki im Test: Gedächtnis für Coding-Agenten

Anleitung: Lokale KI-Modelle mit aktuellen Fakten aus dem Internet anreichern

Wie verkettete Aktionen zum Risiko werden: Stille Post bei KI-Agenten

Bequemlichkeit hat einen Preis, und er steht nicht auf der Rechnung für den Vektorspeicher. Abgerechnet wird der Kontext, den das System bei jeder Anfrage an das Sprachmodell übergibt. Je mehr unkuratierte Inhalte im Index liegen, desto seltener steckt die gesuchte Information in den vorderen Treffern, und desto großzügiger drehen die Teams am Parameter k. Dieser legt fest, wie viele der ähnlichsten Textabschnitte je Anfrage an das Sprachmodell gehen.

Das war die Leseprobe unseres heise-Plus-Artikels "Retrieval-Logs zur Priorisierung von Datenqualität nutzen". Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.

Klein und sparsam reicht schon lang nicht mehr: Sechs Mini-PCs mit SoCs von AMD, Apple und Intel zeigen, wie gut sie mit modernen KI-Aufgaben zurechtkommen.

Ein Blogpost, der postulierte, Attestation mache Passkeys zur Falle, ging kürzlich viral. Wie Attestation bei Passkeys wirklich funktioniert.

AnythingLLM liest Dokumente ein und gibt mit einem KI-Chat Antworten dazu. Dabei bleiben Daten und LLM lokal und so vollständig unter Ihrer Kontrolle.

Neue Mobilprozessoren bringen attraktive Verbesserungen für Mini-PCs. Doch Mondpreise für RAM und SSDs erzwingen eine besonders sorgfältige Kaufentscheidung.

Hier erzähle ich, wie ich mit meinem Bruder eine 2,5 Tonnen schwere Industriefräse in unsere Hobbywerkstatt geholt und auf LinuxCNC umgerüstet habe.

Mit den 27er-Systemen ändert Apple viel und setzt viel Neues voraus. Wir zeigen, was Sie testen, umstellen und mit Ihrem MDM-Anbieter klären sollten.

来源

heise online