←新闻详情

heise online更新于 10月25日 21:52

KI-Harness 解析:LLM 背后看不见的脚手架

KI-Harness erklärt: Das unsichtbare Gerüst von LLMs | heise online

AI 导读

heise online 发文解析 LLM 的 Harness 概念:它指让大语言模型真正投入使用的整套指令、配置与辅助程序,负责提供上下文、强制安全保证、评估任务是否完成,并让模型与其他程序交互。文章指出 Harness 一词用法极广,目前没有公认定义,通常只能反向界定为“不是 LLM 本身”。

正文

Wer sich auch nur ein wenig mit aktuellen KI-Systemen auf Basis großer Sprachmodelle (Large Language Models, LLM) beschäftigt, hat den Begriff „Harness“ wahrscheinlich bereits gehört. Was genau damit gemeint ist, unterscheidet sich aber von Fall zu Fall: Der Begriff wird extrem breit verwendet und eine allgemein etablierte Definition gibt es nicht – zumindest keine, die explizit macht, woraus ein Harness besteht. Im Gegenteil, wenn „Harness“ überhaupt definiert wird, dann oft darüber, was es nicht ist: Es ist nicht das LLM selbst.

Denn auch wenn große Sprachmodelle die Grundlage des aktuellen KI-Booms darstellen, werden sie praktisch nie direkt eingesetzt. LLMs sind zunächst einmal nur Textvervollständigungsmaschinen. Und nur sehr wenige Aufgaben lassen sich sinnvoll von einem System bearbeiten, das ungesteuert einen Text plausibel fortschreibt.

KI-Harness erklärt: Das unsichtbare Gerüst von LLMs

Mit Apples JACCL-Bibliothek richtig große LLMs auf Mac-Clustern betreiben

Rechtliche Tipps zum Selfhosting von LLMs

KI-Security: Mehr Sicherheit für LLM-Apps umsetzen

Lokale KI schneller machen: So zünden Sie den LLM-Turbo

Large Language Models testen mit EVALs – Qualität messbar machen

Um aus einem LLM einen Chatbot, einen Coding-Agenten, einen Security-Scanner oder einen persönlichen Assistenten zu machen, benötigt man noch ein Sammelsurium von Anweisungen, Konfigurationen und Hilfsprogrammen. Die müssen Kontext bereitstellen, sollen nötige Sicherheitsgarantien erzwingen, bewerten, ob eine Aufgabe erfolgreich bearbeitet wurde, und dem LLM erlauben, mit anderen Programmen zu interagieren. All dies zusammen ist das Harness – zumindest wenn man den Begriff breit auffasst.

Das war die Leseprobe unseres heise-Plus-Artikels "KI-Harness erklärt: Das unsichtbare Gerüst von LLMs". Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.

Wenig- oder Vielfahrer, kleine oder große Batterie: Ob und wann sich der ID. Polo gegenüber Raval, Polo und Ibiza rechnet, zeigt unser Kostenvergleich.

Wir bauen eine Werkbank mit Handsäge, Kantenfräse und Multitool.

Da Identität die neue Sicherheitsgrenze der IT ist, muss sie besonders gut abgesichert werden. Richtlinien dabei sind das wichtigste Werkzeug zum Schutz.

Onleihe 3 bringt digitale Medien der heimischen Bücherei aufs iPhone und iPad. Wir haben uns die App im Detail angesehen.

Mit DeepSeek-V4.1-Flash setzt der chinesische Anbieter OpenAI und Anthropic unter Preisdruck. Das Modell ist gewachsen und hat eine runderneuerte Architektur.

Selbst gehostete Dienste lassen sich dank DNS-01-Challenge mit Let's-Encrypt-Zertifikaten absichern, ohne aus dem Internet erreichbar sein zu müssen.

来源

heise online