KI-Harness explained: the invisible scaffolding behind LLMs
heise online published an article explaining the concept of the LLM Harness: it refers to the entire set of instructions, configurations, and auxiliary programs that enable large language models to be actually put to use, responsible for providing context, enforcing safety guarantees, assessing whether tasks are complete, and enabling the model to interact with other programs. The article points out that the term Harness is used very broadly and currently has no generally accepted definition; usually it can only be defined negatively as "not the LLM itself."
Body
Wer sich auch nur ein wenig mit aktuellen KI-Systemen auf Basis großer Sprachmodelle (Large Language Models, LLM) beschäftigt, hat den Begriff „Harness“ wahrscheinlich bereits gehört. Was genau damit gemeint ist, unterscheidet sich aber von Fall zu Fall: Der Begriff wird extrem breit verwendet und eine allgemein etablierte Definition gibt es nicht – zumindest keine, die explizit macht, woraus ein Harness besteht. Im Gegenteil, wenn „Harness“ überhaupt definiert wird, dann oft darüber, was es nicht ist: Es ist nicht das LLM selbst.
Denn auch wenn große Sprachmodelle die Grundlage des aktuellen KI-Booms darstellen, werden sie praktisch nie direkt eingesetzt. LLMs sind zunächst einmal nur Textvervollständigungsmaschinen. Und nur sehr wenige Aufgaben lassen sich sinnvoll von einem System bearbeiten, das ungesteuert einen Text plausibel fortschreibt.
KI-Harness erklärt: Das unsichtbare Gerüst von LLMs
Mit Apples JACCL-Bibliothek richtig große LLMs auf Mac-Clustern betreiben
Rechtliche Tipps zum Selfhosting von LLMs
KI-Security: Mehr Sicherheit für LLM-Apps umsetzen
Lokale KI schneller machen: So zünden Sie den LLM-Turbo
Large Language Models testen mit EVALs – Qualität messbar machen
Um aus einem LLM einen Chatbot, einen Coding-Agenten, einen Security-Scanner oder einen persönlichen Assistenten zu machen, benötigt man noch ein Sammelsurium von Anweisungen, Konfigurationen und Hilfsprogrammen. Die müssen Kontext bereitstellen, sollen nötige Sicherheitsgarantien erzwingen, bewerten, ob eine Aufgabe erfolgreich bearbeitet wurde, und dem LLM erlauben, mit anderen Programmen zu interagieren. All dies zusammen ist das Harness – zumindest wenn man den Begriff breit auffasst.
Das war die Leseprobe unseres heise-Plus-Artikels "KI-Harness erklärt: Das unsichtbare Gerüst von LLMs". Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.
Wenig- oder Vielfahrer, kleine oder große Batterie: Ob und wann sich der ID. Polo gegenüber Raval, Polo und Ibiza rechnet, zeigt unser Kostenvergleich.
Wir bauen eine Werkbank mit Handsäge, Kantenfräse und Multitool.
Da Identität die neue Sicherheitsgrenze der IT ist, muss sie besonders gut abgesichert werden. Richtlinien dabei sind das wichtigste Werkzeug zum Schutz.
Onleihe 3 bringt digitale Medien der heimischen Bücherei aufs iPhone und iPad. Wir haben uns die App im Detail angesehen.
Mit DeepSeek-V4.1-Flash setzt der chinesische Anbieter OpenAI und Anthropic unter Preisdruck. Das Modell ist gewachsen und hat eine runderneuerte Architektur.
Selbst gehostete Dienste lassen sich dank DNS-01-Challenge mit Let's-Encrypt-Zertifikaten absichern, ohne aus dem Internet erreichbar sein zu müssen.