Abliteration AI: How Dangerous Are Uncensored AI Platforms Really?
Startups such as Abliteration AI are trying to profit from the abliteration technique, which only works on open-weight models and can bypass built-in model guardrails. The official chat interfaces of large frontier models directly block requests such as those for bioweapons, malware, and virus creation, but models can still be induced via jailbreak to output answers that reward training suppresses.
Body
Analyse
Verpasse keine News mehr!
Unzensierte KI-Modelle: Experten erklären, wie gefährlich Abliteration AI wirklich ist
Abliteration wird schon länger genutzt, um Forschung in sensiblen Bereichen zu ermöglichen. Startups wie Abliteration AI wollen daraus Profit schlagen. Droht eine neue Welle an Cyberangriffen?
Unzensierte KI: Abliteration funktioniert nur bei Open-Weights-Modellen. (Bild: Lightspring / Shutterstock)
Wer sich von großen Frontier-Modellen über ihre offiziellen Chat-Interfaces Anleitungen zum Bau von ABC-Waffen, Malware und Viren geben lassen will, stößt auf Granit. Verantwortlich dafür sind sogenannte Guardrails, die Anfragen dieser Art direkt abblocken. Trotzdem lassen sich KI-Modelle immer noch jailbreaken, also dazu überreden, die per Belohnungstraining unterdrückten Antworten aus den Trainingsdaten doch noch auszuspielen.
Weiterlesen mit
Zugriff auf alle Artikel von t3n.de
t3n Magazin und MIT Technology Review in digitaler Form
1 Monat kostenlos testen! statt 118,80 €
Für 0 € testen
Du bist bereits Teil der Community? Hier anmelden
Florian Zandt
Als Redakteur für New Tech beschäftigt sich Florian Zandt intensiv mit allen Ausprägungen modernster Technologie und probiert neue Tools auch immer wieder selbst aus.
Startseite