Abliteration AI: How Dangerous Is an Uncensored AI Platform, Really?
Abliteration techniques remove a model's safety guardrails, allowing open-weight models to output content that was previously suppressed. Once used mainly for research in sensitive domains, startups such as Abliteration AI now want to profit from it. The technique only applies to open-weight models, and the article examines whether it could trigger a new wave of cyberattacks.
Body
Analyse
Verpasse keine News mehr!
Abliteration AI: Wie gefährlich sind KI-Modelle ohne Schranken wirklich?
Abliteration wird schon länger genutzt, um Forschung in sensiblen Bereichen zu ermöglichen. Startups wie Abliteration AI wollen daraus Profit schlagen. Droht eine neue Welle an Cyberangriffen?
Unzensierte KI: Abliteration funktioniert nur bei Open-Weights-Modellen. (Bild: Lightspring / Shutterstock)
Wer sich von großen Frontier-Modellen über ihre offiziellen Chat-Interfaces Anleitungen zum Bau von ABC-Waffen, Malware und Viren geben lassen will, stößt auf Granit. Verantwortlich dafür sind sogenannte Guardrails, die Anfragen dieser Art direkt abblocken. Trotzdem lassen sich KI-Modelle immer noch jailbreaken, also dazu überreden, die per Belohnungstraining unterdrückten Antworten aus den Trainingsdaten doch noch auszuspielen.
Weiterlesen mit
Zugriff auf alle Artikel von t3n.de
t3n Magazin und MIT Technology Review in digitaler Form
1 Monat kostenlos testen! statt 118,80 €
Für 0 € testen
Du bist bereits Teil der Community? Hier anmelden
Florian Zandt
Als Redakteur für New Tech beschäftigt sich Florian Zandt intensiv mit allen Ausprägungen modernster Technologie und probiert neue Tools auch immer wieder selbst aus.
Startseite