Abliteration AI：无审查 AI 平台究竟有多危险
Abliteration AI: So gefährlich ist die unzensierte KI-Plattform wirklich
Abliteration 技术通过移除模型的安全护栏，让开源权重模型输出被抑制的内容，此前主要用于敏感领域研究，如今 Abliteration AI 等初创公司想借此盈利。该技术仅适用于开放权重模型，文章分析其是否会引发新一轮网络攻击。
正文
Analyse
Verpasse keine News mehr!
Abliteration AI: Wie gefährlich sind KI-Modelle ohne Schranken wirklich?
Abliteration wird schon länger genutzt, um Forschung in sensiblen Bereichen zu ermöglichen. Startups wie Abliteration AI wollen daraus Profit schlagen. Droht eine neue Welle an Cyberangriffen?
Unzensierte KI: Abliteration funktioniert nur bei Open-Weights-Modellen. (Bild: Lightspring / Shutterstock)
Wer sich von großen Frontier-Modellen über ihre offiziellen Chat-Interfaces Anleitungen zum Bau von ABC-Waffen, Malware und Viren geben lassen will, stößt auf Granit. Verantwortlich dafür sind sogenannte Guardrails, die Anfragen dieser Art direkt abblocken. Trotzdem lassen sich KI-Modelle immer noch jailbreaken, also dazu überreden, die per Belohnungstraining unterdrückten Antworten aus den Trainingsdaten doch noch auszuspielen.
Weiterlesen mit
Zugriff auf alle Artikel von t3n.de
t3n Magazin und MIT Technology Review in digitaler Form
1 Monat kostenlos testen! statt 118,80 €
Für 0 € testen
Du bist bereits Teil der Community? Hier anmelden
Florian Zandt
Als Redakteur für New Tech beschäftigt sich Florian Zandt intensiv mit allen Ausprägungen modernster Technologie und probiert neue Tools auch immer wieder selbst aus.
Startseite