Abliteration AI：无审查 AI 平台究竟有多危险
Abliteration AI: So gefährlich ist die unzensierte KI-Plattform wirklich
Abliteration AI 等初创公司正试图从 abliteration 技术中获利，该技术只能作用于开放权重模型，可绕过模型内置的 guardrails。大型前沿模型的官方聊天界面会直接拦截生化武器、恶意软件和病毒制作等请求，但模型仍可被 jailbreak 诱导输出被奖励训练压制的回答。
正文
Analyse
Verpasse keine News mehr!
Unzensierte KI-Modelle: Experten erklären, wie gefährlich Abliteration AI wirklich ist
Abliteration wird schon länger genutzt, um Forschung in sensiblen Bereichen zu ermöglichen. Startups wie Abliteration AI wollen daraus Profit schlagen. Droht eine neue Welle an Cyberangriffen?
Unzensierte KI: Abliteration funktioniert nur bei Open-Weights-Modellen. (Bild: Lightspring / Shutterstock)
Wer sich von großen Frontier-Modellen über ihre offiziellen Chat-Interfaces Anleitungen zum Bau von ABC-Waffen, Malware und Viren geben lassen will, stößt auf Granit. Verantwortlich dafür sind sogenannte Guardrails, die Anfragen dieser Art direkt abblocken. Trotzdem lassen sich KI-Modelle immer noch jailbreaken, also dazu überreden, die per Belohnungstraining unterdrückten Antworten aus den Trainingsdaten doch noch auszuspielen.
Weiterlesen mit
Zugriff auf alle Artikel von t3n.de
t3n Magazin und MIT Technology Review in digitaler Form
1 Monat kostenlos testen! statt 118,80 €
Für 0 € testen
Du bist bereits Teil der Community? Hier anmelden
Florian Zandt
Als Redakteur für New Tech beschäftigt sich Florian Zandt intensiv mit allen Ausprägungen modernster Technologie und probiert neue Tools auch immer wieder selbst aus.
Startseite