AI Trends

Face Swap and Voice Cloning: How the Fraunhofer SIT Detector Identifies…

heise onlineUpdated Nov 19 22:13

AI summary

Fraunhofer SIT has demonstrated a deepfake detector that can identify video callers disguised in real time using face swapping and voice cloning. The proof of concept can raise an alert within one second, provide a probability of fraud, and mark suspicious areas of the image with a heatmap. It runs locally on the client to protect privacy, but its computational requirements are high, making it unsuitable for ordinary smartphones for now.

Body

Im Videocall fühlen sich viele Mitarbeiter sicher, nicht auf Betrüger hereinzufallen, denn Kollegen oder Vorgesetzte sind zu sehen und zu hören. Doch Betrüger können sich per Face Swap und Voice Cloning maskieren, mit aktuellen Tools auch in Echtzeit. Eventuell ist ein Wackler zu sehen, ein Ruckeln zu bemerken, aber das irritiert bei Videokonferenzen kaum jemanden – und schon haben Kriminelle einen Fuß in der Tür. Das Fraunhofer-Institut für Sichere Informationstechnologie (SIT) betreibt Grundlagenforschung und hat Ende Oktober einen Deepfake-Detektor auf der Fachmesse it-sa in Nürnberg demonstriert. Wir sprachen mit den Entwicklern.

Der Detektor ist derzeit ein Proof of Concept. Er schlägt innerhalb einer Sekunde an, meldet eine prozentuale Betrugswahrscheinlichkeit und zeigt auf einer Heatmap, welche Bildinhalte ihm besonders verdächtig vorkommen. Angerufene können sich damit ihr eigenes Bild machen und die aktualisierte Warnung im Blick behalten.

Analyse: Warum dem Grok-Desaster mit geltendem Recht schwer beizukommen ist

Skandal um Grok: Das steckt hinter den sexualisierten KI-Fotos auf X

Datenschutz: Plattformen droht Überwachungspflicht

Deepfakes im Visier von AI Act und deutschem Strafrecht

KI-Bikini-Bilder mit Grok: X kündigt technische Sperre an

Erster US-Bundesstaat geht gegen xAI und Grok wegen sexualisierter KI-Bilder vor

„Abscheulich“: Britische Regierung und Medienaufsicht werden gegen Grok aktiv

Im Sinne des Datenschutzes wird der Videocall nicht etwa zur Kontrolle auf einen Server umgeleitet. Stattdessen ist der Deepfake-Detektor als ein lokaler Client konzipiert, erfordert dafür aber auch viel Rechenleistung. Für einfache Smartphones ist er in dieser Form noch nicht geeignet.

Das war die Leseprobe unseres heise-Plus-Artikels "Face Swap und Voice Cloning: So entlarvt ein Detektor Deepfake-Anrufer". Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.

Keine Abos, keine Werbung: 18 nützliche Gratis-Apps von Offline-Navigation über PDF-Editor und Vorratsverwaltung bis hin zur Spielesammlung.

Apples neue Streaming-Box ist ein Kraftpaket. Wir haben untersucht, ob man den Leistungssprung überhaupt nutzt und welche Features in der EU funktionieren.

Offene Lasercutter und -gravierer werden immer erschwinglicher, doch sie bergen Risiken für Augen und Atemwege. Ein Gehäuse schafft Abhilfe.

Der Ofen 3 heizt nicht nur die Wohnung, sondern schürft nebenher auch Bitcoins. Die sollen die Heizkosten drücken. Wir haben ausprobiert, ob sich das lohnt.

Der ID. Polo hinterlässt das typische VW-Gefühl. Er ist in fast jeder Hinsicht gut und im Vergleich auch fair bepreist. Im Test zeigt er nur wenige Schwächen.

Abgehangene Echo-Lautsprecher mit KI pimpen? Heutzutage ist das kein Problem. Wie es möglichst einfach gelingt und was es wirklich bringt.

Source

heise online