AI 热点

Face Swap 与 Voice Cloning:Fraunhofer SIT 检测器如何识别…

heise online更新于 11月19日 22:13

Face Swap und Voice Cloning: So entlarvt ein Detektor Deepfake-Anrufer | heise online

AI 导读

Fraunhofer SIT 展示了一款 Deepfake 检测器,可识别通过 Face Swap 和 Voice Cloning 实时伪装的视频来电者。该 Proof of Concept 能在一秒内报警,给出欺诈概率并用 Heatmap 标记可疑画面;其采用本地客户端保护隐私,但算力需求较高,尚不适合普通智能手机。

正文

Im Videocall fühlen sich viele Mitarbeiter sicher, nicht auf Betrüger hereinzufallen, denn Kollegen oder Vorgesetzte sind zu sehen und zu hören. Doch Betrüger können sich per Face Swap und Voice Cloning maskieren, mit aktuellen Tools auch in Echtzeit. Eventuell ist ein Wackler zu sehen, ein Ruckeln zu bemerken, aber das irritiert bei Videokonferenzen kaum jemanden – und schon haben Kriminelle einen Fuß in der Tür. Das Fraunhofer-Institut für Sichere Informationstechnologie (SIT) betreibt Grundlagenforschung und hat Ende Oktober einen Deepfake-Detektor auf der Fachmesse it-sa in Nürnberg demonstriert. Wir sprachen mit den Entwicklern.

Der Detektor ist derzeit ein Proof of Concept. Er schlägt innerhalb einer Sekunde an, meldet eine prozentuale Betrugswahrscheinlichkeit und zeigt auf einer Heatmap, welche Bildinhalte ihm besonders verdächtig vorkommen. Angerufene können sich damit ihr eigenes Bild machen und die aktualisierte Warnung im Blick behalten.

Analyse: Warum dem Grok-Desaster mit geltendem Recht schwer beizukommen ist

Skandal um Grok: Das steckt hinter den sexualisierten KI-Fotos auf X

Datenschutz: Plattformen droht Überwachungspflicht

Deepfakes im Visier von AI Act und deutschem Strafrecht

KI-Bikini-Bilder mit Grok: X kündigt technische Sperre an

Erster US-Bundesstaat geht gegen xAI und Grok wegen sexualisierter KI-Bilder vor

„Abscheulich“: Britische Regierung und Medienaufsicht werden gegen Grok aktiv

Im Sinne des Datenschutzes wird der Videocall nicht etwa zur Kontrolle auf einen Server umgeleitet. Stattdessen ist der Deepfake-Detektor als ein lokaler Client konzipiert, erfordert dafür aber auch viel Rechenleistung. Für einfache Smartphones ist er in dieser Form noch nicht geeignet.

Das war die Leseprobe unseres heise-Plus-Artikels "Face Swap und Voice Cloning: So entlarvt ein Detektor Deepfake-Anrufer". Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.

Keine Abos, keine Werbung: 18 nützliche Gratis-Apps von Offline-Navigation über PDF-Editor und Vorratsverwaltung bis hin zur Spielesammlung.

Apples neue Streaming-Box ist ein Kraftpaket. Wir haben untersucht, ob man den Leistungssprung überhaupt nutzt und welche Features in der EU funktionieren.

Offene Lasercutter und -gravierer werden immer erschwinglicher, doch sie bergen Risiken für Augen und Atemwege. Ein Gehäuse schafft Abhilfe.

Der Ofen 3 heizt nicht nur die Wohnung, sondern schürft nebenher auch Bitcoins. Die sollen die Heizkosten drücken. Wir haben ausprobiert, ob sich das lohnt.

Der ID. Polo hinterlässt das typische VW-Gefühl. Er ist in fast jeder Hinsicht gut und im Vergleich auch fair bepreist. Im Test zeigt er nur wenige Schwächen.

Abgehangene Echo-Lautsprecher mit KI pimpen? Heutzutage ist das kein Problem. Wie es möglichst einfach gelingt und was es wirklich bringt.

来源

heise online