Face Swap 与 Voice Cloning:Fraunhofer SIT 检测器如何识别…
Face Swap und Voice Cloning: So entlarvt ein Detektor Deepfake-Anrufer | heise online
Fraunhofer SIT 展示了一款 Deepfake 检测器,可识别通过 Face Swap 和 Voice Cloning 实时伪装的视频来电者。该 Proof of Concept 能在一秒内报警,给出欺诈概率并用 Heatmap 标记可疑画面;其采用本地客户端保护隐私,但算力需求较高,尚不适合普通智能手机。
正文 · AI 翻译
在视频通话中,许多员工觉得自己不会落入骗子的圈套,因为他们能够看到和听到同事或上司。然而,骗子可以通过 Face Swap 和 Voice Cloning 伪装自己,借助当前的工具甚至可以实时完成。画面中或许会出现抖动或卡顿,但在视频会议中几乎没人会对此起疑——犯罪分子也就这样成功打开了突破口。Fraunhofer 安全信息技术研究所(SIT)从事基础研究,并于 10 月底在纽伦堡举行的 it-sa 专业展会上演示了一款 Deepfake 检测器。我们采访了其开发人员。
该检测器目前仍是一个 Proof of Concept。它能在一秒内发出警报,报告百分比形式的欺诈概率,并通过 Heatmap 显示它认为特别可疑的画面内容。接听者可以据此自行判断,并持续关注实时更新的警告。
分析:为什么现行法律难以应对 Grok 灾难
Grok 丑闻:X 上的色情化 AI 照片背后究竟发生了什么
数据保护:平台或将面临监控义务
AI Act 与德国刑法瞄准 Deepfake
使用 Grok 生成 AI 比基尼图片:X 宣布实施技术封锁
美国首个州因色情化 AI 图片对 xAI 和 Grok 采取行动
“令人作呕”:英国政府和媒体监管机构开始对 Grok 采取行动
出于数据保护考虑,视频通话不会为了接受检查而被转接到服务器。相反,这款 Deepfake 检测器被设计为本地客户端,但也因此需要大量算力。它目前以这种形式还不适合普通智能手机。
以上是我们的 heise Plus 文章《Face Swap 与 Voice Cloning:检测器如何识破 Deepfake 来电者》的试读内容。订阅 heise Plus 后,您可以阅读全文。
无需订阅、没有广告:18 款实用免费应用,涵盖离线导航、PDF 编辑、库存管理乃至游戏合集。
Apple 的新款流媒体盒子性能强劲。我们研究了它的性能跃升是否真正得到利用,以及哪些功能可在欧盟使用。
开放式激光切割机和激光雕刻机变得越来越实惠,但会给眼睛和呼吸道带来风险。加装外壳即可解决这一问题。
Ofen 3 不仅能为住宅供暖,还会顺便挖掘 Bitcoin,以此降低取暖成本。我们实测了这样做是否划算。
ID. Polo 延续了典型的 VW 风格。它几乎在各方面都表现出色,横向比较之下定价也很公道。在测试中,它只显露出少数弱点。
用 AI 升级老旧的 Echo 音箱?如今这已不成问题。怎样才能尽可能简单地实现,又能真正带来哪些提升?
AI 热点