AI 热点

Face Swap 与 Voice Cloning:Fraunhofer SIT 检测器如何识别…

heise online更新于 11月19日 22:13

Face Swap und Voice Cloning: So entlarvt ein Detektor Deepfake-Anrufer | heise online

AI 导读

Fraunhofer SIT 展示了一款 Deepfake 检测器,可识别通过 Face Swap 和 Voice Cloning 实时伪装的视频来电者。该 Proof of Concept 能在一秒内报警,给出欺诈概率并用 Heatmap 标记可疑画面;其采用本地客户端保护隐私,但算力需求较高,尚不适合普通智能手机。

正文 · AI 翻译

在视频通话中,许多员工觉得自己不会落入骗子的圈套,因为他们能够看到和听到同事或上司。然而,骗子可以通过 Face Swap 和 Voice Cloning 伪装自己,借助当前的工具甚至可以实时完成。画面中或许会出现抖动或卡顿,但在视频会议中几乎没人会对此起疑——犯罪分子也就这样成功打开了突破口。Fraunhofer 安全信息技术研究所(SIT)从事基础研究,并于 10 月底在纽伦堡举行的 it-sa 专业展会上演示了一款 Deepfake 检测器。我们采访了其开发人员。

该检测器目前仍是一个 Proof of Concept。它能在一秒内发出警报,报告百分比形式的欺诈概率,并通过 Heatmap 显示它认为特别可疑的画面内容。接听者可以据此自行判断,并持续关注实时更新的警告。

分析:为什么现行法律难以应对 Grok 灾难

Grok 丑闻:X 上的色情化 AI 照片背后究竟发生了什么

数据保护:平台或将面临监控义务

AI Act 与德国刑法瞄准 Deepfake

使用 Grok 生成 AI 比基尼图片:X 宣布实施技术封锁

美国首个州因色情化 AI 图片对 xAI 和 Grok 采取行动

“令人作呕”:英国政府和媒体监管机构开始对 Grok 采取行动

出于数据保护考虑,视频通话不会为了接受检查而被转接到服务器。相反,这款 Deepfake 检测器被设计为本地客户端,但也因此需要大量算力。它目前以这种形式还不适合普通智能手机。

以上是我们的 heise Plus 文章《Face Swap 与 Voice Cloning:检测器如何识破 Deepfake 来电者》的试读内容。订阅 heise Plus 后,您可以阅读全文。

无需订阅、没有广告:18 款实用免费应用,涵盖离线导航、PDF 编辑、库存管理乃至游戏合集。

Apple 的新款流媒体盒子性能强劲。我们研究了它的性能跃升是否真正得到利用,以及哪些功能可在欧盟使用。

开放式激光切割机和激光雕刻机变得越来越实惠,但会给眼睛和呼吸道带来风险。加装外壳即可解决这一问题。

Ofen 3 不仅能为住宅供暖,还会顺便挖掘 Bitcoin,以此降低取暖成本。我们实测了这样做是否划算。

ID. Polo 延续了典型的 VW 风格。它几乎在各方面都表现出色,横向比较之下定价也很公道。在测试中,它只显露出少数弱点。

用 AI 升级老旧的 Echo 音箱?如今这已不成问题。怎样才能尽可能简单地实现,又能真正带来哪些提升?

来源

heise online