←新闻详情

Fortune AI更新于 10月25日 18:27

诈骗者用 AI 克隆女儿声音伪造绑架,语音专家建议家庭设置安全暗语

Scammers used AI to fake a kidnapping. This Voice expert says every family needs a safe word | Fortune

AI 导读

Fortune 报道,加州 Martinez 的母亲 Deborah Del Mastro 在 5 月接到冒充墨西哥贩毒集团的电话,对方播放了用 AI 克隆的女儿哭喊声,她按指示在五小时内从多个地点向墨西哥汇款 5400 美元,事后发现女儿一直在上班。McAfee 测试显示,仅需三秒语音样本即可生成与原声 85% 匹配的克隆;Gallup 与 Stop Scams Alliance 调查估计 2025 年约 1500 万美国成年人被骗,损失约 680 亿美元,其中 12% 涉及 AI 或深度伪造。辛辛那提大学助理教授 Kimberly Hyun 建议家人之间约定只有彼此知道的暗语,接到陌生号码称家人出事的电话应直接挂断并回拨本人核实。

推荐理由

AI 评分 61

从三秒克隆到 5400 美元骗局,文章把语音克隆诈骗的作案链条和家庭层面的防范办法放在一起讲。

主题

标签

正文 · AI 翻译

热点1:马克·扎克伯格持有Meta 13%的股份,却掌控61%的投票权。加州的财富税将按这13%向他征税。2:谷歌被要求暂停芬兰数据中心的工作,此前在环境审查完成前已清理约25万棵树。3:“我是百万富翁,我自豪地租房”:Mrs. Dow Jones称美国梦需要重新思考。1:马克·扎克伯格持有Meta 13%的股份,却掌控61%的投票权。加州的财富税将按这13%向他征税。2:谷歌被要求暂停芬兰数据中心的工作,此前在环境审查完成前已清理约25万棵树。3:“我是百万富翁,我自豪地租房”:Mrs. Dow Jones称美国梦需要重新思考。网络安全诈骗:诈骗者用AI克隆她女儿的声音并伪造绑架。一位语音专家表示,如今每个家庭都需要一个安全暗语。作者:Muskaan Arshad。Muskaan Arshad。作者:Muskaan Arshad。Muskaan Arshad。2026年10月24日,美国东部时间上午6:36。Getty Images。在Google上添加Fortune,获取类似内容。

人工智能只需要你说话三秒钟,就能生成一个逼真的声音克隆。在网络安全公司McAfee的测试中,一段三秒的音频片段就足以生成一个与原说话者匹配度达85%的克隆。推荐视频

这项技术正越来越多地出现在诈骗中。根据盖洛普和Stop Scams Alliance的一项调查,2025年估计有1500万美国成年人被骗走钱财,损失约680亿美元。完整报告称,调查中报告的诈骗有12%涉及AI或深度伪造。这一数字可能低估了问题,因为受害者并不总能意识到使用了AI。

诈骗者可以从人们在Instagram和TikTok等平台上随意发布的视频中提取语音样本。然后,他们利用这些克隆声音让家庭成员相信亲人处于危险之中,并在此过程中说服他们交出数千美元。

而且很容易上当。

通话五小时

加利福尼亚州马丁内斯市的母亲Deborah Del Mastro在5月的一个早晨接到一个未知号码的来电。电话中的男子声称一个墨西哥贩毒集团绑架了她37岁的女儿。然后他播放了一段听起来像她女儿哭喊求救的声音。

“那是我女儿的声音,她完全处于恐慌发作中,害怕极了,对我说‘我爱你,妈妈,我很抱歉,我好害怕’,然后他们就切断了,”Del Mastro告诉ABC7 News。

“那家伙在发号施令,‘别说话’,‘你身边有人吗?’‘别说话’,‘去穿好衣服出去’,‘现在就做,必须马上做,’”她说。

相信女儿命悬一线,Del Mastro按照来电者的指示做了五个小时。她从多个地点向墨西哥电汇了5400美元,最终被告知女儿将在一家杂货店获释。当她到达那里却找不到女儿时,她直接给女儿打了电话。她的女儿一直就在上班。

马丁内斯警方正在调查,但Del Mastro告诉ABC7,她并不指望能追回这笔钱。

为什么熟悉的声音会让你放松警惕

Kimberly Hyun是辛辛那提大学Carl H. Lindner商学院的市场营销助理教授,研究一个人的声音如何影响说服力和消费者选择。她告诉Fortune,这些骗局之所以奏效,是因为大脑处理声音的方式。

她的研究发现,当一个声音的音色与我们认识的人相似时,我们往往会放下防备,更容易相信所听到的内容。

家人的声音“实际上可以通过信任来欺骗你,”Hyun解释说。

专业人士也会上当

不只是老年人才会落入这些骗局。盖洛普发现,诈骗受害率在不同年龄之间没有差异,经验丰富的专业人士也曾被骗。

据香港警方称,2024年,香港一家跨国公司的财务员工被骗支付2亿港元,约合2560万美元。诈骗者利用深度伪造技术在视频通话中冒充该公司的首席财务官。这名员工起初怀疑是网络钓鱼,但打消了疑虑,因为通话中的其他人看起来和听起来都像他认识的同事。他们全都是假的。该公司后来被确认为英国工程公司Arup。

克隆工具往往只差勾选一个复选框

这些骗局背后的工具并不难找。2025年3月,《消费者报告》发布了对六款热门AI语音克隆产品的评估。评估发现,其中四款——ElevenLabs、Speechify、PlayHT和Lovo——让研究人员可以轻松地从公开音频中克隆声音。

这四家公司没有使用任何技术机制来确认说话者的同意。用户只需勾选一个复选框,证明他们拥有克隆该声音的合法权利。另外两家,Descript和Resemble AI,已采取措施让未经同意的克隆变得更难。

“我们的评估表明,公司可以采取一些基本步骤,让在他人不知情的情况下克隆其声音变得更难——但有些公司并没有采取这些步骤,”《消费者报告》的政策分析师Grace Gedye说。

自2023年以来,《财富》杂志一直报道诈骗者利用语音克隆工具冒充亲属。研究人员警告称,这些伪造声音只会越来越难以识别:一位深度伪造研究者写道,语音克隆如今已跨过“无法分辨的阈值”。

如何保护自己和家人

由于熟悉的声音不再是身份证明,你需要第二种方式来确认这确实是你的亲人。Hyun的解决方案是约定一个只有你们两人知道的暗语。

“你确实需要与亲人创建一个安全暗语。确保他们是真的,”Hyun说。

否则,就遵循常规规则。对陌生号码来电保持警惕。如果有人打电话声称家人遇到麻烦,不要继续通话。“你只需要挂断电话,然后再次给你的家人打电话,”Hyun建议道。

如果你成为目标,请向联邦贸易委员会举报,网址为ReportFraud.ftc.gov,并向FBI的互联网犯罪投诉中心举报。在盖洛普调查中,只有13%的诈骗案件被报告给FTC或联邦执法部门。《财富日报》打破了受众与新闻编辑部之间的传统壁垒。该节目将《财富》值得信赖的报道转化为可操作、对话式且富有娱乐性的见解,服务于新兴的商业领袖群体。在此观看。关于作者作者:Muskaan Arshad查看完整简介在Google上添加《财富》以获取类似内容。

最受欢迎

来源

Fortune AI