据TechRadar报道,AI语音克隆已发展到能逼真模仿人声的程度,诈骗者正借此实施“亲属遇险”类骗局,而研究显示,人们并不擅长分辨合成语音与真人声音。
报道提到,一名X用户发帖称,自己接到“妻子”来电,对方说忘带钱包,需要信用卡支付油费。但妻子当时就在家中,而且开的是特斯拉。该用户说,来电者声音“百分之百像她”,只是节奏有点怪。如果妻子不在身边,且不是关于加油,他可能就上当了。他为了解更多信息继续与对方周旋,并怀疑这可能是某种语音滤镜,因为回应速度对AI来说太快。报道指出,尚不清楚这通电话使用的是生成式AI还是实时语音滤镜,但可以确定的是,仅凭熟悉的声音来判断电话另一端是谁,已经不再可靠。
这篇报道在Reddit引发讨论后,有人怀疑故事真实性,但也有不少人讲述类似经历。一名用户称,上周就遇到有人冒充律师,打电话给他的阿姨和祖母,说他进了监狱,需要保释金。
根据弗雷德·海丁(Fred Heiding)及其同事2026年发表的论文《Evaluating AI Models' Capability to Automate Voice Phishing Attacks》,一项涉及4100名美国成年人的研究发现,多达36.1%的受访者表示会配合,或不确定自己是否会配合由AI驱动的“亲属遇险”骗局。报道强调,这一数字衡量的是自我报告的配合意愿,而非实际被骗交钱的人数,研究者将其视为对骗局易感性的指标,而不是观察到的行为。研究者还发现,说服力比声音听起来有多像人更重要,经常使用AI的人也不比没有接触过AI的人更能识别合成声音。
报道称,让受害者以为亲人急需用钱并非新骗局,但AI让危险变得尤其真实。若诈骗者听起来确实像你的亲人,如何确认对方身份?一个办法是现在就和家人设立暗语。暗语不必复杂,只要全家都知道,且诈骗者不太可能猜到或在网上找到即可。还有一个更简单的预防措施:挂断电话,再用自己已知的号码回拨。如果子女、伴侣或父母突然来电,紧急要钱,不要仅凭声音判断,应结束通话并主动联系对方。
报道还提及2024年的法拉利深度伪造事件:一名法拉利高管收到信息,随后接到一通疑似冒充首席执行官贝内代托·维尼亚(Benedetto Vigna)的电话。该高管起疑后,要求对方说出真CEO最近推荐的一本书。来电者答不上来,骗局随之失败。家庭暗语的作用与此类似。
Malwarebytes消费者业务负责人马克·贝尔(Mark Beare)在报道中表示:“AI最深的影响不在我们的设备上,而在我们自己身上。当人们不再能信任自己看到、听到或正在交谈的对象时,损害会远远超出任何单一骗局,触及社会构建的基础。”报道还提到,Malwarebytes在6月发布的一项调查发现,85%的人表示很难把骗局与真实情况区分开,高于前一年的66%;88%的人表示,越来越难判断网上哪些内容真正来自人类或真实存在。AI生成的图像和深度伪造视频,也正在挑战“亲眼所见、亲耳所闻即为真”的假设。
报道最后称,人们过去可以依赖熟悉的声音来证明身份,但在2026年,这已不够。AI语音技术只会越来越逼真,人们的行为也需要随之改变:现在就和最亲近的人约定暗语;如果接到意外来电索要钱财,挂断并回拨。