顶象学院首页>文章详情

两老人收到海外亲属电话,竟都是骗子用AI伪造

2024-12-10|小象 571

针对老年人的诈骗案件愈发增多。最新的案例中,骗子通过AI技术伪造亲友的声音和面容,成功骗取了老年人的生活费和学费。

张大爷已经年过七旬,老伴多年前去世,儿子常年在国外工作。平时,张大爷独居在家,除了偶尔和儿子通话外,几乎没有其他亲戚朋友来往。然而,某天,张大爷接到了一个陌生来电,电话那头传来了一个他熟悉的声音——正是他儿子的声音。“爸,我在国外遇到了麻烦,需要一笔钱来解决问题。”儿子的声音听起来焦急且带有紧张感。张大爷一听是儿子的声音,心急如焚,立刻决定将自己辛苦积攒的生活费汇款给“儿子”。然而,几天后,当张大爷的儿子打电话回来,得知父亲汇款的消息后,才发现自己并没有与父亲通话,整个事件其实是骗子利用AI技术伪造了儿子的声音,实施了诈骗。

undefined

另一位受害人王阿姨的遭遇同样令人痛心。王阿姨的女儿在国外留学,两人之间保持着经常的视频通话。某天,王阿姨接到了一通视频通话请求,通话界面显示的是她女儿的面容。一开始,王阿姨并没有产生怀疑,毕竟她已和女儿通话了很多次。但在视频中,那个“女儿”突然表示,自己遇到了困难,需要急用一笔学费和生活费。王阿姨心疼女儿,毫不犹豫地将钱汇了过去。事后,王阿姨才发现,真正的女儿根本没有发起这次视频通话,所谓的“女儿”不过是骗子利用AI换脸技术将面容合成到自己的脸上,完成了这一场虚假的“亲情骗局”。

骗子的诈骗流程揭秘

首先,骗子通常会先通过社交平台、公开信息或泄露的数据库等渠道收集老年人的基本信息,包括姓名、住址、联系方式,以及老年人的亲友信息。

接下来,便是通过AI技术进行语音和面容的仿造。在视频诈骗的案例中,骗子则利用AI换脸技术,生成极为逼真的假面孔,使得视频中的“亲友”看起来毫无破绽。

undefined

然后,骗子们会编造一些紧急的、令人焦虑的情节。例如,假冒儿子或女儿声称自己在国外遇到了事故,或是生活中遇到了无法解决的困难,需要老年人紧急转账。对于孤独且情感上有依赖的老年人来说,面临“亲人”请求帮助的情况时,往往难以保持冷静。

再然后,骗子通过不断制造紧迫感和情感操控,成功地利用老年人对亲情的渴望,诱使他们做出快速决策,往往在没有进行充分核实的情况下,就会转账汇款。

老年人为何容易上当受骗?

1、许多老年人由于身体机能下降,社交圈子逐渐缩小,精神上的孤独感加剧,因此他们对亲情有着强烈的渴望和依赖。当骗子利用亲情做文章时,老年人往往会放下戒备,轻信来电或视频中出现的“亲人”。

2、很多老年人并不了解人工智能技术的存在,更不清楚像AI换脸和语音合成等技术已经可以做到如此真实的程度。由于缺乏相应的科技素养,他们往往难以分辨真假,尤其在骗子伪装得天衣无缝的情况下,常常容易被“亲友”的面容和声音所迷惑。

undefined

3、在面对所谓的紧急情况时,老年人的判断力容易受到情绪的干扰,尤其在紧迫的情境下,他们可能会因过度焦虑或心急而迅速做出决策。这种情况下,冷静核实信息的步骤常常被忽略,从而导致被骗。

如何有效防范此类诈骗?

在这类新型网络电信诈骗中,因为利用了AI生成的逼真音视频,使受害人很难通过直观的方式发现异常。因此,即使通过电话、视频“核实”对方身份,老人在面对类似的紧急资金请求时仍需保持高度警惕。涉及金钱交易时,必须采取多种方式确认对方身份,避免因匆忙做出错误决定而上当受骗。顶象防御云业务安全情报中心建议,老人可以通过以下几种有效的措施加以预防。 

视频或电话重拨。当接到可疑电话或视频时,保持冷静,不要立即回应任何要求。可以借口信号不好先挂断电话,然后通过其他已知的安全联系方式回拨,确认是否是亲友本人发出的请求,避免直接回应诈骗信息。

设置亲情验证机制。预先设定一个只有你和亲友知道的“安全词”或“挑战问题”,用于验证身份。如果接到可疑电话,要求对方提供这个关键词。无法正确回答或试图回避的行为,可以作为识别骗局的警示信号,立刻挂断电话,并通过安全方式核实身份。

咨询身边亲友。遇到类似紧急资金需求时,可以先与身边的其他亲友或信任的人进行核实,询问他们是否知道情况或是否也接到了类似的电话,以避免单独应对虚假信息造成的压力和误导。及时咨询可信的亲友可以帮助你判断情况的真实性。

报警。拨打当地的报警电话 110,向警方详细报告诈骗情况。

这些防范措施不仅能帮助个人抵御AI诈骗的威胁,也提醒大家在面对突发资金需求时,保持冷静与警觉,避免落入犯罪分子的圈套。

平台应该加强防范

诈骗分子正利用技术与心理相结合的方式,对受害者进行精准操控。面对AI伪造类诈骗,社会各界必须共同努力,通过技术手段、教育宣传和情感支持筑牢防护墙,避免更多人上当受骗。尤其短视频平台需要采取多重技术和手段,从源头上发现诈骗分子操作的账号,有效识别伪造的音视频欺诈。

1、识别异常的设备。顶象设备指纹通过对设备指纹的记录和比对,可以辨别合法用户和潜在的欺诈行为。其对每个设备进行唯一标识和识别的技术,识别出虚拟机、代理服务器、模拟器等被恶意操控的设备,分析设备是否存在多账号登录、是否频繁更换IP地址、频繁更换设备属性等出现异常或不符合用户习惯的行为,帮助追踪和识别欺诈者的活动。

2、识别异常操作的账号。异地登录、更换设备、更换手机号、休眠账户突然活跃等等,需要加强频繁验证;此外,会话期间的持续身份验证至关重要,保持持久性检查以确保用户的身份在使用期间保持一致。顶象无感验证可以快速准确地区分操作者是人还是机器,精准识别欺诈行为,实时监控并拦截异常行为。

3、防范换脸的虚假视频。顶象全链路全景式人脸安全威胁感知方案通过设备环境、人脸信息、图像鉴伪、用户行为、交互状态等多维度信息进行智能核验,快速识别注入攻击、活体伪造、图像伪造、摄像头劫持、调试风险、内存篡改、Root/越狱、恶意Rom、模拟器等运行和系统类等30多类恶意攻击行为,及时发现伪造视频、虚假人脸图片、异常交互行为后,可自动阻断操作。同时能够灵活配置视频核验强度与友好度,实现对正常用户无感验证,对异常用户加强验证的动态机制。

4、挖掘潜在欺诈威胁。顶象Dinsight实时风控引擎帮助企业进行风险评估、反欺诈分析和实时监控,提高风控的效率和准确性。Dinsight的日常风控策略的平均处理速度在100毫秒以内,支持多方数据的配置化接入与沉淀,能够基于成熟指标、策略、模型的经验储备,以及深度学习技术,实现风控自我性能监控与自迭代的机制。与Dinsight搭配的Xintell智能模型平台,能够对已知风险进行安全策略自动优化,基于风控日志和数据挖掘潜在风险,一键配置不同场景支持风控策略。其基于关联网络和深度学习技术,将复杂的数据处理、挖掘、机器学习过程标准化,提供从数据处理、特征衍生、模型构建到最终模型上线的一站式建模服务。

QQ扫码
获取方案价格

微信扫码
获取方案价格

加入社群

扫码进群领
【业务安全】资料礼包

在线咨询
400-878-6123