李先生接到一条自称单位领导发来的短信，要求其添加社交软件以便详细沟通。加为好友后，骗子以急需资金周转为由，要求李先生汇款，并承诺事后返还。在起初李先生心存疑虑的情况下，骗子主动发起视频通话。视频中，出现的“领导”让李先生信服，放下戒心。受骗的李先生随即分三笔共计95万元汇款。直到当天与朋友聊天时，他觉得事情有些蹊跷，才开始怀疑对方身份是否真实，最终决定报警。接到报警后，公安机关迅速与银行联动，通过紧急止付操作冻结了涉案资金83万元，避免了更大的损失。经过警方的紧急处理，李先生的大部分资金已成功追回。

另一案件中，李大娘接到一通自称是“弟弟”的电话。电话中的“弟弟”表示因更换手机号，要求重新添加微信，并称自己将会来家里看望姐姐。几天后，“弟弟”再次打来电话，称自己因打架被抓，需要支付赔偿款，要求李大娘提供资金支持。李大娘信以为真，准备了7万元现金。骗子随即要求李大娘再提供5万元。虽然李大娘开始产生怀疑，但仍旧决定报警。警方经核查，确认这是一起利用AI克隆声音技术实施的诈骗案件。骗子通过仿真声音成功骗取了李大娘的信任，甚至能准确模仿李大娘弟弟的语气和语调，使李大娘毫无防备。警方在接到报警后，启动了协同警务工作，成功锁定了取款男子王某，并在外省将其抓获。王某目前因涉嫌诈骗被公安机关依法刑事拘留，案件正在进一步侦办中。

在这两起案件中，受害人之所以上当受骗，主要因为他们未能识别出视频和声音中的伪造痕迹。李先生在看到“领导”的视频头像后，完全放松了警惕，未曾意识到视频也可以被篡改。李大娘则深信电话中的“弟弟”声音是亲人发出的，骗子甚至通过模仿她弟弟的细节，进一步增强了她的信任，导致她毫不怀疑地提供了大量资金。

骗子在用AI筛选目标人群

交通银行联合顶象发布的《金融AIGC音视频反欺诈白皮书》 ，详细介绍了“换脸”“拟声”欺诈的流程和特点。

AI换脸技术已经被广泛用于诈骗中。骗子利用该技术将他人的面容换成熟人或亲人的脸，通过合成视频或照片，使得诈骗行为看起来更具可信度。这种技术能够“以假乱真”，让受害人在不知情的情况下陷入骗局。

此外，AI还被用来筛选潜在的受害人群。骗子不再盲目撒网，而是通过分析受害人在网络平台上发布的个人信息，运用AI技术精确筛选目标对象，为实施诈骗设计个性化的策略。通过这种方式，骗子能够更高效、更隐蔽地锁定受害人，增加了欺诈行为的成功率。

如何有效防范AI诈骗？

《金融AIGC音视频反欺诈白皮书》 呼吁行业企业建立覆盖全周期、全场景、 全链条的防御体系，以应对AI带来各类欺诈。针对个人，可以通过以下几种有效的措施加以预防。 

视频或电话重拨。当接到可疑电话或视频时，保持冷静，不要立即回应任何要求。可以借口信号不好先挂断电话，然后通过其他已知的安全联系方式回拨，确认是否是亲友本人发出的请求，避免直接回应诈骗信息。

设置亲情验证机制。预先设定一个只有你和亲友知道的“安全词”或“挑战问题”，用于验证身份。如果接到可疑电话，要求对方提供这个关键词。无法正确回答或试图回避的行为，可以作为识别骗局的警示信号，立刻挂断电话，并通过安全方式核实身份。

咨询身边亲友。遇到类似紧急资金需求时，可以先与身边的其他亲友或信任的人进行核实，询问他们是否知道情况或是否也接到了类似的电话，以避免单独应对虚假信息造成的压力和误导。及时咨询可信的亲友可以帮助你判断情况的真实性。

报警。拨打当地的报警电话 110，向警方详细报告诈骗情况。

这些防范措施不仅能帮助个人抵御AI诈骗的威胁，也提醒大家在面对突发资金需求时，保持冷静与警觉，避免落入犯罪分子的圈套。

平台应该加强防范

针对上面提到的面对AI伪造类诈骗，社会各界必须共同努力，通过技术手段、教育宣传和情感支持筑牢防护墙，避免更多人上当受骗。尤其短视频平台需要采取多重技术和手段，从源头上发现诈骗分子操作的账号，有效识别伪造的音视频欺诈。

1、识别异常的设备。顶象设备指纹通过对设备指纹的记录和比对，可以辨别合法用户和潜在的欺诈行为。其对每个设备进行唯一标识和识别的技术，识别出虚拟机、代理服务器、模拟器等被恶意操控的设备，分析设备是否存在多账号登录、是否频繁更换IP地址、频繁更换设备属性等出现异常或不符合用户习惯的行为，帮助追踪和识别欺诈者的活动。

2、识别异常操作的账号。异地登录、更换设备、更换手机号、休眠账户突然活跃等等，需要加强频繁验证；此外，会话期间的持续身份验证至关重要，保持持久性检查以确保用户的身份在使用期间保持一致。顶象无感验证可以快速准确地区分操作者是人还是机器，精准识别欺诈行为，实时监控并拦截异常行为。

3、防范换脸的虚假视频。顶象全链路全景式人脸安全威胁感知方案通过设备环境、人脸信息、图像鉴伪、用户行为、交互状态等多维度信息进行智能核验，快速识别注入攻击、活体伪造、图像伪造、摄像头劫持、调试风险、内存篡改、Root/越狱、恶意Rom、模拟器等运行和系统类等30多类恶意攻击行为，及时发现伪造视频、虚假人脸图片、异常交互行为后，可自动阻断操作。同时能够灵活配置视频核验强度与友好度，实现对正常用户无感验证，对异常用户加强验证的动态机制。

4、挖掘潜在欺诈威胁。顶象Dinsight实时风控引擎帮助企业进行风险评估、反欺诈分析和实时监控，提高风控的效率和准确性。Dinsight的日常风控策略的平均处理速度在100毫秒以内，支持多方数据的配置化接入与沉淀，能够基于成熟指标、策略、模型的经验储备，以及深度学习技术，实现风控自我性能监控与自迭代的机制。与Dinsight搭配的Xintell智能模型平台，能够对已知风险进行安全策略自动优化，基于风控日志和数据挖掘潜在风险，一键配置不同场景支持风控策略。其基于关联网络和深度学习技术，将复杂的数据处理、挖掘、机器学习过程标准化，提供从数据处理、特征衍生、模型构建到最终模型上线的一站式建模服务。