骗子通过AI换脸技术，将自己的面孔替换成亲人的样貌，甚至将其声音合成，借助深度伪造视频和音频，精准模拟亲友的语气和表达方式，轻易建立起受害人对其的信任，进而实施诈骗。同样，冒充公检法人员也是一种常见的诈骗手段，骗子利用AI技术伪造身份、穿上警服，伪装成执法人员进行“案件调查”，制造虚假的恐慌气氛，诱使受害者按照指示操作。

更为可怕的是，骗子还通过AI技术冒充名人，特别是知名企业家、明星等公众人物，通过视频连线等方式与受害者互动，建立起虚假的信任关系，从而实施财产诈骗。

利用AI冒充名人明星

案例一：北京丰台区的AI换脸诈骗案件

2023年11月，北京市丰台区方庄街道某社区成功拦截一起涉及AI换脸技术的诈骗案件。犯罪分子通过精巧手段假冒马云身份，试图诱导一位老人购买保健品。诈骗分子首先通过电 话接触老年人，以“马云徒弟”的身份向老人推销扶贫项目，并承诺丰厚的投资回报。为了增强可信度，骗子提议与“马云”视频连线，并利用AI换脸技术将自己伪装成马云。由于技术高度仿真，老人未产生任何怀疑，甚至深信自己正在与马云进行视频交流。接着，骗子要求老人下载QQ软件，以便进行后续的投资操作。

幸运的是，社区工作人员和民警及时发现了诈骗端倪，通过与老人再次视频通话，揭示了骗子的真面目。在警察出现后，骗子显得异常慌张，并迅速挂断了视频。老人最终未遭受财产损失，案件得到了及时处理。

案例二：江西宜春市的AI合成名人诈骗案件

江西宜春市公安局接到一银行求助电话，报警称一位老人坚持办理贷款，表示不办理就不离开。民警赶到现场后，通过询问得知，老人想贷款 200万元资助自己所谓的“男朋友”靳东拍戏。老人称，自己通过短视频平台认识了这位“靳东”，并与其建立了感情关系，骗子甚至发布了合照和视频，表示因拍戏需要资金支持。

经过民警的细致调查，发现“靳东”的身份完全是伪造的，所谓的合照和视频均为AI合成。尽管如此，老人依然深信不疑，认为自己正与偶像靳东交往。民警耐心劝导并现场演示AI合成技术的原理，最终让老人意识到自己被骗，决定放弃贷款申请。

这两个案件揭示了AI换脸和AI合成技术在诈骗中的应用，尤其是其对老年人的情感操控。骗子通过高仿真技术伪装成名人，利用老年人对亲情与偶像的信任，成功引诱其参与诈骗。

利用AI冒充公检法

案例一：无锡市的AI冒充警察诈骗案件

2024年5月，75岁的胡女士接到了一个自称江苏省无锡市公安局警察的电话，骗子声称她的银行卡涉及诈骗案件，要求进行资金审查。胡女士在骗子的指引下安装了一个软件，并开启了网络会议室。她并未意识到自己已经与骗子共享了屏幕，骗子通过远程操作控制了她的手机。整个过程中，胡女士毫不知情，直到检查账户时才发现资金已经消失。事后，胡女士才意识到自己受骗并报警。

骗子利用这种方式巧妙地避开了传统的电话诈骗，通过远程控制和屏幕共享，使得老人完全没有警觉。通过伪装成公安机关工作人员，骗子利用权威形象和紧迫感，成功诱使胡女士配合操作，导致资金被盗。

案例二：湖南博物院的AI换脸诈骗案件

近日，湖南博物院的“雷锋义警”在巡逻时发现一名神情慌张的老人正站在手机营业厅门口 ，与手机另一端进行视频通话。义警敏锐地判断出这可能是一起诈骗案件，立即报告公安部门。民警赶到现场时，老人正在与“警察”视频对话。视频中，骗子穿着警服，神色严肃，要求老人配合资金核查，并指导她记录相关信息。

通过与老人交谈，民警得知骗子通过FaceTime视频来电，冒充公安人员声称老人涉嫌违法犯罪，要求配合调查。骗子利用AI换脸技术，将自己的面孔替换成穿警服的“警察”形象，并通过严肃的语气和伪造的警服提高了可信度。老人由于害怕被误指控犯罪，未曾质疑对方身份，配合操作。民警当场揭露骗局，骗子见状急忙挂断视频。

这两个案例突显了骗子利用AI换脸和视频通话技术的高仿真手段，成功冒充公检法人员实施诈骗。通过高仿真视频和伪装身份，骗子利用老年人对法律权威的恐惧心理，操控其行为，导致财产损失。幸运的是，及时的社区干预和警察介入避免了更大的损失。

老人为何容易上当受骗？

老年人群体尤其容易成为受害者，原因复杂且多方面，主要是对AI技术缺乏了解、对权威的信任、情感的依赖和焦虑的情绪反应等等。

1、对AI技术和危害缺乏了解。许多老年人并不了解人工智能技术的存在，更不了解这些技术如何在日常生活中被滥用。AI换脸、语音合成和深度伪造技术的出现，极大提高了虚假信息的可信度，特别是对年长者而言，他们难以分辨真假。由于缺乏相应的科技素养，很多老年人无法察觉到这些技术背后的风险和潜在的诈骗行为。他们可能认为视频中的人物、电话中的声音都是真实可信的，完全没有警觉。这种对新兴技术的不了解，使得老年人极易成为诈骗分子的目标。

2、 恐惧情绪压制理性判断。年长者通常具有较强的传统观念和对权威的高度信任。骗子通过伪装成公安、检察院或法院人员，使老年人常常感到极度恐慌。一旦听到所谓的法律指控，他们往往不敢怀疑对方的身份，容易被骗子的权威性话语所压倒。此时，老人被恐惧情绪所主导，急于解决问题，最终听从骗子的指示，造成财产损失。

尤其是对于那些急于解决问题或避免麻烦的老人而言，骗子制造的紧迫感让他们在短时间内作出错误决策。例如，骗子通过声称“涉嫌违法”，使得老人陷入恐惧和焦虑情绪中，进而容易做出汇款等错误决策。理性判断被情绪压制的现象，令骗子的诈骗行为更加容易得逞。

3、社交圈的缩小与情感依赖。随着年龄的增长，老年人往往面临社交圈子逐渐缩小的情况，许多人生活中缺乏足够的亲朋陪伴。骗子还通过模仿社会知名人物（如明星、商界领袖等）进一步增加骗局的可信度。名人具有高度的社会知名度和信任度，骗子通过AI换脸、深度伪造等技术将自己伪装成名人或公众人物，极大提升了骗局的可信度。在这种情况下，老人对名人形象的高度信任，往往让他们不加怀疑地相信骗子的虚假身份，从而上当受骗。

4. 情绪化决策和快速反应。老年人的身体机能下降，尤其是反应速度和认知能力有所减弱，这使得他们在处理突发事件时容易情绪化决策。当老人遇到陌生电话或视频时，容易因焦虑而做出草率决策。在这种情况下，他们可能没有时间去进行进一步的核实和思考，也没有意识到自己的行为已经被诈骗分子引导。

老人怎么防范AI诈骗？

在这类新型网络电信诈骗中，因为利用了AI生成的逼真音视频，使受害人很难通过直观的方式发现异常。因此，即使通过电话、视频“核实”对方身份，老人在面对类似的紧急资金请求时仍需保持高度警惕。涉及金钱交易时，必须采取多种方式确认对方身份，避免因匆忙做出错误决定而上当受骗。顶象防御云业务安全情报中心建议民众需要提高警觉性，并采取多重验证措施。 

1、视频或电话回拨，核实身份。挂断来电并通过你已知的、可靠的联系方式（例如存储在手机中的亲友号码或官方网站提供的联系方式）重新联系对方。不要通过对方提供的号码再次联系，因为骗子可能会使用伪造的来电显示号码。

2、咨询身边亲友。如果接到电话或消息，要求你进行捐款或转账，不妨先与身边的亲友确认，看是否也接到类似的请求，或是否有发生类似事件的情况。如果自己无法判断，可以请亲友帮助验证。

3、提高对AI伪造技术的警觉。接到电话时，尽管对方声音似乎是熟悉的，但语气或语言的流畅性、情感表达等方面出现不一致，你应该立即保持怀疑。AI生成的声音可能缺乏一些细节，比如语气的起伏、情绪的真实性等。

4、报警寻求帮助。拨打当地的报警电话 110，向警方详细报告诈骗情况。

这些防范措施不仅能帮助个人抵御AI诈骗的威胁，也提醒大家在面对突发资金需求时，保持冷静与警觉，避免落入犯罪分子的圈套。

平台应该加强安全预警

诈骗分子正利用技术与心理相结合的方式，对受害者进行精准操控。面对AI伪造类诈骗，社会各界必须共同努力，通过技术手段、教育宣传和情感支持筑牢防护墙，避免更多人上当受骗。尤其短视频平台需要采取多重技术和手段，从源头上发现诈骗分子操作的账号，有效识别伪造的视频。

1、识别异常的设备。顶象设备指纹通过对设备指纹的记录和比对，可以辨别合法用户和潜在的欺诈行为。其对每个设备进行唯一标识和识别的技术，识别出虚拟机、代理服务器、模拟器等被恶意操控的设备，分析设备是否存在多账号登录、是否频繁更换IP地址、频繁更换设备属性等出现异常或不符合用户习惯的行为，帮助追踪和识别欺诈者的活动。

2、识别异常操作的账号。异地登录、更换设备、更换手机号、休眠账户突然活跃等等，需要加强频繁验证；此外，会话期间的持续身份验证至关重要，保持持久性检查以确保用户的身份在使用期间保持一致。顶象无感验证可以快速准确地区分操作者是人还是机器，精准识别欺诈行为，实时监控并拦截异常行为。

3、防范换脸的虚假视频。顶象全链路全景式人脸安全威胁感知方案通过设备环境、人脸信息、图像鉴伪、用户行为、交互状态等多维度信息进行智能核验，快速识别注入攻击、活体伪造、图像伪造、摄像头劫持、调试风险、内存篡改、Root/越狱、恶意Rom、模拟器等运行和系统类等30多类恶意攻击行为，及时发现伪造视频、虚假人脸图片、异常交互行为后，可自动阻断操作。同时能够灵活配置视频核验强度与友好度，实现对正常用户无感验证，对异常用户加强验证的动态机制。

4、挖掘潜在欺诈威胁。顶象Dinsight实时风控引擎帮助企业进行风险评估、反欺诈分析和实时监控，提高风控的效率和准确性。Dinsight的日常风控策略的平均处理速度在100毫秒以内，支持多方数据的配置化接入与沉淀，能够基于成熟指标、策略、模型的经验储备，以及深度学习技术，实现风控自我性能监控与自迭代的机制。与Dinsight搭配的Xintell智能模型平台，能够对已知风险进行安全策略自动优化，基于风控日志和数据挖掘潜在风险，一键配置不同场景支持风控策略。其基于关联网络和深度学习技术，将复杂的数据处理、挖掘、机器学习过程标准化，提供从数据处理、特征衍生、模型构建到最终模型上线的一站式建模服务。