近日，在北京市丰台区方庄街道某社区成功拦截一起涉及AI换脸技术的诈骗案件。诈骗分子通过精巧的手段，假冒马云的身份，试图诱导一位老人购买保健品。在社区工作者与民警的及时干预下，犯罪行为被识破，老人未受到财产损失。

案件的起因是一位大妈在社区居委会寻求帮助时透露，她接到了一个自称“马云徒弟”的电话。骗子先通过小额赠送话费来拉近与老人的关系，并表示自己在开展一个扶贫项目，承诺可以获得丰厚的投资回报。为了进一步打消老人的疑虑，骗子提出了与“马云”视频连线的建议。

利用AI换脸技术，骗子伪装成马云，通过视频对话显示在老人手机屏幕上。由于技术的高仿真度，老人完全没有怀疑视频中的人是否真实，甚至确信自己与马云进行了直接交流。骗子通过这种方式成功赢得了老人的信任，接着要求她下载QQ软件，以便进一步进行投资操作。

幸运的是，社区工作人员与民警通过细致的询问，迅速识别出了骗局的端倪，并通过再次视频通话向老人揭示真相。骗子见警察出现后显得异常慌张，迅速挂断视频，

诈骗分子利用AI技术和老人的心理弱点

1、此次诈骗案件中，骗子所使用的AI换脸技术起到了关键作用。换脸技术能将真实人物的面部特征精准地合成到其他人的脸上，视频中的“马云”看起来与真实人物几乎无异。

2、由于许多老年人缺乏足够的网络安全意识，尤其是对新兴的网络技术（如AI换脸、深度伪造技术）并不熟悉，容易成为诈骗的目标，认为自己真的是与马云进行了视频通话。

3、同时，因为马云在社会中有很高的知名度与影响力。骗子通过冒充马云的徒弟与老人联系，并通过虚假的“视频连线”增强了其可信度。老人自然难以怀疑这种设定，尤其在她并未亲眼见过“马云”时，迅速消除了老人的戒备心理。

4、此外，诈骗分子还通过先给老人“小恩小惠”——充话费，巧妙地建立了信任关系。通过渐进式的诱导，骗子逐步取得了老人的心理控制，降低了老人的防备心理，进一步让她信任骗子所提供的“投资机会”。老人逐步进入骗子设置好的更大圈套。

老人和企业都应该加强防范

警方提醒广大居民，尤其是老年人，防范诈骗时应保持警惕。面对陌生人的电话或视频通话，切勿轻信对方的身份声明，不轻易下载未知软件，不进行任何转账或购买行为。同时，应及时向身边的家人、朋友或社区工作人员求助，确认信息的真实性。

由于诈骗分子正利用技术与心理相结合的方式，对受害者进行精准操控。面对AI伪造类诈骗，需要社会各界通过技术手段、教育宣传和情感支持筑牢防护墙，避免更多人上当受骗。尤其短视频平台、社交平台上需要采取多重技术和手段，从源头上发现诈骗分子操作的账号，有效识别伪造的明星视频。

1、识别异常的设备。顶象设备指纹通过对设备指纹的记录和比对，可以辨别合法用户和潜在的欺诈行为。其对每个设备进行唯一标识和识别的技术，识别出虚拟机、代理服务器、模拟器等被恶意操控的设备，分析设备是否存在多账号登录、是否频繁更换IP地址、频繁更换设备属性等出现异常或不符合用户习惯的行为，帮助追踪和识别欺诈者的活动。

2、识别异常操作的账号。异地登录、更换设备、更换手机号、休眠账户突然活跃等等，需要加强频繁验证；此外，会话期间的持续身份验证至关重要，保持持久性检查以确保用户的身份在使用期间保持一致。顶象无感验证可以快速准确地区分操作者是人还是机器，精准识别欺诈行为，实时监控并拦截异常行为。

3、防范换脸的虚假视频。顶象全链路全景式人脸安全威胁感知方案通过设备环境、人脸信息、图像鉴伪、用户行为、交互状态等多维度信息进行智能核验，快速识别注入攻击、活体伪造、图像伪造、摄像头劫持、调试风险、内存篡改、Root/越狱、恶意Rom、模拟器等运行和系统类等30多类恶意攻击行为，及时发现伪造视频、虚假人脸图片、异常交互行为后，可自动阻断操作。同时能够灵活配置视频核验强度与友好度，实现对正常用户无感验证，对异常用户加强验证的动态机制。

4、挖掘潜在欺诈威胁。顶象Dinsight实时风控引擎帮助企业进行风险评估、反欺诈分析和实时监控，提高风控的效率和准确性。Dinsight的日常风控策略的平均处理速度在100毫秒以内，支持多方数据的配置化接入与沉淀，能够基于成熟指标、策略、模型的经验储备，以及深度学习技术，实现风控自我性能监控与自迭代的机制。与Dinsight搭配的Xintell智能模型平台，能够对已知风险进行安全策略自动优化，基于风控日志和数据挖掘潜在风险，一键配置不同场景支持风控策略。其基于关联网络和深度学习技术，将复杂的数据处理、挖掘、机器学习过程标准化，提供从数据处理、特征衍生、模型构建到最终模型上线的一站式建模服务。

此外，老人以及公众需了解AI换脸技术能够伪造动态视频，并对高质量的视频形象保持警惕，不轻易相信视频内容的真实性。遇到类似情况，切勿因恐惧而盲目听从指令，应及时向家人或警方求助。