近日，杭州市公安局在新闻发布会上披露了一起利用AI技术伪造活体视频、突破平台生物识别登录认证的大型网络诈骗案件。案件揭示了AI技术被不法分子滥用，导致网络安全防线受到了严重威胁。

今年6月，杭州网警在工作中发现，境外某平台上有团伙宣称可以通过AI换脸技术突破部分头部平台的生物识别认证，非法获取他人网络账号和信息。该犯罪团伙通过宣传“帮忙获取他人网络信息”，吸引不法分子利用AI技术执行网络侵权操作。

警方调查发现，犯罪分子依靠国外某些AI大模型技术，仅需上传照片即可通过文字对话生成伪造的视频。这些伪造视频被用于突破平台的生物识别登录环节，使犯罪分子能够强制登录目标用户的账号并窃取个人信息。

犯罪团伙在获取他人账号后，将窃取来的私人数据和敏感信息出售给诈骗团伙，或用于满足部分人窥探隐私的需求。自今年5月以来，该团伙在境外平台上招揽“业务”，通过AI伪造身份信息成功窃取了大量用户数据。

通过深入侦查，警方于8月7日在安徽、贵州、浙江三地抓获了4名主要犯罪嫌疑人，包括胡某运、胡某亮、张某国、吴某豪。该团伙以每次登录收费2000至5000元不等，已非法获利20余万元。目前案件仍在进一步调查中。

警方在调查过程中发现，一些平台的生物识别技术存在安全隐患，识别手段相对简单，给了犯罪团伙可乘之机。相对而言，一些平台的识别系统更加复杂，对AI伪造的视频有更强的防护能力。这暴露了不同平台在安全技术上的差异，表明平台方需要进一步加强登录认证机制的复杂度，以防范此类新型诈骗行为。

杭州市警方提醒广大用户，避免在互联网上过度分享个人生物信息，如正面人脸照和指纹等。同时，定期监控自己的登录活动，一旦发现异常登录行为（例如来自陌生设备或IP地址），应及时修改账户密码并联系平台进行处理。

用户自我保护建议

此次案件不仅反映出AI技术的滥用风险，也提醒平台运营方和用户共同提高警惕，加强信息安全防护，以抵御新型技术带来的网络安全威胁。

防范AI欺诈需要从技术和行为习惯入手，确保个人信息安全不被轻易泄露。以下是具体的防范措施：

1、加强身份验证。启用两步验证（2FA）或多重身份验证（MFA），如短信验证码、动态密码等，增强账户安全性，即使生物识别系统被攻破，额外验证层也能有效防止非法登录。

2、减少敏感信息分享。尽量避免在社交媒体等公开平台过度分享包含正面人脸的照片或视频，防止AI通过这些素材生成伪造信息。仅在安全性较高的平台启用指纹、面部识别等生物认证，选择可信赖的技术供应商。

3、定期检查账户安全。定期查看平台提供的登录记录，检查是否有异常设备或位置登录。一旦发现可疑行为，立即修改密码并通知平台。

4、对可疑请求保持警惕。即使亲友通过视频或语音“核实”身份，也不要轻易相信，尤其是涉及金钱交易时，应通过其他渠道进一步确认。与亲友约定一个只有你们知道的“安全问题”，在可疑请求出现时，通过该“安全问题”验证对方身份。

5、提高对AI技术的认知。了解AI生成的虚假视频、音频的一些常见特征。例如，可以要求对方在视频通话中做一些特殊的动作、手势或表情，这样可以帮助识别是否为AI伪造。

通过上述防范措施，个人可以大大降低遭遇AI欺诈的风险。即便AI技术日益先进，用户依然可以通过增强安全意识和使用可靠的安全技术工具来保护自己的信息安全。

平台应该加强防范

企业可以采取多重技术和手段。此外引导AI技术的正向应用，严厉打击犯罪行为，是根本解决之道。

1、识别异常的设备。顶象设备指纹通过对设备指纹的记录和比对，可以辨别合法用户和潜在的欺诈行为。其对每个设备进行唯一标识和识别的技术，识别出虚拟机、代理服务器、模拟器等被恶意操控的设备，分析设备是否存在多账号登录、是否频繁更换IP地址、频繁更换设备属性等出现异常或不符合用户习惯的行为，帮助追踪和识别欺诈者的活动。

2、识别异常操作的账号。异地登录、更换设备、更换手机号、休眠账户突然活跃等等，需要加强频繁验证；此外，会话期间的持续身份验证至关重要，保持持久性检查以确保用户的身份在使用期间保持一致。顶象无感验证可以快速准确地区分操作者是人还是机器，精准识别欺诈行为，实时监控并拦截异常行为。

3、防范换脸的虚假视频。顶象全链路全景式人脸安全威胁感知方案通过设备环境、人脸信息、图像鉴伪、用户行为、交互状态等多维度信息进行智能核验，快速识别注入攻击、活体伪造、图像伪造、摄像头劫持、调试风险、内存篡改、Root/越狱、恶意Rom、模拟器等运行和系统类等30多类恶意攻击行为，及时发现伪造视频、虚假人脸图片、异常交互行为后，可自动阻断操作。同时能够灵活配置视频核验强度与友好度，实现对正常用户无感验证，对异常用户加强验证的动态机制。

4、挖掘潜在欺诈威胁。顶象Dinsight实时风控引擎帮助企业进行风险评估、反欺诈分析和实时监控，提高风控的效率和准确性。Dinsight的日常风控策略的平均处理速度在100毫秒以内，支持多方数据的配置化接入与沉淀，能够基于成熟指标、策略、模型的经验储备，以及深度学习技术，实现风控自我性能监控与自迭代的机制。与Dinsight搭配的Xintell智能模型平台，能够对已知风险进行安全策略自动优化，基于风控日志和数据挖掘潜在风险，一键配置不同场景支持风控策略。其基于关联网络和深度学习技术，将复杂的数据处理、挖掘、机器学习过程标准化，提供从数据处理、特征衍生、模型构建到最终模型上线的一站式建模服务。