近日，由交通银行主办的“数智驱动、开放共赢：金融科技赋能金融高质量发展”论坛在上海召开。来自政府、金融机构、科技企业的200多位嘉宾，围绕人工智能与数据要素的深度融合，聚焦人工智能大模型在金融行业的应用示范，共同深入探讨金融科技的发展动态、实践机遇，为金融科技的未来发展提供明晰的方向和策略建议。交通银行党委委员、副行长钱斌出席论坛并致辞。

会上发布了《金融AIGC音视频反欺诈白皮书》。该白皮书由交通银行、顶象技术、瑞 莱智慧联合编写，旨在系统探讨AIGC技术应用带来的风险挑战，聚焦金融行业所面临的音视频欺诈挑战，为金融机构提升AIGC欺诈识别和防范能力提供参考。交通银行网络金融部总经理、金融科技创新研究院院长李肇宁，现场对白皮书做了详细解读。

AIGC普及，音视频欺诈层出不穷

《金融AIGC音视频反欺诈白皮书》详细阐述了AIGC技术发展过程。自 2022年MidJourney、ChatGPT 推出以来，短短两年里，AIGC完成了从文生文、文生图，到深度伪造、文生视频的飞跃发展。AIGC的普及给生产生活带来显著的创新潜力，同时基于AIGC技术的各类欺诈的活动已经悄然展开。

1月份，香港公司在远程会议中骗走2亿港元；4月份，美国密码管理公司员工收 到假冒CEO的电话 ；5月份，央视曝光AI造出老同学视频女子被骗40万 ；7月份，杭州警方披露骗子用AI伪造人脸登录他人账户 ；9月份，合肥三只羊公司卢某某虚假音频传遍网络 ；10月国庆期间，克隆雷军的声音疯传网络 ；最近几个月里，骗子利用AIGC技术冒充亲人 、名人、明 星 、司 法机关工作人员 ，对老人进行疯狂诈骗 。

基于AIGC的“换脸”能生成极具欺骗性的伪造图像或视频，基于AIGC的“拟声”能生成和模仿目标高度相似的语音内容，AIGC音视频欺诈已经成为金融机构必须面对的重要风险之一，给金融机构的业务安全、客户信任以及系统稳定性构成了新的挑战。

Biocatch报告指出，近70%的受访者认为犯罪分子通过AI技术更熟练地实施金融诈骗。通过AI的语音克隆功能，欺诈者可以模仿合法用户的声音进行身份验证，突破传统的安全措施。世界经济论坛 （World Economic Forum,WEF） 数据显示，伪造的视频的数量以估计每年约 900% 的速度增长。德勤报告显示，2023 年金融行业领域的深度伪造事件增加了 700%，预计2027年美国金融业将损失达400亿美元，复合年增长率达32%。

AIGC音视频的典型欺诈典型手段

借助AIGC“换脸”“拟声”，黑灰产就可以进行批量开户、账户登录、资金转账、贷款申请等欺诈。直接给客户带来巨大经济损失，给金融业务带来严重威胁，扰乱国家金融服务的正常的运转。《金融AIGC音视频反欺诈白皮书》 详细分析了AIGC“换脸”“拟声”欺诈攻击手段。

AIGC“换脸”攻击。首先，黑灰产可通过购买身份信息等方式获取受害人的高清身份证人脸图像；其次，利用PS工具将人脸图片设置为带背景的图片；然后，利用AIGC工具对受害者的照片进行活化处理，生成“眨眼”“摇头”的伪造视频；最后，将伪造视频注入APP中对身份认证系统实施攻击。

AIGC“拟声”攻击。首先，黑灰产可通过电话诈骗录音等方式获取受害人的语音素材；其次，利用AIGC工具生成攻击目标的伪造音频；最后，利用呈现攻击或者注入式攻击方式对身份认证系统实施攻击。

AIGC音视频欺诈增加金融业务的新风险，为黑灰产攻击提供新手段，为安全防御带来新挑战、对金融反欺诈提出新要求。

金融机构需要建立全面防御体系

《金融AIGC音视频反欺诈白皮书》 呼吁行业企业建立覆盖全周期、全场景、全链条的防御体系，以应对AIGC带来的复杂威胁，保障金融业务安全。

技术层面。引入多模态AIGC音视频欺诈检测与鉴定技术，精准识别伪造内容，实时监测并应对AIGC欺诈行为。

人员层面。加强金融业者的培训，提升对AIGC欺诈的识别与应对能力，帮助机构更好地管理风险。

管理层面。建立科学的管理体系，优化法律与合规管理，提升金融机构的反欺诈能力。

法律法规层面。完善法律法规、加大执法力度、提高监管效能，以确保AIGC技术在促进金融创新的同时，能够有效防范潜在风险和滥用行为。

多模态AIGC音视频反欺诈技术

技术防御体系是防止AIGC欺诈的核心要素之一。金融机构应及时引入先进的多模态音视频反欺诈技术，通过融合音视频伪造检测、设备关联分析和用户行为识别等技术手段，提升欺诈检测的精确度和实时性。

《金融AIGC音视频反欺诈白皮书》 对AIGC音视频反欺诈技术进行详细介绍：

AIGC视频检测。该技术通过分析视频中帧与帧之间的图像分割和运动不一致性，及时发现伪造视频内容。这项技术可以识别视频中的细微异常，如人物面部表情的失真、肢体运动的不协调等，帮助金融机构有效识别假冒视频。

AIGC语音检测。语音伪造是AIGC欺诈中的常见手段，欺诈分子通过深度伪造技术模仿他人声音。语音检测技术通过识别声音频谱的异常和复杂噪声干扰，能有效区分真实语音与生成语音，从而防止通过电话或视频通话进行的身份冒充和诈骗行为。

基于知识图谱的AIGC特征关联性分析。这一技术能够识别和追踪AIGC生成内容中的潜在欺诈团伙，通过深度分析多个欺诈个体之间的关联和协同行为，揭示其作案模式。结合图计算和知识图谱，可以为金融机构提供更加全面的反欺诈策略，及时识别和打击跨平台、跨场景的欺诈活动。

在实际应用中，许多金融机构已经通过技术防御和人工干预相结合，成功应对了AIGC带来的欺诈风险。

例如，某银行的远程视频服务曾遭遇黑灰产利用AIGC技术进行的欺诈攻击，面对这一挑战，银行采用了技防与人防相结合的方式，成功实现了对伪造音视频内容的高效识别。该行的AIGC音频检测系统将伪造音频的整体检出率提高至99%～100%，大大降低了远程视频服务中的欺诈风险。

防范AIGC欺诈的三大倡议

未来AIGC音视频欺诈将呈现智能化、多维化、自动化、个性化等特点，需要持续关注、及早布局、从容应对。《金融AIGC音视频反欺诈白皮书》 提出三大倡议，通过政府、行业、企业和机构的共同携手，形成一个全方位、多层次的防控体系，应对AIGC带来的新挑战，确保金融体系的安全和可靠。

健全合规体系。与时俱进更新法律法规，有效抑制新风险、从容应对新挑战；细化AIGC应用透明度和可解释性的标准，指导企业在技术应用、业务流程、管理机制等方面进行音视频伪造风险防范。

创新发展技术。研制性能更优的欺诈检测模型，以应对愈发高级的攻击；构建自动化反制体系，进一步屏蔽该团伙大量生成的伪造内容；提供定制化的身份验证及风险预警服务，在保障客户体验的前提下实现风险充分预警。

构建健康生态。产学研用多方协同，提升技术转化效率，以最快的速度防御日新月异的挑战；促进行业共享，供企业和机构进行运营策略、算法调整和风险评估；强化宣传引导，提升公众的反诈意识，为行业信任和秩序奠定基础。

《金融AIGC音视频反欺诈白皮书》 共分为七章，主要由AIGC带来的音视频欺诈风险、AIGC音视频欺诈典型攻击方法、AIGC音视频欺诈对金融业务的影响、 AIGC音视频反欺诈方案、AIGC音视频反欺诈技术实现、典型业务场景、展望与倡议。