国外媒体报道，在2月17日德国慕尼黑的一次安全会议上，包括亚马逊、谷歌、IBM、LinkedIn、McAfee、Meta、Microsoft、OpenAI、Snap、TikTok和X等20 家世界领先的科技公司宣布，将联合打击“深度伪造”信息。

会上，他们集体签署一项技术协议，以抵制欺骗性的人工智能生成的内容，减少欺骗性人工智能内容的生成及其带来的风险，并同意在各自的平台或产品提出解决方案。该协议还承诺，将与全球组织和学术界合作，让公众和媒体意识到人工智能生成的欺骗内容的危险。

毕马威最近的一份报告，在线提供的“深度伪造”视频同比增长了900%。埃隆·马斯克（Elon Musk）、两位BBC主持人、YouTube红人野兽先生（Mr Beast）以及流行歌星泰勒·斯威夫特（Taylor Swift）都因在诈骗视频中伪造身份而成为受害者。

“深度伪造”带来的挑战

“深度伪造”是一种使用人工智能技术生成虚假视频的技术，可以将任何人的脸部或身体图像合成到另一个人的视频中，从而产生逼真的假视频，使诈骗更加真实和令人信服。“深度伪造”还能轻易模仿人们熟悉的声音、语调、口音和说话风格，使受害者难以分辨真伪。

就在两周前，香港一家跨国公司员工遭遇“深度伪造”诈骗，损失2亿港元。该员工收到一封伪装成公司总部CFO的电子邮件后，被邀请参加视频会 议。会议中，除了该员工外，其他人均为“深度伪造”技术制作的虚假影像。诈骗分子利用这种方式，指示员工转账2亿港元至五个银行账户。事后员工才发现上当受骗，但资金已被迅速转走。

另外的一起案件发生在数月前，中国驻美国使馆发言人证实，一名疑似遭绑架的中国留学生实际上遭遇了“虚拟绑架”诈骗 。AI技术让电信诈骗分子能轻易模仿目标人的视频、声音等，使骗局更加难以识别。诈骗分子利用AI篡改来电显示、模拟声音，甚至制作虚假视频，让骗局更难识破。电信诈骗分子利用社交媒体搜集个人信息，编造故事，引发受害者恐慌并诱导支付资金。

识别“深度伪造”的欺骗信息是一大难题。不仅肉眼无法有效识别，一些常规的检测工具也不能及时发现。不过随着技术的进步，检测识别“深度伪造”骗局的方法也在不断发展。 

通过视觉识别。“深度伪造”虽然很复杂，但经常表现出不一致的面部特征。例如，微小的面部表情、眼球运动、头发和面部特征的交互方式存在异常。同时，“深度伪造”的算法也会显示不自然的光线和阴影，会有与光源不一致的阴影或未正确对齐的反射。

通过听觉识别。“深度伪造”可以复制声音，但也可能包含不自然的语调、节奏或微妙的失真，仔细聆听后会显得格外突出。同时，语音分析软件可以帮助识别语音异常。

通过文件识别。在涉及文件的情况下，自动文档验证系统可以分析文档是否存在不一致之处，例如字体更改或布局差异。

AI自动识别。欺诈分子已经学会了欺骗传统的检测方法，机器学习已成为检测“深度伪造”不可或缺的工具。大数据模型可以快速分析大量视频和音频数据，以超出人类能力的速度识别异常。并且，机器学习模型可以识别“深度伪造”生产算法的特征模式，从而识别“深度伪造”的内容。而且机器学习模型可以重新训练和调整，保持实时的迭代进化。

顶象防御云业务安全情报中心此前预测，2024年业务欺诈风险将有五大趋势：AI带来的新攻击成倍增加、账号和身份更难以甄别、爬虫盗取数据依旧疯狂、账号盗窃冒用将更加普遍和难以防范、内部数据泄露。