AI语音克隆技术的发展为语音合成、个性化服务等领域带来了革命性的变化。然而，技术的双刃剑特性也使得基于AI语音克隆的诈骗活动日益增多。AI语音克隆也被不法分子用于实施诈骗，手法多样，日益猖獗。

AI语音克隆诈骗的工作方式

1、语音收集：诈骗者从社交媒体视频、公开演讲或截获的电话中收集目标对象的声音样本。这些声音样本包括语音片段、语调和说话方式等细节信息。

2、AI学习：诈骗者利用这些语音样本训练AI算法，使其能够模仿目标对象的语音模式、语调和语音特征，甚至可以生成目标对象从未说过的新短语或句子。

3、语音克隆：经过训练后，AI能够生成听起来与目标对象完全一样的逼真音频。这些克隆语音可用于伪装和欺骗受害者。

诈骗分子如何使用克隆的语音

1、冒充公司或个人。诈骗者可能会打电话或留下语音邮件，假装是受信任的实体，例如银行、公司、朋友或家人，诱骗受害人分享个人信息或汇款。

2、诱导操控他人。诈骗者可能会冒充目标对象，操纵其他人采取特定行动，例如转移资金或泄露敏感信息。

3、虚假交易。诈骗者可能会冒充目标对象，通过电话下订单或进行交易，实施诈骗。

如何防范AI语音诈骗电话

语音克隆诈骗作为一种新型的欺诈手段，对个体的信息安全构成了严重威胁。通过了解诈骗的工作方式和类型，以及采取有效的防范策略，我们可以在很大程度上避免成为诈骗的受害者。公众应增强安全意识，保持警惕，积极学习防范知识，共同构建安全、健康的网络环境。针对AI的语音克隆欺诈，顶象防御云业务安全情报中心建议，个人可以在如下几个方面进行防御和防范。

1、识别危险信号。当接到可疑的视频或电话时，请持怀疑态度。可以借口信号不好挂断，并立即通过其他方式回拨确认，避免直接回应可能的诈骗内容。

2、警惕紧急请求。诈骗分子通常会营造出“事件的强迫紧迫性”，向受害人施压，要求迅速采取行动，制造紧迫感或恐慌感，迫使受害者来不及思考，做出仓促的决定。如果来电者提出意想不到的请求，尤其是为了个人信息或经济帮助，请持怀疑态度。警惕高压策略，避免泄漏敏感信息或立即付款。合法组织通常不会通过电话要求紧急行动。正常需求通常不会通过电话要求紧急行动。

3、保护个人信息。切勿在电话中透露敏感信息，例如银行账户信息、身份证号码或密码，尤其是在电话未经请求或可疑的情况下。

4、 设置“安全词”。设定一个只有亲朋好友和同事知道的“安全词”或“挑战问题”，用于在接到可疑电话或信息时验证对方身份。如果对方无法提供正确的“安全词”或回避问题，应立即挂断并使用已知的安全联系方式进行确认。

5、减少敏感信息分享。避免在社交媒体上分享个人照片、声音和视频等敏感信息，减少公开个人账户、家庭、工作等私密信息，以降低身份被伪造的风险。一旦发现“深度伪造”的虚假内容，应立即向社交媒体管理员和执法部门报告，采取措施删除并追踪来源。

6、增强网络安全意识。考虑使用可靠的软件，以保护设备免受恶意活动侵害。随时了解最新的语音诈骗和网络安全威胁。定期查看信誉良好的信息来源，了解常见诈骗电话和新兴技术的更新，增强安全意识。

7、及时报警。如果发现自己已经成为诈骗的受害者，要立即保留所有相关证据，并马上拨打110报警，以便警方能够及时介入处理。

此外，平台应通过分析用户的行为模式和身份信息，建立安全预警机制，对于异常登录、高频发送信息等可疑行为进行监控和限制。同时，分析鼠标移动模式、打字风格等用户行为模式并识别异常情况，标记偏离正常使用的可疑活动。并通过额外的身份和设备验证，以及大模型可以快速筛选海量数据，并识别出通常无法被人类检测到的细微不一致之处，发现攻击者的异常操作。