国庆假期期间，短视频平台上出现了大量“雷军AI配音”的恶搞视频。在视频中，“雷军”锐评了堵车、假期等热门话题，其中还有一些不雅谩骂。除了吐槽外，视频里的“雷军”还称要投资某某大学。

AI已在多个领域广泛应用，从图文、视频生成到在线问答，可谓层出不穷。当普通人也能轻松利用AI恶搞名人、大量生成音视频，肯定会给社会带来信息失真、认知混乱等问题。

据《纽约时报》报道，AI生成的埃隆·马斯克形象已经出现在数千条虚假广告中，导致数十亿美元的诈骗案件。一位82岁的退休老人蒂夫·博尚普在网络上看到了一段关于马斯克的“真实采访”。在这段视频中，马斯克支持一项承诺快速回报的激进投资机会，口型与声音都高度同步，看起来极为真实。信以为真的老人随后联系到该广告背后的公司，并按照指导开设了账户。在接下来的几周里，老人在一系列交易中花光了自己的退休资金，最终投资了超过69万美元（约495万人民币）。然而，这笔钱最终全部被骗子卷走，老人损失惨重。

这10个明星经常被诈骗分子冒充

AI 的出现彻底改变了许多行业。利用AI能够轻松伪造名人的形象和声音，不仅可以用于网络钓鱼诈骗，还可用于推广欺诈产品、窃取个人信息以及诱骗人们下载恶意软件，而粉丝几乎无法分辨内容是真是假。

社交媒体是营销和广告的重要渠道，也是诈骗的最佳途径。安全公司McAfee公布的一份榜单中，列举了被冒用最多的10个美国名人，包含斯嘉丽·约翰逊、凯莉詹纳、泰勒·斯威夫特和汤姆·汉克斯等。不法分子利用他们的形象、声音和声誉来。进行无论是网络钓鱼、数字货币诈骗、倒卖音乐会门票、宣传虚假活动、传播虚假信息、推广恶意软件等

斯嘉丽·约翰逊（Scarlett Johansson）：演员和歌手，姓名和肖像被不法分子用于虚假广告代言。

凯莉·詹娜 (Kylie Jenner) ：真人秀明星，姓名和肖像被不法分子用于赠品诈骗、虚假产品和网络钓鱼网站推广。

泰勒·斯威夫特（Taylor Swift）：歌手，姓名和肖像被不法分子用于虚假广告代言、门票诈骗、赠品诈骗，以及传播虚假信息。

安雅·泰勒-乔伊（Anya Taylor-Joy）：演员，姓名、肖像和社交账户被不法分子用于被用于赠品骗局，并散播虚假的信息。

汤姆·汉克斯（Tom Hanks）：演员，姓名和肖像被不法分子用于宣传“神奇疗法和神奇药物”虚假药物。

萨布丽娜·卡彭特 （Sabrina Carpenter）：歌手，姓名和肖像被不法分子用于虚假票务诈骗、创建色情App。

西德妮·斯威尼（Sydney Sweeney）：演员，姓名和肖像被不法分子用于数字货币诈骗。

布莱克·莱弗利（Blake Lively）：演员，姓名和肖像被不法分子用于减肥软糖的诈骗。

约翰尼·德普 （Johnny Depp）：知名影视演员、导演，姓名和肖像被不法分子用于虚假代言、虚假礼品和数字货币诈骗。

 艾迪生·雷伊（Addison Rae）：顶级网红女星，姓名和肖像被不法分子用于虚假代言、虚假礼品和数字货币诈骗。

普通人辨别虚假的名人广告

普通人如何辨别虚假的名人广告？没有简单的答案，一些必要的措施能够最大限度帮助鉴别。

1、社交媒体平台是虚假信息和网络诈骗的温床，对令人震惊或好得令人难以置信的声明持怀疑态度，尤其是涉及名人时。 不要忘记常识和逻辑。

2、仔细查看内容中是否有不自然的特征 - 奇怪的闪烁模式、不匹配的音频或扭曲的身体部位可能是深度伪造的迹象。

3、应该通过与可靠的新闻媒体和网站进行交叉检查来验证声明。不要在没有先进行事实核查的情况下相信内容。

4、决策或购买前，要咨询下朋友、家人或同事的建议，最好做下深入研究一下，不要只把发起人的话当成真理，即使是埃隆马斯克。

5、不要任意评论、分享甚至点击未经验证的社交媒体帖子，与冒充名人的账户互动会增加遭受诈骗的风险。

6、切勿将您的个人详细信息，提交给未经验证的个人、网站或App。

社交媒体平台防控虚假的名人广告

针对社交媒体平台上虚假的名人广告和信息，顶象防御云业务安全情报中心建议，首先精准识别虚假账号，然后才能有效防范欺诈行为。

1、识别异常的设备。顶象设备指纹通过对设备指纹的记录和比对，可以辨别合法用户和潜在的欺诈行为。其对每个设备进行唯一标识和识别的技术，识别出虚拟机、代理服务器、模拟器等被恶意操控的设备，分析设备是否存在多账号登录、是否频繁更换IP地址、频繁更换设备属性等出现异常或不符合用户习惯的行为，帮助追踪和识别欺诈者的活动。

2、识别异常操作的账号。异地登录、更换设备、更换手机号、休眠账户突然活跃等等，需要加强频繁验证；此外，会话期间的持续身份验证至关重要，保持持久性检查以确保用户的身份在使用期间保持一致。顶象无感验证可以快速准确地区分操作者是人还是机器，精准识别欺诈行为，实时监控并拦截异常行为。

3、防范换脸的虚假视频。顶象全链路全景式人脸安全威胁感知方案通过设备环境、人脸信息、图像鉴伪、用户行为、交互状态等多维度信息进行智能核验，快速识别注入攻击、活体伪造、图像伪造、摄像头劫持、调试风险、内存篡改、Root/越狱、恶意Rom、模拟器等运行和系统类等30多类恶意攻击行为，及时发现伪造视频、虚假人脸图片、异常交互行为后，可自动阻断操作。同时能够灵活配置视频核验强度与友好度，实现对正常用户无感验证，对异常用户加强验证的动态机制。

4、挖掘潜在欺诈威胁。顶象Dinsight实时风控引擎帮助企业进行风险评估、反欺诈分析和实时监控，提高风控的效率和准确性。Dinsight的日常风控策略的平均处理速度在100毫秒以内，支持多方数据的配置化接入与沉淀，能够基于成熟指标、策略、模型的经验储备，以及深度学习技术，实现风控自我性能监控与自迭代的机制。与Dinsight搭配的Xintell智能模型平台，能够对已知风险进行安全策略自动优化，基于风控日志和数据挖掘潜在风险，一键配置不同场景支持风控策略。其基于关联网络和深度学习技术，将复杂的数据处理、挖掘、机器学习过程标准化，提供从数据处理、特征衍生、模型构建到最终模型上线的一站式建模服务。