顶象学院首页>文章详情

当诈骗分子开始用AI进行网络钓鱼

2024-09-02|小象 1928

网络钓鱼是网络欺诈中的一种经典手段,攻击者通常假扮成受信赖的机构或个人,诱导受害者泄露敏感信息。尽管此类欺诈形式已有数十年历史,但依旧是渗透企业、窃取数据和进行金融欺诈最常见且有效的方式之一。其成功在于利用社会工程学,通过操控人类的信任、情感和冲动,诱使目标做出错误的判断。

网络钓鱼攻击通常通过电子邮件、伪造网站、应用程序、电话、短信和社交媒体等渠道实施,利用人性的弱点(如冲动、好奇、信任等),诱导受害者提供个人信息、点击恶意链接、下载恶意软件,或转移资金。

undefined

随着AI普及,网络钓鱼的策略也在不断演变,诈骗手段变得更加复杂和隐蔽。诈骗分子能够利用AI生成逼真且定制化的钓鱼内容,极大地增强了欺骗性与攻击成功率。根据2023年的数据,AI驱动的网络钓鱼诈骗事件激增了3,000%,展示出这一新技术的巨大威胁。

AI技术给网络钓鱼带来的变化

让钓鱼攻击更简单。AI大幅降低了钓鱼攻击的门槛,尤其在跨语言攻击方面。传统的钓鱼攻击需要攻击者具备一定的语言能力,而AIGC则可以根据简单的提示生成高质量的文本、语音和图像,并能自动纠正拼写和语法错误。这意味着攻击者可以用多种语言生成无缝的钓鱼内容,从而轻松地针对全球不同地区的目标发动攻击。

让钓鱼邮件更加逼真。AI可以快速收集、分析和整合关于组织或个人的公开信息,例如社交媒体资料、新闻报道或其他公开数据。基于这些数据,AIGC能够生成定制化的“诱饵文件”,使得钓鱼邮件更具有可信度和逼真度。由于AI生成的内容具备高度智能化,传统钓鱼邮件中容易出现的语法错误、拼写问题或格式不当等可疑标志被完全消除,令受害者难以察觉。

让钓鱼形式更加多样化。AI不仅能够生成精确的文本,还能制作个性化的语音和视频内容。这使得钓鱼攻击从传统的电子邮件扩展到语音钓鱼(Vishing)和视频钓鱼(Deepfake)。攻击者可以制作仿真的电话语音、虚假视频会议或社交媒体互动,模拟真实的声音和图像来欺骗目标。这种多样化的攻击方式让钓鱼不再仅限于单一的文本渠道,而变得更加立体和多维。

undefined

让钓鱼攻击更难检测。Egress 2023年发布的网络钓鱼威胁趋势报告显示,四分之三的案例中,传统的安全措施难以区分由AI生成的钓鱼邮件和由人类撰写的钓鱼邮件。这是因为AI生成的内容非常自然,且具有高度智能化,能避免典型的钓鱼攻击中常见的粗糙痕迹。安全技术和系统需要进一步发展,以应对这一挑战,现有的反钓鱼工具越来越难以有效检测和防御此类高级攻击。

让钓鱼攻击更具针对性。AI可以为攻击者创建高度个性化的攻击,基于目标的兴趣、习惯、职业、朋友网络等特定信息定制内容。通过分析社交网络、公开档案和其他数字足迹,AI能够模拟目标的生活场景、职业环境,甚至是日常对话风格,进行高度精确的定向攻击。相比传统的广撒网式攻击,AI钓鱼攻击的成功率和破坏性显著增加,因为其内容更符合目标的预期和信任模式。

AI让网络钓鱼形式更加多样

邮件钓鱼(Phishing Email):邮件钓鱼是最常见的网络钓鱼形式,通常假冒知名金融机构、政府部门或其他合法组织的官方邮件。攻击者通常会要求收件人提供登录凭证、银行账户信息或点击恶意链接,下载恶意软件或木马病毒。邮件中的设计往往会模仿真实的邮件模板,甚至包含合法公司的标志、联系方式和其他视觉元素,增加其可信度。  

网站钓鱼(Website Phishing):网站钓鱼通常涉及创建与合法网站几乎相同的虚假网站,这些网站的URL可能仅有一个字符的差异,极难分辨。用户通常会在伪造的网站中输入个人信息、信用卡数据或登录凭据。攻击者还可能使用SSL证书(https)来增加其伪造网站的可信度,欺骗受害者认为他们正与合法网站互动。  

短信钓鱼(Smishing):攻击者通过伪造银行、政府或其他可信机构发送短信,其中包含指向恶意网站的链接或诱导回拨诈骗电话。短信钓鱼通常利用紧急或诱人的内容,比如银行账户被冻结、意外中奖等,以激发用户的快速反应,从而忽视对链接或消息的谨慎审查。  

语音钓鱼(Vishing):语音钓鱼通常涉及攻击者通过电话与目标进行直接通话或通过自动语音邮件进行诈骗。攻击者冒充银行代表、执法部门或技术支持,试图通过语音对话获取敏感信息,如银行账户、密码或社保号码。语音钓鱼通常以紧迫性和权威性为特征,试图让受害者在压力下泄露信息。  

网络钓鱼(Social Media Phishing):在社交媒体平台上,网络钓鱼通常表现为发布诱人的优惠、免费礼品或爆料新闻。攻击者使用虚假账号和恶意链接引诱用户点击,导致恶意软件的安装或信息泄露。攻击者可能会利用社交工程技术伪装成用户的朋友或同事,进一步增加攻击的成功率。  

二维码钓鱼(QR Code Phishing):随着二维码的普及,恶意二维码钓鱼逐渐成为一种新的攻击手段。攻击者可能会在邮件、传单或公众场所投放恶意二维码,诱导用户扫描并访问恶意网站或下载恶意应用。由于二维码本身并不直接显示URL,用户在扫描二维码后可能毫无警惕地落入陷阱。  

如何防范AI钓鱼欺诈

《“AI换脸”威胁研究与安全策略》 情报专刊认为,要防范打击AI欺诈,一方面需要有效识别检测出A I伪造的内容,另一方面防范AI欺诈的利用和扩散。这不仅需要技术对策,更需要复杂的心理战和公众安全意识的提升。

1、对设备信息、地理位置以及行为操作进行比对识别。顶象设备指纹通过对设备指纹的记录和比对,可以辨别合法用户和潜在的欺诈行为。其对每个设备进行唯一标识和识别的技术,识别出虚拟机、代理服务器、模拟器等被恶意操控的设备,分析设备是否存在多账号登录、是否频繁更换IP地址、频繁更换设备属性等出现异常或不符合用户习惯的行为,帮助追踪和识别欺诈者的活动。

2、账号异常识别。账号异地登录、更换设备、更换手机号、休眠账户突然活跃等等,需要加强频繁验证;此外,会话期间的持续身份验证至关重要,保持持久性检查以确保用户的身份在使用期间保持一致。顶象无感验证可以快速准确地区分操作者是人还是机器,精准识别欺诈行为,实时监控并拦截异常行为。

undefined

3、防范虚假视频和虚假图片。顶象全链路全景式人脸安全威胁感知方案通过设备环境、人脸信息、图像鉴伪、用户行为、交互状态等多维度信息进行智能核验,快速识别注入攻击、活体伪造、图像伪造、摄像头劫持、调试风险、内存篡改、Root/越狱、恶意Rom、模拟器等运行和系统类等30多类恶意攻击行为,及时发现伪造视频、虚假人脸图片、异常交互行为后,可自动阻断操作。同时能够灵活配置视频核验强度与友好度,实现对正常用户无感验证,对异常用户加强验证的动态机制。

4、挖掘潜在欺诈威胁。顶象Dinsight实时风控引擎帮助企业进行风险评估、反欺诈分析和实时监控,提高风控的效率和准确性。Dinsight的日常风控策略的平均处理速度在100毫秒以内,支持多方数据的配置化接入与沉淀,能够基于成熟指标、策略、模型的经验储备,以及深度学习技术,实现风控自我性能监控与自迭代的机制。与Dinsight搭配的Xintell智能模型平台,能够对已知风险进行安全策略自动优化,基于风控日志和数据挖掘潜在风险,一键配置不同场景支持风控策略。其基于关联网络和深度学习技术,将复杂的数据处理、挖掘、机器学习过程标准化,提供从数据处理、特征衍生、模型构建到最终模型上线的一站式建模服务。

微信扫码
获取方案价格

加入社群

扫码进群领
【业务安全】资料礼包

在线咨询
400-878-6123