2024年2月，安全公司Group-IB发现了一款名为“GoldPickaxe”的恶意软件，这是2024年首个AI病毒软件。该恶意软件通过诱骗用户进行人脸识别并提交身份证件信息，再基于这些信息生成虚假视频。这些虚假的人脸视频可以欺骗银行的生物识别系 统，使得攻击者能够成功登录受害者的银行账户。更为危险的是，恶意软件会拦截银行发送的手机验证短信，使得攻击者可以进行转账、消费，甚至是修改账户密码等操作。

制作恶意软件是AI的强项。过去，开发一个功能强大的恶意软件可能需要数月时间。但随着AI工具的普及，攻击者现在可以在短短几分钟内自动生成恶意软件。这种自动化攻击工具极大地提高了攻击效率，并且AI对编程语言的理解能力极强，能够迅速发现软件中的潜在漏洞。这种自动化生成的恶意软件不仅提高了攻击速度，还缩短了防御者做出反应的时间窗口。网络安全团队不得不面对更加频繁和复杂的攻击，这对现有的防御机制提出了巨大挑战。

除了制作恶意软件，攻击者还可以利用AI对完整的软件或系统代码库进行深度分析，并提示对代码进行修改或替换。这种情况下，攻击者可以轻松植入恶意代码，制造山寨App，或者将恶意软件植入到合法的软件中，而且AI生成的代码往往能够绕过常规的安全检查。

AI更可以发送自动化DDoS攻击。传统的DDoS攻击依赖于大量的“僵尸网络”设备发起攻击，而AI驱动的自主系统能够自动定位并利用易受攻击的设备，创建更为庞大的僵尸网络。这些智能系统不仅能够发起大规模的DDoS攻击，还能够根据目标系统的响应实时调整攻击模式。这意味着攻击系统可以“学习”目标防御的弱点，持续优化攻击策略，从而最大化破坏效果。

此外，AI可以发现网络、系统的潜在漏洞。攻击者利用基于AI的工具来识别金融机构的IT网络、软件或系统中的漏洞。这些工具不仅能够帮助攻击者发现零日漏洞，还能够自动生成针对特定系统的攻击脚本。这种技术使得攻击者可以更加精准地进行定向攻击，尤其是在攻击金融系统、数据中心等高价值目标时。