人工智能被犯罪分子滥用的预测
关键要点
犯罪分子正利用人工智能AI推动自动化、多阶段网络攻击。从5月到7月的数据表明，恶意电子邮件的数量大幅增加。多阶段攻击中，二维码钓鱼Quishing愈发流行。生成性AI为攻击者提供了更高效的攻击手段，也推动了组织的安全防御。随着研究者的预测，犯罪分子对人工智能AI的滥用不再局限于精致的网络钓鱼邮件，正处于推动一波自动化和多阶段网络攻击的边缘。
在2023年5月至7月间收集的攻击数据强调了这样一种趋势：网络犯罪分子正在越来越多地使用社交工程技术发送多阶段的恶意载荷。据Darktrace的研究人员称，向潜在受害者发送的恶意邮件数量增加了59，这些邮件鼓励受害者按照一系列步骤操作，最终实施恶意攻击或窃取敏感信息。
“在7月份，Darktrace检测到的此类攻击比5月份多出近50000例，这表明可能采用了自动化技术，这类攻击的速度可能随着攻击者对更大自动化和AI的采纳而上升。” Darktrace网络AI研究中心
多阶段载荷技术的兴起标志着二维码钓鱼Quishing的流行，研究人员表示这表明攻击中使用了自动化技术。
Darktrace的研究基于对其客户群体的分析。
需要注意的关键词是“潜在的”AI被网络犯罪分子使用。Darktrace并未明确宣称AI在这些攻击中的实际应用，而是认为该技术可以轻松被利用来简化攻击流程。
这一趋势与犯罪分子滥用生成性AI的现象是相辅相成的。Darktrace在四月份报告显示，新型社交工程攻击增加了135，他们认为这是对平台如ChatGPT的滥用。
在多阶段攻击和一次性钓鱼攻击中，共同的关键在于令人信服且可信赖的文本通信。然而，随着目标逐步意识到简单的鱼叉式钓鱼和鲸鱼钓鱼攻击，网络犯罪分子试图改变策略。
蓝灯加速器网络根据Darktrace的数据，假冒高级管理人员的钓鱼邮件减少了11。嫌疑人转而假冒公司IT团队，攻势增加了19。因为员工已开始识破假冒VIP的手法。
“虽然攻击者通常会根据技艺的有效性下降而调整其攻击手法，但生成性AI，尤其是深度伪造技术，有潜力干扰这一模式，利于攻击者。” Jack Stockdale Darktrace首席技术官
网络安全专家表示，生成性AI为网络犯罪分子快速开发和修正攻击提供了便利，而SlashNext首席执行官Patrick Harr表示，这同时也改善了组织的安全性。
“随着对所有设备发起的威胁的复杂性和数量的增加，基于生成性AI的安全性使组织在防止这些侵害方面有了一线生机。” Patrick Harr
随着AI和自动化技术使攻击者的行动速度和规模显著增加，Darktrace战略网络AI副总裁Nicole Carignan表示，组织必须信任AI以中断正在进行的复杂攻击。
“随着新型威胁成为新常态，未来对AI的采用需要进一步增加。” Nicole Carignan
