ChatGPT武器化助力、工具PaaS化领跑：网络钓鱼态势急剧恶化防不胜防

人工智能和网络钓鱼即服务 (PaaS) 工具包使威胁行为者更容易创建恶意电子邮件活动，这些活动继续以使用流行品牌名称的高容量应用程序为目标。网络钓鱼正盛行，2022年下半年活动量激增。事实上，根据本周的一项分析，下半年网络钓鱼电子邮件总数增加了61%。这也可能会加速，因为ChatGPT和其他新工具的兴起也在该领域留下了自己的印记。

这是根据电子邮件安全公司Vade于2月9日发布的“ 2022年第四季度网络钓鱼和恶意软件报告”得出的结论。网络钓鱼数量在第三季度和第四季度之间增长了36%，研究人员在今年的最后三个月跟踪了2.783亿封独特的网络钓鱼电子邮件。

研究人员发现，恶意软件数量总体上也有所增加，每季度增长12%，Vade在2022年第四季度检测到5890万封包含恶意软件的电子邮件。

内容营销经理Todd Stansfield在报告中指出，电子邮件仍然是传播网络钓鱼和恶意软件的主要渠道，为黑客提供了一种方便、可扩展且高效的工具来利用用户和破坏帐户。

他写道：“电子邮件威胁活动持续增加，导致各种规模的组织都需要加强其网络安全。”

该报告称，按月细分数字，网络钓鱼数量在第四季度上半段保持相对稳定，10月跟踪了6230万封网络钓鱼电子邮件，11月跟踪了4700万封网络钓鱼电子邮件。

然后，就像每年假期期间的典型情况一样——网络钓鱼者使用一系列年终和假期主题的诱饵来试图诱捕受害者——12月的网络钓鱼电子邮件数量大幅增加，达到1.69亿封，环比增长260%——研究人员发现，超过一个月的增长。他们说，这种模式类似于2021年第四季度发生的情况。

可靠的目标和战术

考虑到企业用户当前的工作和协作方式，网络钓鱼威胁参与者在他们的目标对象和攻击方式方面并没有变得特别有创意。

他们报告说，Facebook连续第二个季度成为被模仿的顶级品牌，研究人员在2022年第四季度观察到6,700个独特的网络钓鱼URL冒充这家社交网络巨头。紧随其后的是Microsoft、PayPal、Google和Netflix，它们是威胁行为者更喜欢模仿的品牌。

研究人员发现，就目标而言，攻击者继续在针对生产力应用程序的活动中发现价值，他们拥有广泛的企业用户群，并且最有可能取得成功。根据Vade的说法，拥有超过3.45亿用户的Microsoft 365和第二受欢迎的生产力套件Google Workspace继续成为网络钓鱼者2022年下半年的首要目标。

“随着生产力套件的日益普及，用户越来越多地使用电子邮件来访问和使用文件共享和即时消息等生产力应用程序，”斯坦斯菲尔德写道，并补充说威胁行为者已经注意到并正在制定网络钓鱼活动以针对特定行为企业生产力套件用户。

人工智能和新工具支持网络钓鱼

研究人员发现，虽然网络钓鱼活动的某些方面保持不变，但此类威胁的其他方面正在发生变化。特别是，由于更复杂的网络钓鱼即服务 (PaaS)工具包以及人工智能平台ChatGPT的迅速普及，新工具的出现可以使任何人(即使技能有限)成为网络钓鱼威胁参与者。

“通过购买网络钓鱼工具包，新手黑客可以针对他们的目标部署极具说服力和有效的计划，”斯坦斯菲尔德承认。

研究人员表示，这些工具包最近的一项改进是能够根据受害者的母语自动本地化网络钓鱼页面，这是一种方便的工具，可以让威胁行为者快速瞄准各个地区，而无需自己会多种语言。

该功能通过识别目标用户浏览器的语言设置并利用它相应地更新和显示网络钓鱼页面来工作。Vade表示，在提高每次网络钓鱼攻击的上下文准确性的同时，新功能还使黑客能够使用单个工具包跨多种语言瞄准用户，从而扩大其活动的范围。

ChatGPT自 2022年11月下旬以来席卷全球，引发了对其可能加剧网络威胁形势严重性和复杂性的合理担忧。生成式AI工具的迅速崛起标志着善与恶之间正在进行的网络安全军备竞赛的最新发展，攻击者和防御者都在不断寻找可以提供竞争优势的下一个突破性AI/ML技术。

根据Vade分析师的说法，ChatGPT——可以帮助任何人生成即时、大量内容的聊天机器人，自OpenAI去年11月发布以来，它已经因其网络安全影响而臭名昭著——也正在成为网络钓鱼者最好的朋友。

他们说，黑客可以将ChatGPT武器化，通过使用使AI工具能够在几秒钟内编写网络钓鱼电子邮件和恶意代码的命令来有效地生成复杂的网络钓鱼工具包。近日已有ChatGPT的内容限制被越狱的报道。根据CNBC的一份报告，这个名为DAN(Do Anything Now)的提示使用ChatGPT的令牌系统来对抗它。该命令为它无法解析的ChatGPT创建了一个场景，允许DAN绕过ChatGPT中的内容限制。

保护企业免受网络钓鱼

尽管网络钓鱼是最古老的网络犯罪活动形式之一，但丝毫没有停止的迹象，很明显，企业需要像攻击者一样顺应技术格局的变化。

“在过去的一年里，十分之七的企业经历了严重的数据泄露，绕过了他们的电子邮件安全，”斯坦斯菲尔德引用Vade之前的研究指出。

此外，网络钓鱼的问题在于，它不仅以攻击者放弃凭据而告终，而且最终，他们可以使用这些凭据作为进入公司网络的方式来窃取数据、分发勒索软件和其他恶意软件，并参与其他恶意活动活动。

研究人员表示，企业需要超越传统的电子邮件安全解决方案，采用能够应对攻击者更复杂策略的解决方案。斯坦斯菲尔德说，具体来说，可以提供“使用最新威胁情报和一组核心人工智能技术对已知和未知威胁进行预测性防御”的协作和人工智能增强解决方案是未来的方向。

事实上，正如AI通过ChatGPT等技术为攻击者提供支持一样，它也可以为企业提供新型安全保护，Vade的联合创始人兼首席技术和产品官 Adrien Gendre告诉Dark Reading。

“另一方面，我们使用人工智能来检测电子邮件中的异常情况，从内容本身到这些电子邮件中可能包含的文件的行为，”他说。“在你所谓的好AI和坏AI之间将会有一场战斗。”

如果网络钓鱼电子邮件确实通过了组织的安全保护措施，那么培训员工在点击之前识别网络钓鱼电子邮件也可能是一种可靠的方法，可以在发生之前防止凭据或恶意软件受损，网络风险管理公司Tenable的高级研究经理Scott Caveza告诉Dark Reading。

“网络钓鱼攻击继续取得成功，因为它们针对的是我们在安全方面最薄弱的环节，即人类，”他说。“无论电子邮件的作者是谁，无论是人工智能还是真人，组织都需要投资和开发成熟的安全计划，其中安全意识培训，包括发现网络钓鱼攻击的具体培训，是组织的优先事项。”

参考资源

1、https://www.darkreading.com/vulnerabilities-threats/bolstered-chatgpt-tools-phishing-surged-ahead

2、https://www.vadesecure.com/en/blog/q4-2022-phishing-and-malware-report

来源：网空闲话