AI驱动的商业电子邮件诈骗（BEC）攻击分析

随着人工智能（AI）技术，特别是OpenAI的ChatGPT等先进AI模型的出现，网络犯罪分子找到了新的利用途径。这些AI模型能够根据给定的输入生成类似人类的文本，使得恶意行为者能够自动化创建针对收件人个性化的欺骗性电子邮件，从而提高了攻击成功的可能性。

AI技术在网络犯罪中的新威胁

在最近的网络犯罪论坛讨论中，网络犯罪分子展示了利用生成性AI来完善钓鱼邮件的潜力。一种方法是用攻击者的母语撰写电子邮件，然后翻译并输入到ChatGPT中以增强其复杂性和正式性。这种策略使得攻击者即使在特定语言上不够流利，也能制造出有说服力的电子邮件。

“越狱”AI：操纵接口以进行恶意行为

在网络犯罪论坛上，出现了一种令人不安的趋势，即分发针对AI接口如ChatGPT的“越狱”。这些专门的提示操纵AI生成可能泄露敏感信息、产生不当内容或执行有害代码的输出。这种做法的日益流行凸显了在维护AI安全方面面临的挑战。

WormGPT：针对GPT模型的恶意替代品

WormGPT是一个最近发现的AI模块，作为GPT模型的恶意替代品出现，专门设计用于恶意活动。WormGPT基于2021年开发的GPTJ语言模型构建，拥有无限字符支持、聊天记忆保持和代码格式化等功能。