暗网上流通的不受监管AI软件助长网络犯罪活动

不受监管的聊天机器人 FraudGPT 在暗网上广泛传播，被犯罪分子用来撰写网络钓鱼邮件和开发恶意软件。

Netenrich 的研究员 Rakesh Krishnan 指出:“随着生成式人工智能模型的兴起，威胁格局发生了巨大变化。” 近期，Netenrich 的研究团队在 Darknet 论坛等地发现了一个名为 FraudGPT 的软件，证据表明它正在被广泛使用。

该软件是一款为犯罪目的设计的未受监管的 AI 聊天机器人，在2023年7月22日开始在市场上流通。据产品描述，FraudGPT 被用来协助网络犯罪分子编写钓鱼邮件、开发破解工具以及伪造信用卡等。

这一软件是由一个名为 “CanadianKingpin” 的开发者提供的，在多个暗网市场上出售。其定价为每月200美元，购买三个或六个月的订阅可以获得折扣，一年的访问权限售价为1700美元。据称已经有超过3000笔销售在地下平台上完成。

FraudGPT 的示例展示了它如何帮助犯罪分子编写钓鱼邮件、开发破解工具以及伪造信用卡，甚至能够帮助找到最易受害的目标。

除此之外，还有报道称类似 FraudGPT 的人工智能工具已被用于犯罪活动，例如使用恶意软件数据来训练模型。这些人工智能工具降低了网络犯罪分子的门槛，即使是技术素养较低或表达不清的个人也能生成恶意软件或撰写网络钓鱼邮件。

虽然 AI 提供商如 Claude、ChatGPT 或 Bard 会采取一些措施来防止其技术被用于恶意目的，但随着开源模型的兴起，遏制犯罪分子使用 AI 的行为变得愈发困难。