FBI警告：犯罪分子利用AI技术从事恶意行为，包括恶意软件和网络钓鱼攻击

根据FBI的消息，犯罪分子正在利用开源生成式人工智能程序进行各种恶意行为，包括开发恶意软件和进行网络钓鱼攻击。

上周五，FBI与记者进行了电话交流，探讨了生成式人工智能程序在科技行业引起的轰动，同时也在助长网络犯罪活动。这些恶意活动包括使用AI程序改进和实施欺诈行为，甚至一些恐怖分子正在咨询这项技术，以帮助他们制定更具威力的化学袭击计划。

一名FBI高级官员表示：“随着AI模型的普及和应用不断增加，我们预计这些趋势将进一步恶化。”

尽管FBI没有具体指出犯罪分子使用的特定AI模型，但该官员指出，黑客们倾向于使用免费、可定制的开源模型，以及从网络犯罪地下世界传播开来的私人黑客开发的收费AI程序。

该官员进一步补充说，经验丰富的网络罪犯正在利用AI技术开发新的恶意软件攻击，并改进它们的传播方法。其中包括利用由AI生成的网站作为网络钓鱼页面，可以秘密传播恶意计算机代码。同样的技术还帮助黑客开发多态恶意软件，以逃避杀毒软件的检测。

上个月，FBI还发出警告称，骗子正在使用AI图像生成器制作性主题的深度伪造视频，试图勒索受害者的钱财。虽然不清楚这些不同AI技术驱动的方案的确切规模，但在电话交流中，FBI的工作人员补充说，该机构所见到的大多数案件涉及犯罪分子使用AI模型增强传统诈骗计划，包括利用AI语音克隆技术进行电话诈骗，试图欺诈亲人或老年人。

作为应对措施，FBI表示已与AI公司进行了有益的讨论，以解决这一问题，例如使用“水印”系统，使任何人都能更轻松地识别出AI生成的内容和图像。

“我们当然将此视为国家优先事项，”这名高级官员在讨论AI威胁时补充道。“这是最近发展的问题，影响到FBI的所有项目。”