据 FBI 称，犯罪分子正在利用开源生成式人工智能程序从事各种卑劣行为，包括开发恶意软件和网络钓鱼攻击。
上周五，FBI 与记者进行了电话交流，讨论生成式人工智能程序在科技行业中引起的轰动，同时也在助长网络犯罪。恶意活动范围涵盖使用 AI 程序改进和推出诈骗行为，甚至恐怖分子咨询这项技术以帮助他们打造更具威力的化学袭击。
一名 FBI 高级官员表示：「随着 AI 模型的采用和普及不断增加，我们预计这些趋势将加剧。」
FBI 没有具体指出犯罪分子使用的特定 AI 模型。但该官员指出，黑客们倾向于使用免费、可定制的开源模型，以及流传于网络犯罪地下世界的私人黑客开发的收取费用的 AI 程序。
该官员补充说，经验丰富的网络罪犯正在利用 AI 技术开发新的恶意软件攻击，并改进它们的传递方法，包括使用由 AI 生成的网站作为网络钓鱼页面，可以秘密传播恶意计算机代码。同样的技术帮助黑客开发多态恶意软件，可以逃避杀毒软件的检测。
上个月，FBI 还警告称，骗子正在使用 AI 图像生成器创建性主题的深度伪造视频，试图勒索受害者的钱财。这些不同 AI 技术驱动的方案的确切规模仍不清楚。但在今天的电话交流中，FBI 的工作人员补充说，该机构所看到的大多数案件涉及犯罪分子使用 AI 模型来加强他们传统的诈骗计划。其中包括利用 AI 语音克隆技术进行电话诈骗，试图欺诈亲人或老年人。
作为回应，FBI 表示已与 AI 公司进行了富有成效的讨论，以解决这个问题，例如使用「水印」系统使任何人都能更容易地识别 AI 生成的内容和图像。
「我们确实将其视为国家优先事项，」该高级官员在讨论 AI 威胁时补充道。「这是最近的发展，影响到 FBI 的所有项目。」
