人工智能的威胁：网络犯罪中的新武器

关键要点

当前我们所听到的都是人工智能的伟大之处，关于它将如何革新诸多行业，从医疗到教育和科学研究的前景。然而，我们较少讨论的是：人工智能正迅速成为网络犯罪分子工具箱中的一种强大武器。具体而言，AI被越来越多地用于加速网络安全威胁，例如钓鱼攻击和社交工程攻击。

SC Media Perspectives专栏由可信赖的SC Media网络安全专家撰写。 在此阅读更多观点 。

我们始终需要关注网络犯罪分子可得的新技术与工具，而让我更担忧的是，这一现象正在助长暗网的发展。

已有威胁，新速度

人工智能并不是在创造全新的网络攻击类型，而是将现有的威胁变得更加迅速、更具规模且更难以阻止。电子邮件诈骗、恶意软件和密码盗取等攻击已经存在多年。现在的不同之处在于，AI所带来的规模和复杂性。

以电子邮件诈骗为例。犯罪分子过去需要自己编写逼真的假消息，或者使用难以个性化定制的笨重模板。现在，他们可以利用AI在几分钟内生成数百封个性化的诈骗邮件。这些AI生成的信息往往比人写的更具说服力，更难被识别。

恶意软件也是如此。传统恶意软件遵循固定的模式，安全软件可以检测到。但AI驱动的恶意软件可以即时改变其行为，找到避开检测的新方法。当安全团队阻止一个版本后，AI几乎立即会创建一个新变种。虽然这些AI驱动的攻击不如技术高超的黑客复杂，但它们能让网络犯罪分子更轻松地定位更多受害者。

这种加速适用于每种类型的网络攻击。曾经需要几天时间才能完成的事情，如今只需几小时。曾经目标仅仅是数百个受害者，而现在目标是数百万个。AI有潜力将一切变得更快、更大。

更新、更快、更隐蔽

虽然AI加速了现有威胁，但它也正在创造全新的威胁。犯罪版本的流行AI工具正在暗网上出现。那些专门为犯罪而设计的AI系统正不断涌现。

例如，WormGPT和FraudGPT就是这样的工具，作为ChatGPT的犯罪替代品，其安全限制被移除。它们可以帮助创建恶意软件、设计假网站和开发新的黑客工具。更令人担忧的是，像DarkBARD和DarkBERT这样的高级AI系统即将问世，它们可以浏览互联网并分析图像，为犯罪分子提供更多的能力。

合法的AI平台也岌岌可危

网络犯罪分子不仅在创造自己的AI工具，还在劫持合法的AI平台。目前，有超过20万个被盗的OpenAI账户凭证在暗网上出售。每一个都代表着对本为正当用途设计的强大AI系统的潜在访问。

然而，被盗账户仅仅是开始。犯罪论坛上充斥着关于“越狱”的讨论寻找移除AI工具安全限制的方法。成功后，这些尝试会将原本有用的AI助手变成诈骗和网络犯罪的工具。

另一方面，我们现在也可以利用AI来抵御这些AI威胁。安全团队现在部署AI系统，全天候监控暗网论坛和市场，以检测潜在的危机。这些AI工具可以在几分钟内阅读数百万条帖子，理解犯罪的暗语，并识别出人类可能错过的模式。

以下是AI为我们带来的优势：