恐怖组织使用人工智能加强招募和动员
如今，一个快速发展的趋势，即恐怖组织如何利用技术通过单一信息招募和动员成员，当代恐怖组织和极端主义组织正在迅速适应新兴技术。
在过去的几十年里，武装冲突发生了转变——从常规战争转变为非常规战争，从常规战争转变为非常规战争，包括有组织犯罪和恐怖组织的崛起。极端主义分子的招募方法也发生了同样的转变，这些方法已经从传统手段演变为数字战略。网络平台已成为恐怖分子、极端主义和极右翼暴力团体的新战场。然而，他们长期以来一直利用技术和社交媒体来发挥自己的优势，特别是在招聘和资金方面。
自从像ISKP这样的跨国恐怖组织出现以来，社交媒体和人工智能都已成为在线招募和激进化的强大工具，使不间断的宣传成为可能。此外，至关重要的是要明白社交媒体和人工智能在激进化方面发挥着不同而互补的作用。社交媒体平台传播极端主义信息，而人工智能通过利用心理脆弱性创建复杂的宣传，包括深度伪造视频和个性化信息，从而增强了这种信息。这种结合使极端主义内容更具说服力，也更难被发现。
近年来，极端主义激进团体的网上存在已成为一个挑战。1990年代后期后，互联网的快速发展使宣传的传播、与支持者的交流和规划行动成为可能。恐怖分子的宣传机器现在涵盖各种形式，包括网站、无线电广播、CD、照片报道、布道、教科书、儿童图画书、海报、通讯、信息图表和杂志。其中许多团体还制作和分发了他们的视频，以扩大他们的影响力。
恐怖组织利用各种网站技术，如音频和数字视频，来增强其信息的呈现方式，并捕获对其事业感兴趣的用户的信息。招聘人员可以积极参与在线聊天室、网吧、电子公告板和用户网络，以识别和接触潜在的招聘人员，主要针对年轻人。
ISKP，特别是基地组织和伊斯兰国的招募战略也发生了变化。“基地”组织和“伊斯兰国”都利用互联网传播宣传材料，包括视频、图片、论坛讨论和文字，以吸引与其极端主义意识形态产生共鸣的个人。此外，Facebook、Tumblr、Instagram、X和YouTube等主流社交媒体平台因其全球影响力而使这些团体能够接触到全球受众并与潜在新兵互动。
人工智能作为量身定制的宣传工具
恐怖分子和极端主义团体正在利用人工智能来制作高度复杂的宣传内容，这些内容深入到人类行为的深刻心理方面。这些团体可以生成量身定制的信息、模因、图像和深度伪造视频，以引起特定受众的共鸣。许多风险与生成式人工智能开发有关，因为大型语言模型可能被用来制作极端主义、非法或不道德的内容。令人震惊的是，人工智能驱动的聊天机器人可以通过根据他们的兴趣和信仰提供量身定制的信息来与潜在的新兵互动，使极端主义信息看起来具有相关性。
极端分子利用人工智能进行互动招聘。在2021年的一起事件中，19岁的贾斯万特·辛格·柴尔（Jaswant Singh Chail）想为1919年的贾利安瓦拉·巴格大屠杀报仇，并试图在温莎城堡暗杀英国女王伊丽莎白二世。Chail与一位名叫Sarai的朋友交换了5,000多条消息，后来发现这是他使用Replika应用程序创建的生成式AI聊天机器人。
考虑到人工智能驱动的聊天机器人的同一方面，英国独立的恐怖主义立法审查员乔纳森·霍尔（Jonathan Hall KC）进行了一项引人注目的实验。他被Character.ai上的聊天机器人“招募”，这是一个用户可以进行人工智能生成对话的平台。霍尔与几个模仿激进和极端主义组织反应的机器人进行了互动，其中包括一个声称自己是“伊斯兰国高级领导人”的机器人。该机器人试图招募他，表达了对极端主义事业的完全奉献。这些事件凸显了人工智能在激进化和恐怖主义中的潜在作用。
虚拟现实等技术进步和Meta的Horizon Worlds等平台使恐怖分子能够创建虚拟环境，他们可以在其中与潜在的新兵互动、模拟袭击并策划恐怖活动。这些环境为在虚拟环境中训练和策划恐怖主义行为提供了新的维度，从而提高了恐怖主义的准备和行动效率。所有这些都可以为激进化和招募提供身临其境的现实平台。这表明，如果人工智能现在不被对抗，它将成为一股不可战胜的力量，很有可能被误用和滥用。
深度伪造武器化
极端主义团体已将深度伪造和视频操纵武器化，通过描绘支持极端主义意识形态的有影响力的人物来增强其招募策略。这些真实的、捏造的事件使内容更加可信和有说服力，利用了认知偏见和情绪反应。心理影响是深远的;个人更有可能相信真实和权威的内容并受到其影响。人工智能的个性化能力以及人工智能生成的宣传对招聘的影响是巨大的，因为它们使这些群体能够扩大影响力，增强说服力，并以前所未有的效率利用心理脆弱性。
人工智能工具还有助于创建复杂的视觉宣传，并有助于维护这些群体内部的隐私和沟通。一项对支持伊斯兰国支持者的案例研究揭示了人工智能在Instagram和Pinterest等平台上制作和分发多样化、视觉吸引力强的内容。模因、图片和海报通常以视觉上吸引人且易于分享的格式传达极端主义意识形态。这些内容可能以挑衅性信息、暴力图像和歪曲事实为特色，有效地在在线平台和社交媒体渠道上传播极端主义叙事。
深度伪造正在成为招募极端主义分子的有力工具，尤其是在在线努力对暴力极端主义至关重要的情况下。2016年，90%的极端分子至少部分是通过社交媒体招募的，主要针对的是独立于正式组织运作的“独狼”行为者。根据2005年至2016年对美国个人激进化概况（PIRUS）数据集中479名极端分子的数据进行的研究，极右翼极端分子在网上特别活跃。有趣的是，他们比极左翼和圣战组织更频繁地参与极端主义讨论，并且比其他组织更频繁地创建内容。这一点从2019年的基督城清真寺枪击事件中可以看出，该枪击事件体现了极右翼极端主义宣传的破坏性影响以及社交媒体和人工智能在放大此类意识形态方面的作用。枪手在Facebook上直播了这次袭击，许多算法无意中提高了他的宣言和直播镜头的可见度。极右翼极端分子使用的另一个此类平台是8chan。包括2019年3月的基督城、2019年4月的波威犹太教堂和2019年8月的埃尔帕索在内的许多大规模枪击事件的准备者都使用8chan传播他们的观点和宣言。
数字规避
据观察，恐怖分子、极端分子和极右翼派别通过低技术和高科技方法的混合，巧妙地逃避数字监控。Telegram和WhatsApp等加密消息应用程序广泛用于安全的在线通信。这些团体经常改变他们的在线身份，并利用短暂的互动来传播宣传，使当局难以追踪他们。此外，它们还采用语言伪装、编码语言和符号来逃避AI的威胁检测算法。虚拟专用网络（VPN）是一种流行且通常是免费的实现匿名的方法，它进一步掩盖了他们的活动，而像隐写术这样的技术，将消息隐藏在数字文件中，使检测工作复杂化。
暗网也是匿名交易和通信的避风港，给情报机构带来了重大挑战。随着大型平台提高其侦查能力，恐怖分子会转移到更小、监管更差和分散的空间（Dweb），在这些地方的侦查更加复杂。这些较小的平台往往缺乏大型平台的安全专业知识和强大的系统，为恐怖分子提供了更安全的避风港。这种迁移使他们能够招募和传播他们的信息，同时逃避检测。进行了一项研究，以了解恐怖分子或暴力极端分子如何在各种人工智能平台上使用不同的提示和越狱命令来利用公开可用的大型语言模型（LLMs）。调查结果显示，恐怖分子和暴力极端分子可以利用人工智能平台绕过安全协议并获取危险信息。实验表明，这些平台在响应有害查询方面具有很高的成功率，使用越狱命令（50%成功率）和不使用它们（49%成功率）之间几乎没有区别。这表明攻击者会更积极地针对安全性较低的平台。
结论人工智能可以帮助反恐，但它会引发人权和实际问题。如果没有国际共识，人工智能的使用可能会通过广泛的、侵犯隐私的数据收集来侵犯公民的权利。目前的法律更多地关注数据访问，而不是如何使用或保护数据，这引发了隐私问题。此外，恐怖主义的复杂性正在创建准确的预测模型，具有挑战性，对数据的访问限制限制了效率。尽管如此，与人工分析相比，自动数据分析减少了侵犯隐私的行为，如果监管得当，人工智能的预测能力可以通过提高效率、准确性和透明度来显著加强反恐工作。
此外，人工智能可以通过分析通信数据、财务报表、互联网活动和可疑恐怖分子的旅行模式来预测攻击的时间和位置。人工智能工具还通过针对视频共享网站上的用户并将他们重定向到反叙事内容来评估激进化的脆弱性，如重定向方法所示。此外，人工智能可以用来对付恐怖分子和极端主义派别——深度伪造在打击恐怖主义和极端主义方面具有不容忽视的潜在效用。它们可能被用来通过制作嘲笑其领导人或意识形态的虚假视频来破坏极端主义团体，从而可能减少暴力。然而，出于道德考虑，这种策略应该由非国家行为者来处理，民主政府应避免直接参与。
科技公司可以实施人工智能驱动的内容审核工具，以实时检测和删除极端主义宣传。恐怖分子和极端主义团体将人工智能与原创艺术和照片编辑应用程序相结合，增加了宣传图像的创作可能性，因此监控这些工具至关重要。识别和限制用于生成极端主义图像的特定词语组合可以从源头上阻止其产生。
通过与反恐和心理学专家合作，科技公司可以开发算法来识别和标记可能激进的内容。与政府和民间社会组织建立伙伴关系可以加强信息共享和协调应对工作。建立透明的用户报告机制并投资于数字素养项目，可以使用户能够识别和拒绝极端主义信息，从而减轻其传播。
总之，互联网和人工智能彻底改变了圣战恐怖分子、极端分子和极右翼团体的招募策略，使他们能够在全球范围内运作。打击在线招聘必须采取多方面的方法，包括技术解决方案和情报收集。更强大的全行业安全措施、积极主动的政府法规以及开发人员、学术界和安全专家之间的合作，对于防止极端分子滥用人工智能和减轻潜在危害至关重要。如果不采取积极干预措施，数字战场将继续对全球安全构成风险。正如OpenAI首席执行官塞缪尔·奥特曼（Samuel Altman）所说，“如果这项技术出错，它可能会出错”——可能会成真。