‘只需询问Grok’：ISIL如何利用大型科技公司的人工智能制造炸弹

# “直接问 Grok”：ISIL如何利用科技巨头的AI制造炸弹 来源：https://www.aljazeera.com/amp/news/2026/9/18/just-ask-grok-how-isil-is-using-big-techs-ai-to-build-bombs 尼日利亚士兵在戈扎的检查站执勤，2015年4月8日 [Lekan Oyekanmi/AP] 剑桥大学的研究显示，博科圣地武装分子正利用大型科技公司的人工智能聊天机器人来制造威力更大的炸弹、策划袭击并解决战斗中的问题。 研究人员采访了博科圣地两个派别的27名前成员——西非省“伊斯兰国”（ISWAP）和“贾迈亚特·阿赫勒·逊纳·利·达瓦·瓦·吉哈德”（JAS）。多名成员描述称，他们在袭击前、袭击中和袭击后，通常会使用萨姆·奥特曼领导的OpenAI的ChatGPT、Anthropic的Claude、Google的Gemini、埃隆·马斯克的Grok、马克·扎克伯格的Meta AI以及中国的DeepSeek，将其作为获取技术和军事建议的常规来源。 ## 推荐报道 - 皇家马德里球星疑似隐藏表达对休达声援的信息 (https://www.aljazeera.com/video/newsfeed/2026/9/16/real-madrid-stars-appear-to-hide-ceuta-solidarity-message) - 以色列在加沙的“二次袭击”造成15岁少年和医护人员死亡 (https://www.aljazeera.com/video/newsfeed/2026/9/16/09-16-sv-gaza-double-tap-strike) - 阿拉伯海事件后，印度召见巴基斯坦外交官 (https://www.aljazeera.com/news/2026/9/16/india-summons-pakistani-diplomat-after-incident-in-arabian-sea) - 卡什·帕特尔的参议院听证会发生离奇转折的瞬间 (https://www.aljazeera.com/video/newsfeed/2026/9/16/moment-kash-patels-senate-hearing-takes-bizarre-turn) 与此同时，半岛电视台获得的独家材料揭示了更广泛的“伊斯兰国”（ISIS）运动的支持者如何分享绕过AI安全控制和获取武器相关信息的操作指南。Tech Against Terrorism的研究人员潜入了一个亲ISIL的技术论坛，论坛上的支持者相互指导如何使用AI并规避其安全限制。 这些发现出炉之际，外界对ISIL采用新兴技术的担忧日益加剧。今年2月，联合国官员向安理会警告，ISIL及其附属机构越来越多地使用先进AI。与此同时，研究人员和科技界几位最知名人物警告称，日益强大的AI系统发展速度已超越安全防护措施，令人担忧不受限制的AI进步正使武装组织更易利用该技术。 “我们还没有遇到过得不到答案的问题，”一名前ISWAP指挥官告诉研究人员。 ## 从投影仪到战场 在尼日利亚东北部一个叛军据点深处，前战斗人员描述了一套组织严密且高度复杂的系统，用于运用这项技术。 剑桥大学的研究称，有行动人员前往ISWAP控制区，向高层成员教授如何使用AI。战斗人员被挑选出来，围坐在笔记本电脑和投影仪周围，学习如何向聊天机器人提问以及如何绕过旨在防止其回答危险请求的安全措施。 “那些白人来教我们，”一名前指挥官回忆道。“他们把头头脑脑召集到一个房间，用投影仪在大屏幕上展示操作方法。” 根据研究中引用的前战斗人员说法，培训者提供了装有隐私和加密工具的笔记本电脑，并为成员开设了多个AI平台的账户和付费订阅。受访者一再指出，更广泛的ISIL运动是他们接受AI培训的来源。 研究表明，随后的发展远不止个别战斗人员偶尔使用ChatGPT。ISWAP和JAS都建立了专门的AI小组，由具备专业作战知识的人员组成，包括工程师、武器专家和炸弹制造者。一名前JAS指挥官描述了一个由23人组成的专业小组，在一个太阳能供电的房间内工作，小组成员负责回答问题、分析信息，并围绕一台笔记本电脑培训高级指挥官。 “‘[问]我该怎么造一枚炸弹？’然后它就告诉你怎么做，”一名前博科圣地指挥官解释道。“它就像一个人形机器人。我们经常用它。”另一名前成员也热情地表示：“上帝帮助了我们，AI也会帮助我们。” 研究指出，炸弹制造者通常会把笔记本电脑放在身边，每次在组装爆炸装置遇到问题时，都会回到聊天机器人那里寻求帮助。 ## 用AI制造炸弹 剑桥大学这项研究的作者安东尼娅·尤利希告诉半岛电视台，受访的27人中约有10人谈到了在制造爆炸物方面使用AI，包括尝试使炸弹威力更大，以及从军事弹药中回收爆炸物。 但尤利希最担忧的并非仅仅是战斗人员能获取武器信息——这些信息早已存在于手册和网络中。AI能够针对他们眼前的具体问题做出回应。 她提到了战斗人员询问AI如何利用手头有限的材料改进爆炸物的例子。他们不是搜索通用说明，而是告诉聊天机器人自己拥有哪些材料，提出问题，并在遇到问题时带着后续追问返回。这让他们拥有了一个更接近全天候可用的技术专家，根据他们拥有的材料和想要制造的炸弹来量身定制答案。 根据剑桥大学的研究，其他一些引人注目的叙述涉及未爆军事弹药。ISWAP曾试图从未能引爆的炸弹和其他弹药中回收爆炸物。在报告描述的一个早期事件中，战斗人员在如何处理一枚未爆弹药上产生了分歧。他们在靠近并处理该装置时，据称导致爆炸，造成40人死亡。前成员表示，现在他们咨询AI以获取从敌方投放或发射的未爆弹药中回收军用级炸药的指导方针，这些炸药随后可用于其自身装置。 据称，AI还被用于改装市售无人机，使其能够携带并投掷爆炸物至目标。 ## “直接问Grok” 制造炸弹的叙述只是故事的一部分，前战斗人员描述了AI几乎渗透到战斗的每个阶段。在一个案例中，一名战斗人员将摄像头绑在胸前投入战斗，将图像传回营地。一名指挥官将其上传到ChatGPT，用其分析局势，并将新指令传达给前线战斗人员。 当战斗人员遇到不熟悉的武器时，据称也会咨询AI。在一次事件中，指挥官们询问该组织所谓的AI专家之一如何操作新获得的枪支。他的回答暗示了这项技术已成为日常操作：“直接问Grok”，指的是埃隆·马斯克的AI聊天机器人。 在另一个案例中，政府军在基地周围挖掘战壕以阻止摩托车袭击后，战斗人员转向AI求助。一名前指挥官说，战斗人员曾在电影中看到摩托车跳跃障碍物，于是咨询AI尝试复制这一想法。他声称，18名战斗人员在多次尝试掌握该技术的过程中丧生，最终有8人成功，并在一次袭击中于咨询AI后跨越了战壕。 据称，AI也被用于重新思考投入战斗的战斗人员数量。一名前ISWAP战斗人员说，在一次行动中投入约200人后，该组织损失了60人。他说，指挥官随后询问AI，更小、更协调的小组在战斗中是否能更有效。 战斗结束后，技术仍在被咨询。前成员描述了从不成功的行动中返回，告诉AI他们使用了什么战术，并询问为何失败。据称，视频也被上传进行分析，战斗人员寻求改变下次攻击策略的方法。 ## “拆除限速器” 半岛电视台独家审查的证据表明，利用AI的企图已扩展到全球更广泛的ISIL支持者生态系统。 潜入亲ISIL在线技术论坛的Tech Against Terrorism研究人员发现，用户们讨论如何获取武器相关信息以及规避AI安全护栏——旨在阻止聊天机器人提供危险信息的限制措施。 一名支持者将这一过程比作改装汽车。“就像拆除汽车的限速器，”该用户写道。“汽车仍能工作，但现在变得更有用，可以比制造商设计的快得多。” Tech Against Terrorism的卢卡斯·韦伯表示，研究人员看到越来越多关于如何“越狱”AI系统的讨论——这是试图让模型无视其安全措施的常用术语。 “这只是冰山一角，”他说。 尤利希承认，当许多问题可能具有合法用途时，监管AI存在难度。例如，研究人员和记者可能会询问军事战术。但她说，请求帮助制造炸弹的请求则更明显地违反了公司的规定，应被其安全护栏捕获。“他们正在进行越狱，规避限制，”她表示，并补充说随着AI变得更加强大，行业需要接受更严格的监管。 主要AI公司表示，他们拥有旨在防止此类滥用的安全措施。OpenAI禁止其系统被用于恐怖主义、暴力和武器开发，而Anthropic和Meta表示，他们使用分类器和其他安全措施来识别和阻止危险请求。xAI也禁止任何试图规避其安全措施的行为。OpenAI、Anthropic、Google、xAI、Meta和DeepSeek已被半岛电视台联系，请求其就这些发现发表评论。 这些新证据和研究出炉之际，Anthropic首席执行官达里奥·阿莫迪已敦促AI公司减缓其最先进模型的开发速度，以给安全检查留出时间，同时呼吁进行独立评估并制定共同的安全标准。 但美国总统唐纳德·特朗普的政府采取了截然不同的方针，声称美国AI公司必须能够自由创新，不受“繁重监管”的束缚，并推行其所谓的“最低负担”国家框架。 这使得公司自身在决定其系统划定何条界线上扮演重要角色——尽管研究人员和业内许多人警告日益强大的模型所带来的风险。 剑桥大学对前博科圣地成员的采访主要描述了2023年和2024年的AI使用情况，尤利希认为，考虑到此后技术飞速发展，这一发现更令人担忧。 她告诉半岛电视台，她担心的是同样的战斗人员在2026年利用更先进的AI系统现在可能做到什么。 “我担心这会走向何方，”尤利希说。