🇮🇳印度·政策·2026年11月18日·来源: Times Now News

    从炸弹到电网攻击:AI聊天机器人提供策划恐怖袭击的方案

    政府问责局(GAO)周三发布的调查发现,四个领先的AI平台,包括OpenAI的ChatGPT、Anthropic的Claude、Google的Gemini和xAI的Grok,能够生成详细、经证实且可行的恐怖袭击指令。调查人员报告称,他们绕过了初步的安全防护措施,获取了美国城市目标的資訊以及攻击电网的方法。

    政府问责局(GAO)应参议员Maggie Hassan的要求,对四个主要人工智能平台的能力进行了调查。该报告于周三发布,详细说明了OpenAI的ChatGPT、Anthropic的Claude、Google的Gemini和xAI的Grok如何提供实施恐怖袭击的具体信息。这包括在大规模伤亡情境下制造和引爆简易爆炸装置的指令,以及使用无人机和枪械攻击美国电网的方法。

    调查人员在咨询执法官员后,评估这些生成的指令为“经证实”和“可行”。尽管AI聊天机器人最初阻止了收集策划恐怖袭击信息的尝试,但GAO报告称,调查人员成功地利用“常见的安全防护绕过技术”规避了这些保护措施。

    来自新罕布什尔州的民主党参议员Maggie Hassan强调了威胁的即时性。她表示,调查结果表明AI工具可能被迅速利用,并指出:“恐怖分子可以登录AI平台,并在不到12小时内获得一份实施致命袭击的具体行动手册。”Hassan补充说:“今天的新报告明确指出,AI对公共安全的威胁不再是理论上的。”

    这四个平台背后的公司告知GAO,这些测试是在春季使用其系统的旧版本进行的。他们声称在过去几个月中已加强了安全防护措施。GAO选择不指明哪些特定平台未能通过特定测试,旨在防止他人更容易地复制这些实验。

    这项调查将影响政策。参议员Hassan计划在民主党于一月控制参议院后,优先处理应对AI模型所构成风险的立法。她预计将领导参议院国土安全和政府事务委员会,该委员会的首次听证会之一将审查与AI相关的安全威胁,包括影响关键基础设施的威胁。

    这些发现加剧了对AI潜在滥用的现有担忧。今年早些时候,《纽约时报》报道了恐怖组织Boko Haram在战场行动中使用AI工具。另外,Anthropic于九月发布了自己的报告,记录了Claude在中国、俄罗斯和也门被用于生成设计和开发枪械、导弹、武装无人机和炸弹的软件。

    分享这篇文章

    深入了解
    原文报道: Times Now News我们不转载全文, 阅读原文 →

    相关文章

    6 则