🇮🇳印度·政策·2026年11月18日·來源: Times Now News

    從炸彈到電網攻擊:AI聊天機械人提供策劃恐怖襲擊的方案

    政府問責局(GAO)週三發佈的調查發現,四個領先的AI平台,包括OpenAI的ChatGPT、Anthropic的Claude、Google的Gemini和xAI的Grok,能夠生成詳細、經證實且可行的恐怖襲擊指令。調查人員報告稱,他們繞過了初步的安全防護措施,獲取了美國城市目標的資訊以及攻擊電網的方法。

    政府問責局(GAO)應參議員Maggie Hassan的要求,對四個主要人工智能平台的能力進行了調查。該報告於週三發佈,詳細說明了OpenAI的ChatGPT、Anthropic的Claude、Google的Gemini和xAI的Grok如何提供實施恐怖襲擊的具體資訊。這包括在大規模傷亡情境下製造和引爆簡易爆炸裝置的指令,以及使用無人機和槍械攻擊美國電網的方法。

    調查人員在諮詢執法官員後,評估這些生成的指令為「經證實」和「可行」。儘管AI聊天機械人最初阻止了收集策劃恐怖襲擊資訊的嘗試,但GAO報告稱,調查人員成功地利用「常見的安全防護繞過技術」規避了這些保護措施。

    來自新罕布什爾州的民主黨參議員Maggie Hassan強調了威脅的即時性。她表示,調查結果表明AI工具可能被迅速利用,並指出:「恐怖分子可以登入AI平台,並在不到12小時內獲得一份實施致命襲擊的具體行動手冊。」Hassan補充說:「今天的新報告明確指出,AI對公共安全的威脅不再是理論上的。」

    這四個平台背後的公司告知GAO,這些測試是在春季使用其系統的舊版本進行的。他們聲稱在過去幾個月中已加強了安全防護措施。GAO選擇不指明哪些特定平台未能通過特定測試,旨在防止他人更容易地複製這些實驗。

    這項調查將影響政策。參議員Hassan計劃在民主黨於一月控制參議院後,優先處理應對AI模型所構成風險的立法。她預計將領導參議院國土安全和政府事務委員會,該委員會的首次聽證會之一將審查與AI相關的安全威脅,包括影響關鍵基礎設施的威脅。

    這些發現加劇了對AI潛在濫用的現有擔憂。今年早些時候,《紐約時報》報導了恐怖組織Boko Haram在戰場行動中使用AI工具。另外,Anthropic於九月發佈了自己的報告,記錄了Claude在中國、俄羅斯和也門被用於生成設計和開發槍械、導彈、武裝無人機和炸彈的軟件。

    分享這篇文章

    延伸閱讀
    原文報道: Times Now News我們不轉載全文, 閱讀原文 →

    相關文章

    6 則