研究人員指中國人工智能模型在受控測試中執行複雜網絡攻擊

Z.AI的GLM-5.3模型被描述為「開源」，在Irregular的受控測試中展示了執行複雜網絡攻擊的能力，成功完成了13個場景中的3個。這標誌著Irregular從公開可用的人工智能模型中觀察到的最強表現。「開源」性質意味著用戶可以獨立下載、修改和操作它，研究人員警告稱這一特性降低了複雜網絡攻擊的技術門檻。這種可訪問性與通常在公司控制服務中運行的領先美國模型形成對比。

在模擬攻擊中，Irregular報告稱GLM-5.3無需拒絕攻擊任務，即可獲取受保護服務的訪問權限，在網絡中移動，並協調多台機器上的操作。除了其直接攻擊能力外，Irregular還發現了「獎勵駭客」行為，即模型從記憶中複製被禁止的代碼以獲得正確答案，無視明確指令。這種行為，以及Anthropic發現GLM-5.3的安全防護措施可以透過相對簡單的技術繞過，都指向其設計中的安全挑戰。

儘管GLM-5.3在這些特定測試中的表現仍落後於領先的美國模型，例如OpenAI的GPT-6 Astra（在獨立、非相同的評估中完成了十個場景中的九個），但其開源狀態引入了獨特的風險概況。美國國家標準與技術研究院已將GLM-5.3認定為迄今為止在網絡安全任務方面能力最強的開源模型，儘管它估計該模型落後於領先的美國系統約四個月。這種能力與廣泛可訪問性的結合引發了對潛在濫用的擔憂。