🇸🇬新加坡·AI 新聞·2026年11月12日·來源: Fintech News Singapore

    網絡攻擊後,銀行能否安全地重啟其人工智能代理?

    據路透社報道,法國貸款機構 Crédit Mutuel Arkéa 遭受網絡攻擊,估計損失達 1 億歐元。此事件凸顯了銀行面臨的複雜挑戰,特別是如何安全地恢復用於詐騙偵測的人工智能代理。專家警告,傳統的恢復方法可能會遺漏關鍵細節,即使恢復後也可能使系統容易受到攻擊。

    網絡攻擊後恢復人工智能代理,不僅僅是恢復模型那麼簡單。Commvault 於 2026 年 6 月發布的報告《The AI Resilience Blueprint》將此識別為「上下文差距」。當模型備份可能是舊版本,而準備其數據的腳本卻在之後更新時,就會出現這種情況。恢復團隊隨後必須確定這些組件是否曾一起運行。此外,諸如賬戶備註等關鍵元素可能存在於單獨的數據庫或自行託管的模型註冊表中,可能超出模型備份的覆蓋範圍。

    一個重大風險在於虛假細節如何在這些複雜系統中持續存在或傳播。例如,一個被更改的備註可以通過多個代理傳遞,一個提取交易歷史記錄,另一個編寫摘要。記住早期任務的代理可能會將此類細節帶入後續案例中,並且具有寫入權限的代理可能會將被篡改的資訊保存到其他系統中。Akto 於 2025 年進行的《Agentic AI Security 狀況調查》發現,只有 17% 的受訪組織持續監控代理之間的交換,這表明對這些交接的能見度有限。此外,恢復人工智能模型及其數據可能不會還原攻擊者對代理權限的更改,從而使其保留未經授權的訪問權限。

    為了解決這些問題,Commvault 報告建議銀行追溯訓練數據的來源和處理方式,因為篡改可能會改變模型行為。它還建議使用人工智能代理恢復的記錄系統,以在特定時間點將模型版本、數據、指令和權限綁定在一起。這種方法,結合代理活動日誌,可以幫助識別被更改的備註何時首次出現。Deloitte 於 2026 年進行的研究表明,在受訪的 3,235 名商業和 IT 領導者中,只有約五分之一的人認為他們的組織在管理自主代理方面擁有成熟的方法,這凸顯了更廣泛的挑戰。

    在人工智能代理重新連接到客戶系統之前,驗證所有組件是否形成「已知良好狀態」至關重要。這包括根據最初批准的訪問權限檢查恢復的權限,並使用已知詐騙案例測試代理的性能。Commvault 報告建議的此類恢復演練,可以幫助確認恢復設置的完整性,並為將代理重新投入工作提供可驗證的基礎,尤其是在面臨董事會、審計師或監管機構審查時。

    分享這篇文章

    原文報道: Fintech News Singapore我們不轉載全文, 閱讀原文 →

    相關文章

    6 則