研究人員發現惡意軟件，可讓AI模型投票決定如何攻擊您
研究人員發現名為 CLOSEDQUORUM 的惡意軟件，它利用多個 AI 模型協調攻擊。該惡意軟件查詢四種不同的 AI 服務：DeepSeek、Qwen、Mistral 和 Google Gemini。然後，它根據這些模型中獲得最多票數的選項來選擇行動。此過程使惡意軟件能夠利用多樣化的 AI 視角來做出操作決策。
惡意軟件現在利用 AI 模型的多樣性，而不僅僅是單個模型。CLOSEDQUORUM 使用四種不同的 LLM，包括 DeepSeek 和 Qwen，對攻擊策略進行「投票」。這種集體決策使惡意軟件更具適應性，並且對單一模型防禦更具彈性，這是 AI 驅動威脅的一個新方向。
對於亞洲而言，這對模型開發商和網絡安全公司提出了新的挑戰。像 DeepSeek 和 Qwen 這樣的中國公司現在成為威脅載體的一部分。新加坡和韓國的監管機構將需要考慮如何強制執行 AI 服務的安全標準，以防其被以這種方式利用。開發商有責任加強 API，以防範此類基於查詢的攻擊。
值得關注的是，這種「投票」機制是否會擴展到更多模型或更複雜的攻擊類型。如果未來的惡意軟件包含十個或二十個模型，防禦將變得指數級困難。亞洲主要雲端供應商的考驗是，他們能多快檢測並緩解這些多模型查詢模式。
相關文章
6 則
Mind Lab 推出 Mint Recursive 助企業訓練自家 AI
Mind Lab's Mint Recursive helps companies train their own AI, highlighting the developer responsibility mentioned here.
Grab、OpenAI 推出區域性 AI 技能計劃，由新加坡率先啟動
Grab and OpenAI's regional AI skills program underscores the growing importance of AI development and security.
Pine Labs 夥拍 Google Cloud 建立代理式 AI 基礎設施
習特晚宴讓美國科技巨頭成焦點——對中美關係意味著甚麼？
逾十分之一的詐騙涉及虛假身份
