Google Gemini安全過濾器繞過漏洞：透過下載連結暴露被封鎖的AI圖像

Google Gemini作為一個AI模型，內建安全過濾器，旨在防止創建或顯示不當圖像。據Fog Security研究員Jason Kao發現的漏洞報告指出，儘管這些過濾器拒絕了某些圖像請求，但被封鎖的內容仍可透過系統提供的下載連結存取。這表明AI的核心過濾邏輯可能已按預期運作，識別並拒絕了內容。

Kao強調，這次暴露指向的是基礎設施弱點，而非模型越獄。模型越獄通常涉及操縱AI本身以繞過其固有的安全編程並生成被禁止的內容。在此事件中，Gemini的過濾器最初拒絕了圖像，表明AI的內部判斷得到了維持。該缺陷似乎存在於隨後對這些被拒絕的「產物」的處理和儲存中，使其可以從外部檢索。

對於AI系統的開發者和用戶而言，這意味著防範不必要的輸出不僅需要強大的AI模型安全功能，還需要安全的基礎設施。這樣的系統必須有效防止任何AI已判定為不當的內容意外洩漏或被存取，即使該內容最初已被模型的過濾器封鎖。此問題突顯了安全性不僅限於AI的核心智能，還延伸至其周邊架構。