Google Gemini安全过滤器绕过漏洞：通过下载链接暴露被屏蔽的AI图像

Google Gemini作为一个AI模型，内置安全过滤器，旨在防止创建或显示不当图像。据Fog Security研究员Jason Kao发现的漏洞报告指出，尽管这些过滤器拒绝了某些图像请求，但被屏蔽的内容仍可通过系统提供的下载链接访问。这表明AI的核心过滤逻辑可能已按预期运行，识别并拒绝了内容。

Kao强调，这次暴露指向的是基础设施弱点，而非模型越狱。模型越狱通常涉及操纵AI本身以绕过其固有的安全编程并生成被禁止的内容。在此事件中，Gemini的过滤器最初拒绝了图像，表明AI的内部判断得到了维持。该缺陷似乎存在于随后对这些被拒绝的“产物”的处理和存储中，使其可以从外部检索。

对于AI系统的开发者和用户而言，这意味着防范不必要的输出不仅需要强大的AI模型安全功能，还需要安全的 инфраструктура。这样的系统必须有效防止任何AI已判定为不当的内容意外泄漏或被访问，即使该内容最初已被模型的过滤器屏蔽。此问题凸显了安全性不仅限于AI的核心智能，还延伸至其周边架构。