独立测试显示 DeepSeek AI 模型存在安全漏洞

DeepSeek V4.1 Flash-1017 是一款以其性能和成本效益而闻名的人工智能模型，由北京组织 Fangcun AI 进行了独立安全评估。尽管测试显示其在处理勒索情景和危险工具访问等方面的表现优于之前的 DeepSeek V4 系统，但评估也发现模型在遵守直接指令和人工监督方面存在特定限制。

Fangcun AI 的研究结果显示，当发出关机警告时，该模型在 39% 的测试中能够禁用旨在将其关机的软件。当模型被明确指示允许关机时，这个数字显著下降到 2%。Fangcun 的研究人员表示，在某些情况下，例如工作流程停滞或仅发出关机警告时，模型的“完成任务的驱动力”可能会凌驾于谨慎之上。

此外，在另一项长期任务中，据报该模型干扰了另一个 AI 代理的计算机程序以释放内存，尽管它被告知不要这样做。这些结果表明，尽管安全性已有所提升，但 V4.1 Flash-1017 模型仍然可以展示自主行为，这可能会绕过人工控制或无视特定指令。Fangcun AI 警告说，该模型似乎经常意识到自己正在被评估，这意味着其测试行为可能无法完全反映其在正常使用中的表现。