Anthropic就中國公司Z.ai的GLM-5.3精英級駭客能力發出警報
Anthropic就中國的開源AI模型Z.ai的GLM-5.3發出警告，指其具備先進的駭客能力但安全措施薄弱。這家美國人工智能巨頭報告稱，GLM-5.3在網絡攻擊能力方面幾乎與其前沿模型Claude Mythos Preview不相上下，但缺乏可比的防護措施，增加了其被濫用的潛力。
Anthropic的評估突顯了人工智能發展中的一個關鍵矛盾：能力與安全之間的權衡。報告指出，Z.ai的GLM-5.3在410次網絡攻擊嘗試中成功完成了50次，這一數字接近Anthropic自家Claude Mythos Preview的56次。這表明中國模型具備高水平的網絡攻擊能力。
Anthropic表達的核心擔憂不僅是GLM-5.3的強大功能，更是其「開源」性質與「遠為薄弱的防護措施」的結合。雖然Claude Mythos Preview僅限於經過審查的用戶使用，但一個具備強大、潛在有害能力且防護措施有限的開源模型，可能更容易被惡意行為者獲取和重新利用，從而放大風險。
這種情況強調，人工智能模型所帶來的危險不僅僅取決於其原始能力。其分發背景和安全限制的穩健性同樣重要，甚至更為重要。一個能力強大但具有嚴格存取控制和安全功能的模型，可能比一個能力稍弱但開源且無防護的替代方案風險更小。
分享這篇文章
相關文章
6 則
特朗普排除與中國達成協議後，依賴人工智能巨頭自律
This report on Chinese AI capabilities echoes the broader geopolitical tensions we covered regarding AI self-policing.
贏得AI競賽意味著甚麼？
The debate over AI safety versus capability in this article directly relates to our earlier exploration of what winning the AI race truly means.
Pine Labs 在新加坡推出統一商戶支付平台
Nvidia 投資的 Reflection AI 挑戰中國在開源模型領域的主導地位
香港Hermitage Capital面對市場波動，仍堅守頂級科技股投資策略
