Anthropic 加強防禦，抵禦針對 Claude 的蒸餾攻擊，數據採集量減少高達 99%

Anthropic 的新防禦措施主要針對其 Claude 模型的內部推理記錄，這些記錄對於蒸餾者來說特別有價值。這些記錄代表了 AI 在生成最終回應之前的思維過程，使其對於在競爭模型中複製高級功能至關重要。該公司將蒸餾描述為秘密活動，這些活動使用欺詐性帳戶來模仿前沿 AI，而成本和時間僅為典型開發的一小部分。

報告強調，未經授權的蒸餾會帶來重大的生物安全、網絡安全和國家安全風險，因為蒸餾模型通常缺乏足夠的安全防護措施。Anthropic 引用了多個例子，包括中國實驗室 Zhipu 的 GLM-5.3，據稱該模型從領先的美國模型中提取了網絡功能，以及 Moonshot 的 Kimi 模型將查詢路由到 Claude，其中一個查詢與中國人民解放軍有關。

Anthropic 的防禦框架在三個方面運作：控制推理數據移動、部署一個專門的兩階段分類器（據報告誤報率低於 0.1%），以及通過帳戶禁令、使用上限和對被阻止查詢收費來限制持續濫用者。實施這些安全措施會帶來商業和技術上的權衡，Anthropic 承認已拒絕了來自惡意網絡的巨額收入和數萬億個令牌流量。

專注於保護推理數據而不僅僅是最終輸出，表明對複雜 AI 模型如何進行逆向工程有更深入的理解。這種方法承認，底層思維過程，而不僅僅是最終產品，才是真正的知識產權目標。所引用的例子強調了此類知識產權盜竊的戰略影響，其範圍超越了商業競爭，延伸到國家安全問題。