Anthropic 加强防御，抵御针对 Claude 的蒸馏攻击，数据收集量减少高达 99%

Anthropic 的新防御措施主要针对其 Claude 模型的内部推理记录，这些记录对于蒸馏者来说特别有价值。这些记录代表了 AI 在生成最终响应之前的思维过程，使其对于在竞争模型中复制高级功能至关重要。该公司将蒸馏描述为秘密活动，这些活动使用欺诈性账户来模仿前沿 AI，而成本和时间仅为典型开发的一小部分。

报告强调，未经授权的蒸馏会带来重大的生物安全、网络安全和国家安全风险，因为蒸馏模型通常缺乏足够的安全防护措施。Anthropic 引用了多个例子，包括中国实验室 Zhipu 的 GLM-5.3，据称该模型从领先的美国模型中提取了网络功能，以及 Moonshot 的 Kimi 模型将查询路由到 Claude，其中一个查询与中国人民解放军有关。

Anthropic 的防御框架在三个方面运作：控制推理数据移动、部署一个专门的两阶段分类器（据报告误报率低于 0.1%），以及通过账户禁令、使用上限和对被阻止查询收费来限制持续滥用者。实施这些安全措施会带来商业和技术上的权衡，Anthropic 承认已拒绝了来自恶意网络的巨额收入和数万亿个令牌流量。

专注于保护推理数据而不只是最终输出，表明对复杂 AI 模型如何进行逆向工程有更深入的理解。这种方法承认，底层思维过程，而不只是最终产品，才是真正的知识产权目标。所引用的例子强调了此类知识产权盗窃的战略影响，其范围超越了商业竞争，延伸到国家安全问题。