美国呼吁以“AI投毒”破坏中国的模型蒸馏

美国正悄悄倡导对涉嫌通过知识蒸馏窃取知识产权的中国公司采取“AI投毒”策略。这项策略涉及美国AI公司巧妙地更改对可疑恶意查询的回应，有效地在中国AI模型不知情的情况下向其喂送“不良数据”。FBI、NSA和CISA的建议特别点名了六家中国公司，包括Alibaba和Moonshot AI，指控它们自2024年末以来从领先的美国模型中提取了数十亿个tokens。对于亚洲的AI发展而言，这代表着美中科技竞争的重大升级，从出口管制转向主动破坏AI训练数据。尽管北京将蒸馏视为中立做法并指责华盛顿采取保护主义，但美国则将其视为对其AI领导地位的直接威胁。中国AI公司面临的风险是，如果它们在不知情的情况下纳入被投毒的数据，其模型可能会退化，影响其竞争优势以及其AI产品在整个地区的可靠性。值得关注的是，这种秘密策略将如何影响中国开发的AI模型的质量和可信度，特别是那些来自Moonshot AI等公司，该公司在过去的美国指控中曾被明确提及。这可能迫使中国开发商更大量地投资于数据验证和替代训练方法，可能减缓其进度或增加成本。