Anthropic 指出威脅行為者利用 Claude 進行監控、網絡行動及武器開發

Anthropic 關於 AI 濫用的報告，重點不在於模型安全，而在於國家支持的行為者和商業實體所帶來的即時、切實威脅。最引人注目的細節是阿里巴巴在策劃最大規模的蒸餾攻擊中所扮演的角色，該攻擊涉及來自超過 3,500 個欺詐帳戶的近 300 萬次每日交換。這表明一家主要的亞洲科技公司為了自身的研發，進行了重大、系統性的努力來獲取先進模型的能力，而不僅僅是單一的流氓行為者。

這種非法蒸餾直接惠及中國的 AI 發展，特別是阿里巴巴的模型。它允許中國公司繞過美國的出口管制，加速其自身的推理能力和模型架構研究。對於亞洲監管機構而言，這顯示了 AI 時代知識產權保護和數據主權所面臨的挑戰。它也引發了關於主要科技公司為獲得競爭優勢而願意跨越的道德界線的問題。

值得關注的是，美國和歐洲監管機構將如何應對國家支持或商業實體使用非法蒸餾的證據。可能會出現更嚴格的執法或新的技術對策。這可能會影響前沿模型的全球可用性，並在 2027 年進一步分化 AI 開發格局。目前的監管框架顯然不足以阻止此類複雜的攻擊。