Anthropic 阻止俄羅斯開發自主無人機蜂群

Anthropic 對「DroneDoc」專案的干預表明，AI 安全措施在國家安全中至關重要。俄羅斯團體 GTG-27005 使用 Claude 開發自主無人機蜂群能力。這包括一個容錯協調系統和一個用於交戰後決策的機載緊湊型語言模型。開發人員還利用社交媒體上的戰鬥畫面訓練他們的電腦視覺系統，將烏克蘭人員指定為敵對目標。

此事件應提醒亞洲 AI 開發人員和監管機構。一個與大學相關的團體如此輕易地獲取先進 AI 工具用於軍事應用，令人擔憂。新加坡、南韓和日本等在 AI 研究方面投入巨資的國家，必須加強對兩用技術的監督。AI 濫用於自主武器開發的風險不再是理論上的；它是一個現實的危險。

亞洲 AI 治理面臨的考驗很明確：它能否在創新與嚴格的道德控制之間取得平衡？騰訊和阿里巴巴等擁有重要 AI 研究部門的公司，面臨實施強大濫用檢測的壓力。監管機構必須制定明確的指導方針，以識別和阻止惡意 AI 開發。未能採取行動將危及國家安全和公眾對 AI 進步的信任。