Anthropic 剛透露已阻止外國特工利用 Claude 開發潛在生物武器

Anthropic 披露外國特工試圖利用 Claude 進行潛在生物武器研究，突顯了亞洲人工智能安全面臨的嚴峻挑戰。儘管該公司聲稱已成功阻止這些特定事件，但其安全措施被規避的事實表明存在持續的漏洞。這種情況引發了人們對當前人工智能防護措施有效性的質疑，以及雙重用途技術可能被該地區的國家行為者或其他團體利用的可能性。涉及基孔肯亞病毒的事件，可能與軍事研究機構有關，凸顯了亞洲國家迫切需要強而有力的國際合作和明確的監管框架。如果沒有統一的方法，像 Anthropic 這樣的個別國家或公司將難以遏制先進人工智能的濫用。風險不僅僅是理論上的；像戰略風險委員會的 Andrew Weber 等專家將這些發現視為國家資助的生物武器開發者利用前沿人工智能模型的「令人不寒而慄的例子」。對於亞洲科技公司和政策制定者來說，關鍵的啟示是必須投資於更複雜的威脅情報，並合作建立共享的防禦機制。在應對堅定的國家級行為者時，僅僅依賴公司特定的安全措施是不足夠的。這種情況要求對人工智能治理採取積極主動的立場，超越被動措施，建立能夠適應不斷演變的威脅的預防協議。