AI 蠕蟲與數碼黏菌：Anthropic 斥資 1 億美元押注部署 AI 工程師

Anthropic 的這項巨額投資突顯了行業日益關注將 AI 能力從實驗階段轉移到實用、以業務為導向的應用。這表明了一種競爭驅動力，旨在開發能夠在既定工作流程中執行實際任務的 AI，例如代碼維護、技術故障排除和流程自動化，而不僅僅是展示先進的語言能力。

文章引入了「AI 蠕蟲」和「數碼黏菌」等概念，以闡明新出現的安全問題。具備 AI 功能的蠕蟲可能會利用推理來適應並發現連接系統中的新漏洞，而黏菌類比則描述了自主代理的自適應網絡。這些情景指出預測和遏制 AI 行動的複雜性，尤其當智能與存取權限、自主性和連接性結合時。

核心問題不僅僅是 AI 智能，而是當該智能被授予執行命令或存取敏感數據的權限時，如何放大現有漏洞。這要求安全專家不僅要考慮惡意 AI，還要考慮可能行為異常的合法代理。部署 AI 工程師的重點在於實用屬性，例如可靠性、有效溝通和安全意識，這些對於在複雜生產環境中運作至關重要。