Moonshot 調整最新 AI 模型，移除網絡攻擊能力

Moonshot AI 的 Kimi K3.1 Pro 是一個全新的大型語言模型，被描述為其最先進的模型，達到三萬億參數級別。該公司打算將其作為開源權重模型發佈，這意味著開發人員可以存取和修改底層文件，以便在自己的系統上運行人工智能。這種開放存取模型引發了對其功能可能如何使用的考慮，特別是鑑於人們對人工智能對網絡安全的潛在影響日益增長的擔憂。

這家總部位於北京的公司表示，透過精心策劃其開發過程，降低了該模型用於網絡攻擊的潛力。這包括從訓練語料庫（用於訓練人工智能的龐大數據集）和強化學習環境（用於完善其行為）中移除網絡相關數據。Moonshot AI 澄清，其目標是保留模型的一般編碼技能，同時明確防止其獲取網絡攻擊的特定知識，並表示其目標不是發佈會擴展網絡能力前沿的模型。

此舉正值各國政府、科技公司和安全研究人員日益擔憂，功能日益強大的人工智能可能會簡化並降低複雜黑客攻擊的成本。儘管 Moonshot AI 已概述其方法和旨在減輕此類風險的意圖，但這些報告的措施代表了該公司聲明的方法。這些修改在實踐中的有效性，以及一旦模型權重發佈後，它們將如何被更廣泛的人工智能和安全社群評估，仍有待觀察。