韓國銀行遭入侵後，中國開發商將 ARTEX AI 代理程式轉為閉源
在網絡安全公司將 ARTEX AI 代理程式識別為近期針對韓國銀行的網絡攻擊工具後，一名中國開發商已將其轉為閉源項目。該開發商以 GitHub 用戶名「Autumn-27」營運，引用該工具被濫用為由，宣佈停止公開更新和維護。
將 ARTEX 轉為閉源的決定，突顯了開發可兼具雙重用途的 AI 工具所固有的挑戰。儘管開發商聲明該 AI 代理程式旨在用於安全風險測試和改進組織安全性，但其開源性質以及與 ChatGPT 和 Claude 等外部大型語言模型連接的能力，使其可適應其他用途，包括所報告的網絡攻擊活動。這種情況強調了技術工具的原始意圖並不能保證其應用方式。
開發商迅速採取行動停止 ARTEX 的公開更新和支援，表明其努力防止進一步的未經授權使用。然而，這項措施主要解決未來的分發和開發，而非糾正過去的部署或該工具潛在的現有非法使用。此事件表明，一旦開源工具發布，其發展軌跡可能與創作者的最初願景大相徑庭。
此案例說明了 AI 開發社群內部的實際張力：平衡開源協作（可加速創新）的好處與工具被惡意活動利用的風險。隨著 AI 代理程式在自動化複雜任務方面變得越來越精密，其在網絡攻擊等領域被濫用的可能性可能會增加，這對開發商和平台主機來說是一個持續的挑戰。
分享這篇文章
相關文章
6 則
報告發現：中國AI開發商僅公開3.6%模型發佈的安全測試結果
This incident highlights the broader issue of AI safety and transparency, a topic we recently explored regarding Chinese developers.
Anthropic 禁止用戶對 Claude 殘忍。原因值得我們所有人關注
The developer's swift action to close-source ARTEX echoes concerns about AI misuse, similar to Anthropic's recent policy changes for Claude.
阿里巴巴主席蔡崇信：開源人工智能是歐洲實現科技獨立的唯一途徑
Elon Musk 就 Starlink 印度發佈延遲問題加劇對 Ambani 的抨擊
Kurt Campbell 談美國對華焦點、印太四方安全對話、人工智能風險
