韩国银行遭入侵后，中国开发者将 ARTEX AI 代理转为闭源
在网络安全公司将 ARTEX AI 代理识别为近期针对韩国银行的网络攻击工具后，一名中国开发者已将其转为闭源项目。该开发者以 GitHub 用户名“Autumn-27”运营，引用该工具被滥用为由，宣布停止公开更新和维护。
将 ARTEX 转为闭源的决定，凸显了开发可兼具双重用途的 AI 工具所固有的挑战。尽管开发者声明该 AI 代理旨在用于安全风险测试和改进组织安全性，但其开源性质以及与 ChatGPT 和 Claude 等外部大型语言模型连接的能力，使其可适应其他用途，包括所报告的网络攻击活动。这种情况强调了技术工具的原始意图并不能保证其应用方式。
开发者迅速采取行动停止 ARTEX 的公开更新和支持，表明其努力防止进一步的未经授权使用。然而，这项措施主要解决未来的分发和开发，而非纠正过去的部署或该工具潜在的现有非法使用。此事件表明，一旦开源工具发布，其发展轨迹可能与创作者的最初愿景大相径庭。
此案例说明了 AI 开发社区内部的实际张力：平衡开源协作（可加速创新）的好处与工具被恶意活动利用的风险。随着 AI 代理在自动化复杂任务方面变得越来越精密，其在网络攻击等领域被滥用的可能性可能会增加，这对开发者和平台主机来说是一个持续的挑战。
分享这篇文章
相关文章
6 则
报告发现：中国AI开发者仅公开3.6%模型发布的安全测试结果
This incident highlights the broader issue of AI safety and transparency, a topic we recently explored regarding Chinese developers.
Anthropic 刚刚禁止了对 Claude 的残忍行为。原因应该让我们所有人担忧
The developer's swift action to close-source ARTEX echoes concerns about AI misuse, similar to Anthropic's recent policy changes for Claude.
阿里巴巴主席蔡崇信：开源人工智能是欧洲实现科技独立的唯一途径
Elon Musk 就 Starlink 印度发布延迟问题加剧对 Ambani 的抨击
Kurt Campbell 谈美国对华焦点、印太四方安全对话、人工智能风险
