Moonshot 调整最新 AI 模型，移除网络攻击能力

Moonshot AI 的 Kimi K3.1 Pro 是一个全新的大型语言模型，被描述为其最先进的模型，达到三万亿参数级别。该公司打算将其作为开源权重模型发布，这意味着开发人员可以访问和修改底层文件，以便在自己的系统上运行人工智能。这种开放访问模型引发了对其功能可能如何使用的考虑，特别是鉴于人们对人工智能对网络安全的潜在影响日益增长的担忧。

这家总部位于北京的公司表示，通过精心策划其开发过程，降低了该模型用于网络攻击的潜力。这包括从训练语料库（用于训练人工智能的庞大数据集）和强化学习环境（用于完善其行为）中移除网络相关数据。Moonshot AI 澄清，其目标是保留模型的一般编码技能，同时明确防止其获取网络攻击的特定知识，并表示其目标不是发布会扩展网络能力前沿的模型。

此举正值各国政府、科技公司和安全研究人员日益担忧，功能日益强大的人工智能可能会简化并降低复杂黑客攻击的成本。尽管 Moonshot AI 已概述其方法和旨在减轻此类风险的意图，但这些报告的措施代表了该公司声明的方法。这些修改在实践中的有效性，以及一旦模型权重发布后，它们将如何被更广泛的人工智能和安全社区评估，仍有待观察。