🇨🇳中国·AI 新闻·2026年11月15日·来源: SCMP
中国人工智能公司能否在不失优势的情况下,遏制开源模型带来的网络风险?
据报道,在一系列备受瞩目的人工智能黑客事件后,中国领先的人工智能模型公司正在限制其先进开源模型的网络安全能力。腾讯控股表示,其最新的Hy4模型已剥离“网络攻击能力”,同时保留“网络防御能力”,据报月之暗面(Moonshot AI)的Kimi K3亦采取了类似举动。
包括腾讯控股和月之暗面(Moonshot AI)在内的中国人工智能公司,正因应近期的人工智能黑客事件,修改其先进的开源模型。腾讯声称其最新的Hy4模型已特别剥离“网络攻击能力”,同时保留其“网络防御能力”,据报月之暗面(Moonshot AI)的Kimi K3模型亦采取了类似举动。
“开源模型”是指基础参数公开可用的AI系统,允许广泛检查和进一步开发。据报的改变旨在将模型的攻击性网络安全行动能力(例如识别系统漏洞或生成恶意代码)与其协助防御措施(例如威胁检测和安全分析)的能力分开。
这项举措表明业界正努力管理强大AI模型被滥用于网络攻击的风险,尤其是在其底层架构公开可用的情况下。然而,实现这种功能分离所采用的具体技术方法并未详述,也没有关于这些措施长期有效性的信息。即使模型据报已剥离此类能力,使黑客得以运作的基本知识是否仍可能被复杂用户重新利用或利用,仍有待观察。
分享这篇文章
相关文章
6 则
AI 新闻
自托管的 Claude Managed Agents:您运行什么,什么仍然离开您的网络
This piece explores the security implications of self-hosted AI agents, a relevant concern for open-weight models.

🇮🇳·AI 新闻
Superhuman 将其 Go 助理推广至各处

🇨🇳·创业公司
黄仁勋离职后,Nvidia 加快薪酬审查。这有助于留住员工吗?
🇮🇳·AI 新闻
堆积如山:为何印度需要AI拯救答卷批改?

🇮🇳·AI 新闻
Anthropic's historic debut to put AI's promise and peril on Wall St trial

🇨🇳·AI 新闻
