寻找软件漏洞的AI模型将率先提供给防御者
据信息技术业界消息人士透露,Google、OpenAI和Anthropic正在向网络安全专家提供其最先进的AI模型,然后才向公众发布。这种做法旨在让防御者有时间开发针对潜在AI驱动攻击的对策,因为AI模型越来越能够独立识别漏洞并执行网络攻击。
先进AI模型分阶段发布,反映出领先开发商日益关注这些系统已超越仅仅协助漏洞分析,而能执行全面网络攻击。Google、OpenAI和Anthropic等公司正率先向安全合作伙伴提供Gemini 4 Argon和GPT-6 Astra等模型。这让网络安全专业人员能够在技术广泛普及之前,分析模型的攻击能力并制定防御策略。
这种做法的理由是主动应对AI攻击能力快速提升的问题。虽然AI曾仅用于协助漏洞分析或代码编写,但最新的高性能模型可以自行发现漏洞并发动攻击。通过授予早期访问权,开发商旨在为安全社区建立一个缓冲期,以针对这些新兴威胁建立强大的防御措施。
尽管采取了这种主动措施,专家警告称,仅靠分阶段发布并不能保证安全。东国大学网络取证学教授Hwang Seok-jin指出,此类发布必须辅以用户验证、严格的访问控制和持续的实时监控,以检测和防止滥用。这表明,虽然早期访问是缓解风险的一步,但它是一个更大、持续努力的一部分,旨在管理先进AI的安全影响。
分享这篇文章
相关文章
6 则
AI 恐惧与华尔街不确定性:Anthropic 发出警报,摩根大通未达盈利预期
Anthropic, a key player in this story's staggered AI release, recently sounded alarms about AI fears and market uncertainty.

包括亚利桑那州在内,8个州起诉OpenAI
OpenAI, another developer mentioned here, is facing legal challenges from states over its AI models.

中国人工智能热潮、自给自足政策推动本地芯片公司盈利飙升

陈光宇是谁?这位中国AI少年天才正受硅谷招揽

香港推出具身AI中心,力争在机器人热潮中占一席位

