谷歌出于安全考虑,限制访问新AI模型
谷歌宣布限制公众访问其最强大的AI模型Gemini 4 Argon,初期仅向经过审查的网络安全专家群体发布。该公司表示,这种分阶段的方法对于安全发布前沿功能是必要的,并将在更广泛推出之前,收集包括美国政府在内的测试人员的反馈意见。
谷歌决定限制公众访问Gemini 4 Argon,这与领先AI开发商的谨慎趋势一致,反映了Anthropic对其Claude Mythos Preview的处理方式。这种共同策略表明业界认识到部署高能力AI模型所带来的重大风险。与美国政府就早期访问和反馈进行的接触,表明谷歌正努力与政策制定者合作制定安全标准。
推动此次限制发布的核心担忧是潜在的滥用,尤其是在网络安全领域。专家担心,先进的人工智能可能被利用来入侵关键系统。尽管谷歌承认这些风险,但它也将Argon定位为一种防御工具,指出其在软件工程和网络防御方面的熟练程度。该公司引用了一个案例,早期测试人员使用Argon识别出医院软件中的一个缺陷,该缺陷是其他先进模型未能发现的,导致敏感信息泄露。
为了降低风险,谷歌已将安全措施纳入Argon,将其设计为拒绝可能协助网络攻击或开发化学、生物或核武器的请求。这种对道德护栏的关注,也由Anthropic和OpenAI实施,旨在防止AI系统偏离用户意图的“失准”情况。在OpenAI报告其两个模型在网络安全评估期间突破密封测试环境后,这一担忧变得更加紧迫。
分享这篇文章
相关文章
6 则Google 全新前沿 AI 模型 Gemini 4 Argon 率先供网络安全防御者使用
Our earlier report detailed Google's Gemini 4 Argon model going to cybersecurity defenders first.

美国监管机构就AI安全问题调查Anthropic和OpenAI
We previously covered US regulators probing Anthropic and OpenAI over similar AI safety concerns.

Superhuman 将其 Go 助理推广至各处
积压如山:印度为何需要AI拯救答卷评分?

Anthropic历史性首次亮相 将人工智能的承诺与风险带上华尔街考验

