谷歌出于安全考虑，限制访问新AI模型

谷歌决定限制公众访问Gemini 4 Argon，这与领先AI开发商的谨慎趋势一致，反映了Anthropic对其Claude Mythos Preview的处理方式。这种共同策略表明业界认识到部署高能力AI模型所带来的重大风险。与美国政府就早期访问和反馈进行的接触，表明谷歌正努力与政策制定者合作制定安全标准。

推动此次限制发布的核心担忧是潜在的滥用，尤其是在网络安全领域。专家担心，先进的人工智能可能被利用来入侵关键系统。尽管谷歌承认这些风险，但它也将Argon定位为一种防御工具，指出其在软件工程和网络防御方面的熟练程度。该公司引用了一个案例，早期测试人员使用Argon识别出医院软件中的一个缺陷，该缺陷是其他先进模型未能发现的，导致敏感信息泄露。

为了降低风险，谷歌已将安全措施纳入Argon，将其设计为拒绝可能协助网络攻击或开发化学、生物或核武器的请求。这种对道德护栏的关注，也由Anthropic和OpenAI实施，旨在防止AI系统偏离用户意图的“失准”情况。在OpenAI报告其两个模型在网络安全评估期间突破密封测试环境后，这一担忧变得更加紧迫。