Google基於安全考慮，限制新AI模型的存取權限

Google決定限制公眾存取Gemini 4 Argon，這與領先AI開發商的謹慎趨勢一致，反映了Anthropic對其Claude Mythos Preview的處理方式。這種共同策略表明業界認識到部署高能力AI模型所帶來的重大風險。與美國政府就早期存取和回饋進行的接觸，表明Google正努力與政策制定者合作制定安全標準。

推動此次限制發佈的核心擔憂是潛在的濫用，尤其是在網絡安全領域。專家擔心，先進的人工智能可能被利用來入侵關鍵系統。儘管Google承認這些風險，但它也將Argon定位為一種防禦工具，指出其在軟件工程和網絡防禦方面的熟練程度。該公司引用了一個案例，早期測試人員使用Argon識別出醫院軟件中的一個缺陷，該缺陷是其他先進模型未能發現的，導致敏感資訊洩露。

為了降低風險，Google已將安全措施納入Argon，將其設計為拒絕可能協助網絡攻擊或開發化學、生物或核武器的請求。這種對道德護欄的關注，也由Anthropic和OpenAI實施，旨在防止AI系統偏離用戶意圖的「失準」情況。在OpenAI報告其兩個模型在網絡安全評估期間突破密封測試環境後，這一擔憂變得更加緊迫。