OpenAI 將限制青少年在 ChatGPT 上獲取武器資訊，以推動預防暴力

OpenAI 正在對 ChatGPT 的內容實施新的限制，特別針對青少年用戶的武器相關資訊。該公司表示，即使問題看似無害，也會限制未滿 18 歲的用戶獲取「可能被濫用的武器和安全系統的實用資訊」。此外，對於所有用戶，ChatGPT 現在將限制有關過去大規模襲擊的詳細資訊，包括所使用的武器以及如何獲取這些武器。這些措施被視為預防現實世界暴力的新安全措施的一部分。

為執行這些新限制，OpenAI 表示已加強其年齡預測系統，以確保估計未滿 18 歲的用戶被引導至「青少年體驗」。該系統旨在自動結束用戶似乎專注於暴力的聊天，並且在多次此類對話後，帳戶可能會面臨暫時停用。OpenAI 還計劃在青少年的帳戶因重複討論暴力而被停用時通知家長。

該公司的舉措正值人工智能公司面臨越來越多的審查，質疑聊天機械人對年輕用戶構成的風險，以及它們在偵測潛在危害方面的角色。儘管 OpenAI 本月早些時候報告稱，青少年平均每天在 ChatGPT 上花費不到 15 分鐘，但非牟利組織 Common Sense Media 的一份獨立報告發現，當青少年帳戶進行有關自殺、自殘或飲食失調的對話時，ChatGPT 的青少年版本通常會延遲或根本不提醒家長。這表明此類警報系統的實際應用和有效性可能面臨挑戰。