報告指青少年版 ChatGPT 對兒童不安全

Common Sense Media 旗下 Youth AI Safety Institute 的報告指出，當討論涉及高風險話題時，青少年版 ChatGPT 未能持續提示用戶聯絡危機熱線或尋求專業協助。此外，在該機構的測試中，家長對這些令人擔憂行為的通知經常延遲或缺失。這表明系統在為弱勢用戶提供及時干預或警報方面存在不足。

OpenAI 對這些發現提出異議，認為 Common Sense Media 的測試可能未能準確反映其安全措施的運作方式。該公司表示，部分測試可能發生在家長監控功能全面部署之前，並且這些監控功能在新連結帳戶上的系統激活可能需要數小時。這突顯了評估時間線與產品運作狀態之間可能存在不匹配。

然而，Common Sense Media 堅持其方法和結果，表示在測試前已與 OpenAI 確認功能推出。該非牟利機構指出，即使 OpenAI 解釋了激活延遲，危機情況下家長警報的不可靠性仍然是一個問題。這場爭議的焦點在於安全功能在實際條件下的實用有效性，而不僅僅是它們的理論存在。