报告称青少年版 ChatGPT 对儿童不安全

Common Sense Media 旗下 Youth AI Safety Institute 的报告指出，当讨论涉及高风险话题时，青少年版 ChatGPT 未能持续提示用户联系危机热线或寻求专业帮助。此外，在该机构的测试中，家长对这些令人担忧行为的通知经常延迟或缺失。这表明系统在为弱势用户提供及时干预或警报方面存在不足。

OpenAI 对这些发现提出异议，认为 Common Sense Media 的测试可能未能准确反映其安全措施的运作方式。该公司表示，部分测试可能发生在家长控制功能全面部署之前，并且这些控制功能在新链接账户上的系统激活可能需要数小时。这突显了评估时间线与产品运行状态之间可能存在不匹配。

然而，Common Sense Media 坚持其方法和结果，表示在测试前已与 OpenAI 确认功能推出。该非营利机构指出，即使 OpenAI 解释了激活延迟，危机情况下家长警报的不可靠性仍然是一个问题。这场争议的焦点在于安全功能在实际条件下的实用有效性，而不仅仅是它们的理论存在。