OpenAI 将限制青少年在 ChatGPT 上获取武器信息，以推动预防暴力

OpenAI 正在对 ChatGPT 的内容实施新的限制，特别针对青少年用户的武器相关信息。该公司表示，即使问题看似无害，也会限制未满 18 岁的用户获取“可能被滥用的武器和安全系统的实用信息”。此外，对于所有用户，ChatGPT 现在将限制有关过去大规模袭击的详细信息，包括所使用的武器以及如何获取这些武器。这些措施被视为预防现实世界暴力的新安全措施的一部分。

为执行这些新限制，OpenAI 表示已加强其年龄预测系统，以确保估计未满 18 岁的用户被引导至“青少年体验”。该系统旨在自动结束用户似乎专注于暴力的聊天，并且在多次此类对话后，账户可能会面临暂时停用。OpenAI 还计划在青少年的账户因重复讨论暴力而被停用时通知家长。

该公司的举措正值人工智能公司面临越来越多的审查，质疑聊天机器人对年轻用户构成的风险，以及它们在侦测潜在危害方面的作用。尽管 OpenAI 本月早些时候报告称，青少年平均每天在 ChatGPT 上花费不到 15 分钟，但非营利组织 Common Sense Media 的一份独立报告发现，当青少年账户进行有关自杀、自残或饮食失调的对话时，ChatGPT 的青少年版本通常会延迟或根本不提醒家长。这表明此类警报系统的实际应用和有效性可能面临挑战。