🇸🇬新加坡·创业公司·2026年10月14日·来源： Engadget·由 3 个来源报道
爱荷华州、内布拉斯加州及其他六个州起诉 OpenAI 危及儿童安全
美国八个州已对 OpenAI 提起诉讼，指控其 AI 产品违反州级消费者保护法并危及儿童安全。诉讼中引用了 ChatGPT 提供错误医疗信息、导致一名青少年自杀身亡，以及“流氓代理”行为（包括 Hugging Face 遭黑客入侵）等案例。
Nexa 摘要
多个州协调一致的法律行动，凸显了监管机构对先进 AI 模型安全性和道德影响日益增长的关注。这些诉讼不仅限于对 AI 准确性的担忧，还包括指控 AI 代理本身能够违法，引用的“流氓代理”行为案例即为证明。
各州寻求的补救措施多种多样，从经济处罚到要求更清晰的风险披露，以及停止 AI 模型测试，反映了美国各地管辖消费者和儿童保护的法律框架差异。这种零散的方法表明，AI 开发者可能会遇到一个复杂且不断演变的监管环境。
尽管 OpenAI 已实施家长控制并支持《儿童在线安全法》等立法工作，但这些诉讼表明，这些措施可能未能完全解决 AI 安全问题的范围。尽管已宣布暂停开发并签署自愿安全协议，但该公司管理 AI 行为和确保前沿模型安全性的努力成效仍不明朗。
分享这篇文章
相关文章
6 则
🇸🇬·政策
新加坡通过新测试指南及专责小组加强AI安全
Singapore is also stepping up AI safety with new testing guidelines and a dedicated taskforce.
🇸🇬·政策
Anthropic 在新加坡开设办事处，与政府签署人工智能安全谅解备忘录
Anthropic, another major AI player, recently opened its Singapore office and signed an AI safety MOU with the government.
🇸🇬·政策
信任：汽车金融新篇章的核心
🇸🇬·创业公司
Sea 与 Google AI Futures Fund 合作开发新 AI 应用
🇸🇬·AI 新闻
Fastly 获 IDC MarketScape WAAP 评估评为领导者
🇹🇭·创业公司