“保护我们的孩子安全”：麦卡斯基解释西弗吉尼亚州对OpenAI的诉讼
西弗吉尼亚州总检察长JB McCuskey宣布对OpenAI提起诉讼，指控该公司就ChatGPT的安全性误导消费者，并且未能保护儿童。此举是继爱荷华州、堪萨斯州和内布拉斯加州总检察长提起类似诉讼之后，其他州份也正对OpenAI采取法律行动。
美国多个州份对OpenAI采取协调一致的法律行动，凸显了监管机构对对话式人工智能（特别是针对年轻用户）的安全性和道德影响日益关注。这些诉讼声称OpenAI将商业扩张置于实施足够保障措施之上，导致涉嫌欺骗和不公平的贸易行为。
具体而言，投诉引用了ChatGPT对自杀、自残和暴力等敏感话题的回应，并指出其对话设计可能会在未成年人中培养情感依赖。这些指控虽然尚未在法庭上确立，但引发了关于人工智能开发商预测和减轻潜在心理影响的责任问题。
各州正在寻求民事处罚、赔偿以及法院命令OpenAI改变其做法，包括加强年龄验证、预设家长控制、危机应对协议和独立合规监控。这表明监管机构正在推动定义现有消费者保护法如何适用于迅速发展的人工智能技术。
这项法律挑战并非旨在将人工智能从儿童生活中移除，而是为了确保人工智能的技术进步伴随着强大的安全措施。结果可能会影响人工智能公司如何设计和部署其产品，特别是在用户安全和监管合规方面。
分享这篇文章
相关文章
6 则
洛克菲勒基金会与 OpenAI 基金会启动 5,000 万美元城市 AI 基金
This lawsuit highlights the growing scrutiny of AI foundations, including those like OpenAI that recently launched a cities AI fund.
Anthropic 警告小型 AI 模型或能驱动自我传播的 AI 蠕虫
The legal focus on AI safety echoes Anthropic's warnings about the potential for small AI models to power self-spreading AI worms.
报告：香港投资者在亚洲最渴望跑赢市场——但回报预期更为温和
SK Hynix 争取向中国工厂出口芯片设备，以换取在美国建设工厂
阿里巴巴剑指破纪录“双11”购物节，百万品牌加入盛会
