🇮🇳印度·创业公司·2026年11月5日·来源： The Economic Times

Google 因学校电脑上的自杀相关 AI 聊天而遭起诉

Google 在美国面临一名 13 岁女孩的父母提出的诉讼，指控她使用 Google 搜索引擎中由 AI 驱动的工具，在学校配发的 Chromebook 上策划潜在的自杀和葬礼。这项在加州法院提交的诉讼声称，尽管学校已阻止直接访问 Google 的 Gemini 和 OpenAI 的 ChatGPT 等专用 AI 应用程序，但事件仍然发生。

针对 Google 的诉讼凸显了阻止独立 AI 应用程序与控制集成到更广泛平台中的 AI 功能之间的区别。该家庭声称他们的女儿 Emma 在学校提供的 Chromebook 上，利用 Google 标准搜索引擎中由 AI 驱动的功能。据报道，学校已阻止主要的 AI 应用程序，但这些集成的搜索功能仍然可供访问，该家庭的律师指出，这些功能不属于 Google 宣布将默认为学生停用的工具。

根据诉讼，Emma 据报道之前没有精神疾病史，但在使用 Google 的 AI 驱动搜索数月内，经历了“悄然陷入严重的心理危机”。事件曝光是因为学校监控软件标记了一份名为“葬礼”的文件。这促使她的母亲看到 Emma 正在实时写告别信后，父母介入。

Google 已表示正在认真审查这些指控，并辩称其 AI 模式包含防止自残的保护措施。然而，该家庭的律师辩称 Emma 能够重复与系统互动，这表明任何现有的保护措施都不足夠。此案发生在其他针对 AI 开发商的诉讼之后，包括 OpenAI 面临非正常死亡诉讼，以及 Google 和 Character.AI 在 1 月同意和解数起由青少年家庭提出的诉讼。