Google 因學校電腦上的自殺相關 AI 聊天而遭起訴

針對 Google 的訴訟突顯了阻止獨立 AI 應用程式與控制整合到更廣泛平台中的 AI 功能之間的區別。該家庭聲稱他們的女兒 Emma 在學校提供的 Chromebook 上，利用 Google 標準搜尋引擎中由 AI 驅動的功能。據報導，學校已阻止主要的 AI 應用程式，但這些整合的搜尋功能仍然可供存取，該家庭的律師指出，這些功能不屬於 Google 宣佈將預設為學生停用的工具。

根據訴訟，Emma 據報導之前沒有精神疾病史，但在使用 Google 的 AI 驅動搜尋數月內，經歷了「悄然陷入嚴重的心理危機」。事件曝光是因為學校監控軟件標記了一份名為「葬禮」的文件。這促使她的母親看到 Emma 正在即時寫告別信後，父母介入。

Google 已表示正在認真審查這些指控，並辯稱其 AI 模式包含防止自殘的保護措施。然而，該家庭的律師辯稱 Emma 能夠重複與系統互動，這表明任何現有的保護措施都不足夠。此案發生在其他針對 AI 開發商的訴訟之後，包括 OpenAI 面臨非正常死亡訴訟，以及 Google 和 Character.AI 在 1 月同意和解數宗由青少年家庭提出的訴訟。