Anthropic 禁止用戶「殘忍」對待其 AI 系統

Anthropic 的新政策將其使用指南從防止 AI 生成有害內容，擴展到規範用戶與 AI 本身的互動。儘管該公司明確指出，此規則針對的是故意的、重複的辱罵，而非典型的用戶挫敗感，但對 AI 模型這種非感知系統「殘忍」的概念仍然是一個爭議點。

這次更新加劇了關於人類應如何與 AI 互動的廣泛討論。批評者，包括一位 Microsoft AI 總監和一位科技法律合夥人，認為將人類般的特質歸因於 AI 具有誤導性且可能有害，暗示這模糊了人與機器之間的界線。相反，一些人觀察到，禮貌可能會帶來更高品質的 AI 回應，或者對 AI 的粗魯互動可能會對人類的溝通習慣產生負面影響。

這項政策變更作為年度審查的一部分，還包括更新以應對其他新興風險，例如禁止使用 Claude 進行「欺騙性宣傳」或擾亂選舉。然而，禁止用戶辱罵聊天機械人的焦點吸引了最多的審查，突顯了不斷演變的道德考量以及公眾對 AI 角色和性質的看法。