Anthropic 新使用政策禁止對 Claude 進行「持續且不必要的」殘酷行為

Anthropic 的新政策將於 2026 年底生效，旨在解決用戶行為的一個特定方面：針對人工智能本身的行為，而不僅僅是其產生的內容。雖然人工智能模型無法體驗殘酷，但該政策表明，持續的負面或辱罵性互動可能會對用戶自身的行為模式或對人工智能互動的廣泛認知產生影響。

此舉可能會促使其他人工智能開發商考慮類似的用戶行為準則，超越傳統的內容審核。它引入了一個道德互動的維度，這不僅僅是關於防止有害輸出，更是關於培養一種負責任和尊重的態度來使用人工智能工具。延遲的生效日期為用戶和公司提供了適應的過渡期。

對於部署人工智能的組織來說，這項政策預示著對人工智能倫理中「人」的方面越來越重視。它表明，管理用戶與人工智能的互動不僅僅是技術保障，還包括建立明確的行為規範。這可能會影響公司如何制定自己的人工智能使用政策和用戶培訓，鼓勵更深思熟慮地參與到高級模型中。