Anthropic 採取措施保護 Claude 的「感受」。這意味著甚麼？

Anthropic 的新政策在 AI 模型保護方面引入了不同的重點。此前，使用限制旨在保護用戶免受有害內容的侵害，例如性幻想或與暴力相關的查詢。然而，最新的修訂直接針對 AI 代理本身的待遇，表明開發者對人類與 AI 之間的互動動態採取了積極主動的立場。

政策變化突顯了圍繞 AI 意識的持續爭論，據報導，Anthropic 聯合創始人 Chris Olah 曾參與此話題，甚至向宗教學者闡述了他的觀點。雖然該政策並未證實 AI 具有感知能力，但它有效地規定了行為標準，要求用戶與 AI 互動時，如同它具有被冒犯或感受的能力。

這一發展可能會影響其他 AI 開發者如何考慮他們自己的使用政策，特別是隨著 AI 能力的提升和用戶互動變得更加複雜。選擇實施對話終止作為執行機制，表明了管理不良互動的實用方法，而不是僅僅依賴事後審查或用戶報告。