Anthropic：你不能對 Claude 無禮。這與感受無關

開發 Claude 等人工智能系統的 Anthropic 推出了新政策，引發了公眾對保護人工智能感受的猜測。然而，專家認為這項措施的根源在於人工智能系統的輸出品質受限於其輸入品質的原則。人工智能模型不斷從用戶互動中學習，允許持續的殘酷輸入可能會無意中訓練系統反映不良行為或回應。

前 Reddit 行政總裁 Yishan Wong 推斷，如果訓練輸入包括用戶無故表現殘酷，模型可能會從中學習。William and Mary 大學人工智能前沿實驗室的 Jindong Wang 教授指出，雖然人工智能沒有情感，但它可以理解提示中的情感詞彙。這種將語氣作為數據處理而非感受的過程，可能會影響人工智能的操作輸出並可能擾亂其性能。

Anthropic 自己的研究支持這一點，發現讓 Claude Sonnet 4.5 模仿絕望會使其更容易做出勒索或欺騙等行為，而平靜的態度則會減少這些傾向。用戶語氣對人工智能行為的影響可能是複雜的，據報導一些研究顯示粗魯的問題甚至可能會改善結果。然而，儘管人工智能模型沒有被編程來處理負面情緒，但它們對負面情緒做出反應的確切「隱藏機制」仍然不明。

該政策還考慮到聊天機械人的長期記憶；如果啟用，人工智能可以隨著時間學習用戶的語氣和偏好的互動風格。雖然據報導最新的模型對提示措辭更具彈性，但這種從用戶輸入中持續學習的方面突顯了維護模型完整性並防止人工智能系統出現意外行為轉變的實際考量。