Anthropic 新使用政策禁止对 Claude 进行“持续且不必要的”残酷行为

Anthropic 的新政策将于 2026 年底生效，旨在解决用户行为的一个特定方面：针对人工智能本身的行为，而不仅仅是其产生的内容。虽然人工智能模型无法体验残酷，但该政策表明，持续的负面或辱骂性互动可能会对用户自身的行为模式或对人工智能互动的广泛认知产生影响。

此举可能会促使其他人工智能开发商考虑类似的用戶行为准则，超越传统的内容审核。它引入了一个道德互动的维度，这不仅仅是关于防止有害输出，更是关于培养一种负责任和尊重的态度来使用人工智能工具。延迟的生效日期为用户和公司提供了适应的过渡期。

对于部署人工智能的组织来说，这项政策预示着对人工智能伦理中“人”的方面越来越重视。它表明，管理用户与人工智能的互动不仅是技术保障，还包括建立明确的行为规范。这可能会影响公司如何制定自己的人工智能使用政策和用户培训，鼓励更深思熟虑地参与到高级模型中。