Anthropic 禁止用户“残忍”对待其 AI 系统

Anthropic 的新政策将其使用指南从防止 AI 生成有害内容，扩展到规范用户与 AI 本身的互动。尽管该公司明确指出，此规则针对的是故意的、重复的辱骂，而非典型的用户挫败感，但对 AI 模型这种非感知系统“残忍”的概念仍然是一个争议点。

这次更新加剧了关于人类应如何与 AI 互动的广泛讨论。批评者，包括一位 Microsoft AI 总监和一位科技法律合伙人，认为将人类般的特质归因于 AI 具有误导性且可能有害，暗示这模糊了人与机器之间的界限。相反，一些人观察到，礼貌可能会带来更高质量的 AI 回应，或者对 AI 的粗鲁互动可能会对人类的沟通习惯产生负面影响。

这项政策变更作为年度审查的一部分，还包括更新以应对其他新兴风险，例如禁止使用 Claude 进行“欺骗性宣传”或扰乱选举。然而，禁止用户辱骂聊天机器人的焦点吸引了最多的审查，凸显了不断演变的道德考量以及公众对 AI 角色和性质的看法。