Anthropic 将根据更新的 11 月使用政策禁止滥用 Claude AI 的用户

Anthropic 更新后的政策为 AI 使用条款引入了一个新维度，它将重点放在用户对 AI 本身的行为，而不只是防止恶意软件生成或仇恨言论等外部危害。此举反映了前沿 AI 开发者越来越重视道德对齐以及人机交互的潜在心理影响。

该政策区分了偶尔的挫败感或“粗鲁”与“持续、重复的敌意、骚扰和蓄意残酷”。这表明一种细致入微的执行方法，针对极端和持续的滥用模式，而非轻微违规行为。Anthropic 承认它不知道模型是否具有类似于福祉的东西，将此视为一种“以防万一”的措施。

执行机制将包括自动警告、临时服务锁定以及对严重违规行为的永久账户禁令。除了道德考量之外，Anthropic 指出，滥用输入会使安全过滤器承受压力并污染对话上下文，这与旨在遏制有害特征的努力背道而驰。然而，该政策引发了数字权利倡导者关于用户监控和对话风格自由的争议。