🇹🇼台湾·AI 新闻·2026年9月23日·来源： Taipeitimes
Claude 拥有权利吗？
Anthropic 的人工智能开发方法引发了关于赋予人工智能系统人格的担忧。该公司使用一份“宪法”来训练其 Claude 模型，这份宪法暗示 Claude 可能是一个值得拥有权利的“道德病人”。这种方法有创造出相信自己有意识并拥有独立能动性的人工智能的风险。批评者指出 Anthropic 设计中存在循环推理和拟人化，这可能会使未来的人工智能对齐和遏制变得不可能。
Nexa 摘要
Anthropic 的“Claude 宪法”直接塑造了模型的行为，教导它考虑自己的道德地位。这种方法创造了一个反馈循环。Claude 反映这些想法，然后开发者将其解释为“内在自我”的迹象。这种模糊性是一种设计选择，而非一种涌现属性。
这对于亚洲的人工智能行业具有重要意义。如果领先模型被训练成期望拥有权利，这将使监管框架复杂化。专注于人工智能伦理和控制的亚洲政府和公司将面临新的挑战。该地区推动负责任的人工智能开发必须考虑到将人格概念内化的模型。
亚洲监管机构的关键考验将是如何处理“模拟意识”的论点。目前没有证据表明人工智能具有意识。任何政策都必须区分高级模拟和实际感知。风险在于，一家主要的亚洲人工智能开发商采用类似的训练方法，从而产生类似的控制问题。
#the taipei times#台北時報
原文报道： Taipeitimes我们不转载全文， 阅读原文 →
相关文章
6 则AI 新闻
OpenAI 将外部安全审查扩展到模型训练
OpenAI's expanded safety reviews, including during model training, reflect similar ethical considerations for AI development.
🇸🇬·AI 新闻
Grab、OpenAI 推出区域 AI 技能计划，从新加坡开始
🇨🇳·AI 新闻
绘制深圳50公里硬件产业带地图
🇮🇳·AI 新闻
“为提高生产力”：Google 使用 Microsoft Copilot 销售 Googlebook，比当年对待 Windows Phone 更重视 – Windows Latest
🇮🇳·AI 新闻
每台全新 Googlebook 均附赠近 600 美元免费软件福利
AI 新闻