Microsoft AI 行为准则草案：模型必须服从人类关机请求

Microsoft AI 的行为准则草案虽然被框定为未来开发的指南，但揭示了该公司目前对模型自主性的担忧。强调模型不得抗拒关机或追求独立目标，反映了对潜在失控 AI 的主动立场。这明确承认了先进 AI 系统固有的风险，即使该公司承认当前模型仍可能产生错误。

对于亚洲 AI 开发者，特别是中国和新加坡等拥有雄心勃勃国家 AI 战略的市场，这个框架提供了一个模板。它表明主要的西方科技公司正在将控制和安全置于不受限制的能力扩张之上。这可能会影响正在考虑自身 AI 治理的地区的监管讨论，潜在地加速从 2027 年起对类似以人为本的防护措施的呼吁。

值得关注的是公众咨询的结果以及 2026 年底最终文件的具体内容。任何重大更改或补充都可能表明 AI 安全方面不断演变的行业共识。真正的考验将是 Microsoft AI 如何从 2027 年起将这些原则整合到实际模型开发中，以及其他主要参与者是否会采用类似且同样严格的准则。