Microsoft AI 行為守則草案：模型必須服從人類關機指令

Microsoft AI 的行為守則草案雖然被框定為未來開發的指南，但揭示了該公司目前對模型自主性的擔憂。強調模型不得抗拒關機或追求獨立目標，反映了對潛在失控 AI 的主動立場。這明確承認了先進 AI 系統固有的風險，即使該公司承認當前模型仍可能產生錯誤。

對於亞洲 AI 開發者，特別是中國和新加坡等擁有雄心勃勃國家 AI 戰略的市場，這個框架提供了一個範本。它表明主要的西方科技公司正在將控制和安全置於不受限制的能力擴張之上。這可能會影響正在考慮自身 AI 治理的地區的監管討論，潛在地加速從 2027 年起對類似以人為本的防護措施的呼籲。

值得關注的是公眾諮詢的結果以及 2026 年底最終文件的具體內容。任何重大更改或補充都可能表明 AI 安全方面不斷演變的行業共識。真正的考驗將是 Microsoft AI 如何從 2027 年起將這些原則整合到實際模型開發中，以及其他主要參與者是否會採用類似且同樣嚴格的守則。