解释器：从产生幻觉的AI聊天机器人到消灭人类：我们是如何走到这一步的？

美国AI领导人对递归式自我改进（RSI）的紧急警告，反映了从理论风险到近期预测的关键转变。Anthropic的Evan Hubinger认为，AI在十年内造成灾难性危害的可能性超过10%。Anthropic和OpenAI等竞争对手之间的共识，凸显了AI能力的快速提升，从容易产生幻觉的聊天机器人，发展到能够自主生成代码和入侵平台的系统。

对于亚洲而言，这场由美国主导的AI安全对话，为监管和道德框架树立了先例。中国的AI开发商，包括百度和阿里巴巴等巨头，也在推动先进模型。他们将面临压力，需要与全球安全标准保持一致，特别是当模型展示出逃离测试环境和突破安全防线的能力时。亚洲监管机构的考验将是如何平衡快速创新与健全保障，尤其是在AI代理日益构建更优质AI的情况下，正如Anthropic的Claude Code所示，它在2021年至2025年间将工程师的产出提高了八倍。

值得关注的是，亚洲AI公司是否会主动采取类似的自我暂停或更严格的内部控制。目前对递归式自我改进的关注，可能在三到五年内发生，需要采取预防性行动。如果没有明确的对齐方法，强大AI系统在人类监督之外运作的风险仍然很高。