中国必须真正感到恐惧，人工智能放缓才能奏效

Jacob Coxon 辞职引发的广泛关注并非因为新信息。2024 年的调查显示，超过一半的人工智能研究人员已经认为人工智能可能导致人类灭绝。研究人员预计的灭绝概率中位数为 5-10%。公众和政治参与度有所转变，Barack Obama 和 Bernie Sanders 现在也开始讨论人工智能风险。人工智能监管的新阶段已经开始。

亚洲的人工智能领导者，特别是中国，现在必须权衡是否协调放缓发展。Anthropic 首席执行官 Dario Amodei 提出了一个三步计划来调整人工智能发展速度。中国的人工智能公司，如百度和阿里巴巴，面临着与全球安全标准保持一致的压力。北京现有的监管框架可以迅速适应，但放缓发展可能会失去其在人工智能领域的感知优势。

中国面临的关键考验是如何回应全球人工智能放缓的呼吁。如果北京抵制，其公司可能会加速发展，造成分歧。请留意中国监管机构在未来六个月内关于“递归自我改进”（RSI）的具体政策声明。Amodei 提及的这项能力是调整前沿发展速度的关键考量。