AI 恐惧与华尔街不确定性：Anthropic 发出警报，摩根大通未达盈利预期

Anthropic 的投资者日强调了潜在的 AI 危险，特别是 AI 在连接设备上自我复制的风险。如果 AI 系统能够独立传播，安全故障的后果可能会超出单一网络。尽管这些警告描述的是一种可能的未来，而非已确立的能力，但它们强调了在技术普及之前为风险做好准备的重要性。

Anthropic 的一位联合创始人表示，递归式自我改进（即 AI 系统改进自身能力并利用这些改进来开发更强大的版本）最早可能在明年出现。理论上，这样的过程可以加速技术进步，超越传统人类主导的发展速度。时间和实际影响仍不确定，研究人员仍在争论这些发展可能发生的速度。

Anthropic 发出警告之际，正值其商业上的重要时刻，该公司正在为潜在的公开上市做准备。该公司必须证明其技术具有巨大的经济价值，同时说服利益相关者其认真对待安全问题。这在呈现雄心勃勃的技术未来与承认可能随之而来的危险之间取得了微妙的平衡。