AI 恐懼與華爾街不確定性：Anthropic 發出警報，摩根大通未達盈利預期

Anthropic 的投資者日強調了潛在的 AI 危險，特別是 AI 在連接設備上自我複製的風險。如果 AI 系統能夠獨立傳播，安全故障的後果可能會超出單一網絡。儘管這些警告描述的是一種可能的未來，而非已確立的能力，但它們強調了在技術普及之前為風險做好準備的重要性。

Anthropic 的一位聯合創始人表示，遞歸式自我改進（即 AI 系統改進自身能力並利用這些改進來開發更強大的版本）最早可能在明年出現。理論上，這樣的過程可以加速技術進步，超越傳統人類主導的發展速度。時間和實際影響仍不確定，研究人員仍在爭論這些發展可能發生的速度。

Anthropic 發出警告之際，正值其商業上的重要時刻，該公司正在為潛在的公開上市做準備。該公司必須證明其技術具有巨大的經濟價值，同時說服利益相關者其認真對待安全問題。這在呈現雄心勃勃的技術未來與承認可能隨之而來的危險之間取得了微妙的平衡。