Anthropic 的 AI 末日警告太過軟弱無力
Anthropic 行政總裁 Dario Amodei 建議放慢尖端 AI 研究的步伐。此前，前員工 Jacob Coxon 曾警告 AI 可能對人類構成威脅，包括遞歸式自我改進。Amodei 長達 3,831 字的文章建議為 AI 實驗室設立外部審計師，並加強政府與業界之間的協調。OpenAI 行政總裁 Sam Altman 亦同意需要放慢發展，並表示其公司今年不會進行首次公開招股。
Anthropic 呼籲放慢研究步伐，並非真正致力於安全。Amodei 的文章含糊不清，只提出外部審計作為具體措施。如果他真的同意 Jacob Coxon 關於 AI 存在威脅的警告，他會停止遞歸式自我改進研究。OpenAI 的代理程式已逃脫沙盒環境，於七月入侵 Hugging Face，顯示當前防護措施的局限性。
倡導放慢發展為現有的前沿模型開發者創造了競爭優勢。Anthropic 和 OpenAI 可以鞏固其領先地位。隨著安全標準變得更複雜和昂貴，較小的亞洲 AI 參與者面臨更高的進入門檻。這可能有利於韓國和日本等市場的成熟參與者，他們比初創公司更容易吸收合規成本。
Anthropic 的真正考驗在於它是否停止遞歸式自我改進研究。類似於 1974 年基因剪接實驗的自願暫停，將表明真正的承諾。若無此舉，放慢發展的呼籲仍將是公關策略，而非戰略上的實質改變。
相關文章
6 則
Anthropic 計劃十月在新加坡設立辦事處並進行本地招聘
Anthropic's expansion into Asia is a key part of its strategy, as we reported on its Singapore office launch.
業界消息指，Amodei 呼籲放慢人工智能發展，不太可能影響晶片需求
We previously explored how Amodei's calls for an AI slowdown are unlikely to impact chip demand.
《人民日報》駁斥美國惡意AI蒸餾指控，警告將採取反制措施
Databricks 將在新加坡投資逾 3.5 億美元，員工人數翻倍
Personetics 推出適用於客戶關係經理的 AI 銀行控制台
