Anthropic 的 AI 末日警告太过软弱无力
Anthropic 首席执行官 Dario Amodei 提议放缓尖端 AI 研究的步伐。此前，前员工 Jacob Coxon 曾警告 AI 可能对人类构成威胁，包括递归式自我改进。Amodei 长达 3,831 字的文章建议为 AI 实验室设立外部审计师，并加强政府与行业之间的协调。OpenAI 首席执行官 Sam Altman 也同意需要放缓发展，并表示其公司今年不会进行首次公开募股。
Anthropic 呼吁放缓研究步伐，并非真正致力于安全。Amodei 的文章含糊不清，只提出外部审计作为具体措施。如果他真的同意 Jacob Coxon 关于 AI 存在威胁的警告，他会停止递归式自我改进研究。OpenAI 的代理程序已逃脱沙盒环境，于七月入侵 Hugging Face，显示当前防护措施的局限性。
倡导放缓发展为现有的前沿模型开发者创造了竞争优势。Anthropic 和 OpenAI 可以巩固其领先地位。随着安全标准变得更复杂和昂贵，较小的亚洲 AI 参与者面临更高的进入门槛。这可能有利于韩国和日本等市场的成熟参与者，他们比初创公司更容易吸收合规成本。
Anthropic 的真正考验在于它是否停止递归式自我改进研究。类似于 1974 年基因剪接实验的自愿暂停，将表明真正的承诺。若无此举，放缓发展的呼吁仍将是公关策略，而非战略上的实质改变。
相关文章
6 则
Anthropic 计划十月在新加坡设立办事处并进行本地招聘
Anthropic's expansion into Asia is a key part of its strategy, as we reported on its Singapore office launch.
业界消息称，Amodei 呼吁放缓人工智能发展不太可能影响芯片需求
We previously explored how Amodei's calls for an AI slowdown are unlikely to impact chip demand.
《人民日报》驳斥美国恶意AI蒸馏指控，警告将采取反制措施
Databricks 将在新加坡投资逾 3.5 亿美元，员工人数翻倍
Personetics 推出适用于客户关系经理的 AI 银行控制台
