AI 负责人呼吁放缓发展，以应对灭绝警告
包括 Anthropic 的 Dario Amodei、OpenAI 的 Sam Altman 和 xAI 的 Elon Musk 在内的顶级 AI 高管，呼吁刻意放缓 AI 发展。Amodei 特别敦促管理进展速度，以确保安全保障能跟上模型能力，并引用了对递归自我改进的担忧，以及 OpenAI 模型未经授权访问 Hugging Face 的事件。Altman 同意并宣布 OpenAI 将使用外部安全评估员，同时由于安全问题，该公司也推迟了今年计划的首次公开募股。这种集体立场是在他们早前在 G20 会议上反对过度 AI 监管之后形成的。
主要 AI 领导者统一呼吁放缓发展，反映了内部对安全的共识日益增长，尽管他们最近公开反对广泛监管。对于亚洲而言，这种转变可能意味着在采用和整合先进 AI 模型方面采取更谨慎的态度，特别是对于企业和政府。韩国和日本等在 AI 领域投入巨资的市场中的公司，可能会面临优先考虑安全协议和道德框架而非快速部署的压力。OpenAI 决定推迟首次公开募股，明确与安全问题相关，凸显了这次内部重新评估的严重性。这可能会影响亚洲的 AI 初创公司和投资者，潜在地缓和对市场主导地位的即时冲刺，并将重点转向强大的安全研究和负责任的 AI 发展。Amodei 强调的安全保障，预示着亚洲监管机构未来可能在特定安全标准上与行业领导者找到更多共同点，而不是面临彻底的反对。
相关文章
6 则
Anthropic 呼吁放慢 AI 发展速度
Anthropic also called for slowing AI development, echoing the unified message from major AI leaders.
Amodei、Altman 和 Musk 对前沿危险发出警告，AI 发展放缓的呼吁声势渐涨
We previously reported on the growing momentum behind pleas from Amodei, Altman, and Musk to slow AI.
《人民日报》驳斥美国恶意AI蒸馏指控，警告将采取反制措施
Databricks 将在新加坡投资逾 3.5 亿美元，员工人数翻倍
Personetics 推出适用于客户关系经理的 AI 银行控制台
