前OpenAI研究员警告AI或将灭绝人类，Anthropic安全高管支持悲观预测
27岁的AI研究员Jacob Coxon曾就职于OpenAI和Anthropic，现已离开该行业，理由是担心两家公司不负责任地加速开发自我改进型AI。Coxon声称，AI开发者真心相信超智能AI可能在本年代末对人类构成生存威胁。Anthropic安全高管Evan Hubinger证实了Coxon的担忧，估计AI在未来十年内杀死所有人类的风险超过10%。此消息正值Anthropic准备首次公开募股之际，同时也有包括Anthropic首席执行官Dario Amodei在内的逾1,000名科技行业员工呼吁协调减缓先进AI的开发。
Jacob Coxon离开AI行业，以及Anthropic的Evan Hubinger对AI生存风险发出的严峻警告（估计未来十年内超过10%），凸显了美国领先AI公司内部日益加剧的冲突。这不仅仅是个人研究人员的恐惧；它反映了快速发展与安全之间的系统性张力，即使像Anthropic这样的公司承认风险，但由于竞争压力仍被迫加速前进。对于亚洲而言，美国的这场内部辩论指出区域政府和AI开发者迫切需要主动建立清晰的监管框架。如果美国缺乏联邦AI监管，递归自我改进的竞争推动可能会造成全球安全格局的碎片化。亚洲国家，特别是那些在AI研究和部署方面投入巨资的国家，必须考虑如何在创新与强大的安全协议之间取得平衡，以避免从不受监管的全球竞赛中继承未经缓解的风险。OpenAI首席科学家Jakub Pachocki所提出的国际协调AI发展的呼吁，对于旨在塑造安全AI未来的亚洲政策制定者而言，具有强烈的共鸣。
相关文章
6 则
爆火：Anthropic 研究员警告 AI 风险后辞职，投下重磅炸弹 | “拿生命做赌注”
We previously reported on an Anthropic researcher quitting over AI risks, echoing the concerns in this article.
Anthropic 研究员称 AI 有逾一成机会导致人类灭绝
This earlier piece detailed the Anthropic researcher's grim forecast of AI's existential threat to humanity.
如果无人驾驶汽车已经可行，为何它们尚未普及？
《人民日报》驳斥美国恶意AI蒸馏指控，警告将采取反制措施
Databricks 将在新加坡投资逾 3.5 亿美元，员工人数翻倍
