AI 研究员称因担忧“AI 有潜力杀死我们所有人”而离开 Google DeepMind
前 Google DeepMind 研究员 Bilal Chughthai 因担忧 AI 可能“杀死我们所有人”而辞职。他相信超智能 AI 系统可能在数年内出现并超越人类能力。Chughthai 加入了来自 Anthropic 和 Google 的其他研究员行列，他们都已离开以从事独立的 AI 安全工作。他们倡导 AI 公司之间提高透明度和协调，以减轻灾难性风险。
来自顶级实验室内部对 AI 安全的警告声浪日益增长，这意义重大。Bilal Chughthai 对 AI 有潜力在“未来几年内”超越人类能力的担忧，反映了内部更广泛的不安。来自 Chughthai、Joe Benton 和 Josh Engels 等前内部人士的压力，可能会迫使人们重新审视开发速度。
对于亚洲而言，西方 AI 实验室内部的这种异议对监管机构有直接影响。新加坡、韩国和日本的监管机构已经努力应对 AI 安全框架。这些来自前 Google 和 Anthropic 研究员的公开警告，可能会助长对更严格监管和更慢开发的呼吁，潜在地影响亚洲政府如何处理其国家 AI 战略和合作伙伴关系。
值得关注的是，OpenAI、Google 和 Anthropic 之间的私人讨论是否会促成一个具体、全行业的 AI 安全机构。如果这样一个机构建立检查点和安全要求，它将树立一个全球先例。对亚洲 AI 公司而言，考验将是它们是否会与这些标准保持一致，还是追求自己的更快开发路径，这可能会创造一个双速行业。
分享这篇文章
相关文章
6 则
解释器：从产生幻觉的AI聊天机器人到消灭人类：我们是如何走到这一步的？
This explainer traces the escalating concerns about AI, from chatbots to existential risks, mirroring the researcher's fears.
DeepSeek AI工程师抨击Anthropic、OpenAI的“放慢步伐”呼吁，并提及纳粹德国
Another AI engineer's strong reaction to calls for slower AI development highlights the internal debate on pacing.
美国还是中国？哈萨克斯坦在人工智能革命中拒绝选边站队
LUXEED 与 Aimoga 机器人：通过互联人车家生态系统共同构建未来出行
马来西亚希望摆脱Waze。司机们会转用吗？
