Anthropic 研究员称 AI 有逾一成机会导致人类灭绝
Anthropic 研究员 Jared Kaplan 表示，人工智能（AI）有超过一成的机会导致人类灭绝。此前，另一位 Anthropic 同事 Daniel Ziegler 因对 AI 安全有类似担忧而辞职。Kaplan 的言论凸显了领先 AI 开发公司内部对先进人工智能潜在灾难性风险日益增长的忧虑。争论的焦点在于 AI 能力的快速发展与安全协议和道德准则较慢的进度。Anthropic 作为 AI 领域的主要参与者，其内部的异议强调了解决长期 AI 安全问题的紧迫性。该公司以其对负责任 AI 开发的关注而闻名，包括其“宪法式 AI”（Constitutional AI）方法。
Anthropic 内部关于 AI 存在风险的争论，对亚洲蓬勃发展的 AI 行业来说是一个重要的发展。尽管研究员 Jared Kaplan 预测的一成灭绝风险可能看似抽象，但它指出了领先开发者之间切实的担忧。这并非关于世界末日情景，而是关于新加坡、韩国和日本等积极推动 AI 整合的市场中，AI 治理和监管的实际影响。我们的观点是，主要 AI 实验室的此类内部讨论将加速对更严格 AI 安全框架的呼吁。亚洲各国政府和科技公司已在 AI 研究和部署方面投入巨资，将面临更大的压力来展示强大的安全措施。重点应从单纯采用 AI 转向确保其受控和道德的发展，特别是当本地初创公司开始在 Anthropic 等公司的基础模型上进行构建时。这很可能转化为对进入亚洲市场的 AI 产品更严格的合规要求。
相关文章
6 则
前OpenAI研究员警告AI或将灭绝人类，Anthropic安全高管支持悲观预测
Our earlier report highlighted an ex-OpenAI researcher's similar warnings, backed by an Anthropic safety executive.
爆火：Anthropic 研究员警告 AI 风险后辞职，投下重磅炸弹 | “拿生命做赌注”
We previously covered the viral story of an Anthropic researcher quitting over grave AI risk warnings.
《人民日报》驳斥美国恶意AI蒸馏指控，警告将采取反制措施
Databricks 将在新加坡投资逾 3.5 亿美元，员工人数翻倍
Personetics 推出适用于客户关系经理的 AI 银行控制台
