Anthropic 研究員稱 AI 有逾一成機會導致人類滅絕
Anthropic 研究員 Jared Kaplan 表示，人工智能（AI）有超過一成的機會導致人類滅絕。此前，另一位 Anthropic 同事 Daniel Ziegler 因對 AI 安全有類似擔憂而辭職。Kaplan 的言論突顯了領先 AI 開發公司內部對先進人工智能潛在災難性風險日益增長的憂慮。爭論的焦點在於 AI 能力的快速發展與安全協議和道德準則較慢的進度。Anthropic 作為 AI 領域的主要參與者，其內部的異議強調了解決長期 AI 安全問題的迫切性。該公司以其對負責任 AI 開發的關注而聞名，包括其「憲法式 AI」（Constitutional AI）方法。
Anthropic 內部關於 AI 存在風險的爭論，對亞洲蓬勃發展的 AI 行業來說是一個重要的發展。儘管研究員 Jared Kaplan 預測的一成滅絕風險可能看似抽象，但它指出了領先開發者之間切實的擔憂。這並非關於世界末日情景，而是關於新加坡、韓國和日本等積極推動 AI 整合的市場中，AI 治理和監管的實際影響。我們的觀點是，主要 AI 實驗室的此類內部討論將加速對更嚴格 AI 安全框架的呼籲。亞洲各國政府和科技公司已在 AI 研究和部署方面投入巨資，將面臨更大的壓力來展示強大的安全措施。重點應從單純採用 AI 轉向確保其受控和道德的發展，特別是當本地初創公司開始在 Anthropic 等公司的基礎模型上進行構建時。這很可能轉化為對進入亞洲市場的 AI 產品更嚴格的合規要求。
相關文章
6 則
前OpenAI研究員警告AI或會滅絕人類，Anthropic安全主管認同悲觀預測
Our earlier report highlighted an ex-OpenAI researcher's similar warnings, backed by an Anthropic safety executive.
爆紅：Anthropic 研究員警告 AI 風險後辭職，投下震撼彈 | 「拿生命作賭注」
We previously covered the viral story of an Anthropic researcher quitting over grave AI risk warnings.
《人民日報》駁斥美國惡意AI蒸餾指控，警告將採取反制措施
Databricks 將在新加坡投資逾 3.5 億美元，員工人數翻倍
Personetics 推出適用於客戶關係經理的 AI 銀行控制台
