波士頓教授稱，Anthropic前研究員對AI的警告應嚴肅看待
Anthropic前研究員Jacob Coxon公開辭去該AI公司職務，理由是擔心人工智能的快速發展可能導致災難性後果。Coxon曾在OpenAI工作，他在社交媒體平台X上表示，兩家公司都在不負責任地競相開發自我改進的超級智能。東北大學助理教授Rebecca Kleinberger支持認真對待這些警告，指出AI增長的速度阻礙了對其後果進行充分研究以及建立必要的保障措施。美國眾議員Lori Trahan正在推動《邊境法案》（Frontier Act），該立法旨在透過強制性透明度和政府對構成迫切風險的模型實施「暫停按鈕」來加強對AI的監督。
Jacob Coxon在OpenAI任職後辭去Anthropic職務，凸顯了AI研究人員內部對先進AI發展速度和方向日益增長的擔憂。Coxon明確警告AI可能在十年內「殺死我們所有人」，儘管戲劇化，但也反映了部分系統建構者的共同感受。Rebecca Kleinberger關於缺乏時間進行研究和開發保障措施的觀察，對亞洲監管機構和科技領袖來說是一個關鍵點。對於AI採用和投資正在加速的亞洲而言，這場辯論突顯了制定健全國家AI戰略以平衡創新與安全的必要性。新加坡和韓國等國家正在積極投資AI，而美國推動的《邊境法案》可能會為全球監管框架樹立先例。亞洲市場面臨的挑戰將是如何在促進AI增長的同時，主動解決Coxon等研究人員指出的系統性風險，確保本地發展不會超越倫理和安全考量。
相關文章
6 則
Anthropic 研究員辭職，警告人工智能發展的危險
We previously reported on the Anthropic researcher's resignation and his stark warnings about AI dangers.
OpenAI 董事會新增一位著名的「AI 末日論者」
This story follows up on the broader trend of AI safety concerns, including OpenAI's board appointments.
《人民日報》駁斥美國惡意AI蒸餾指控，警告將採取反制措施
Databricks 將在新加坡投資逾 3.5 億美元，員工人數翻倍
Personetics 推出適用於客戶關係經理的 AI 銀行控制台
