波士頓教授稱，Anthropic前研究員對AI的警告應嚴肅看待
Anthropic前研究員Jacob Coxon公開辭去該AI公司職務，理由是擔心人工智能的快速發展可能導致災難性後果。Coxon曾在OpenAI工作，他在社交媒體平台X上表示，兩家公司都在不負責任地競相開發自我改進的超級智能。東北大學助理教授Rebecca Kleinberger支持認真對待這些警告，指出AI增長的速度阻礙了對其後果進行充分研究以及建立必要的保障措施。美國眾議員Lori Trahan正在推動《邊境法案》（Frontier Act），該立法旨在透過強制性透明度和政府對構成迫切風險的模型實施「暫停按鈕」來加強對AI的監督。
Jacob Coxon在OpenAI任職後辭去Anthropic職務，凸顯了AI研究人員內部對先進AI發展速度和方向日益增長的擔憂。Coxon明確警告AI可能在十年內「殺死我們所有人」，儘管戲劇化，但也反映了部分系統建構者的共同感受。Rebecca Kleinberger關於缺乏時間進行研究和開發保障措施的觀察，對亞洲監管機構和科技領袖來說是一個關鍵點。對於AI採用和投資正在加速的亞洲而言，這場辯論突顯了制定健全國家AI戰略以平衡創新與安全的必要性。新加坡和韓國等國家正在積極投資AI，而美國推動的《邊境法案》可能會為全球監管框架樹立先例。亞洲市場面臨的挑戰將是如何在促進AI增長的同時，主動解決Coxon等研究人員指出的系統性風險，確保本地發展不會超越倫理和安全考量。
分享這篇文章
相關文章
6 則
Anthropic 研究員辭職，警告人工智能發展的危險
We previously reported on the Anthropic researcher's resignation and his stark warnings about AI dangers.
OpenAI 董事會新增一位著名的「AI 末日論者」
This story follows up on the broader trend of AI safety concerns, including OpenAI's board appointments.
美國抑或中國？哈薩克發展人工智能拒絕選邊站
LUXEED 與 Aimoga 機器人：透過互聯的人車家生態系統共同建構未來出行
馬來西亞希望擺脫Waze。司機們會轉用嗎？
