前Google研究員聲稱AI可能在未來十年內「毀滅人類」——而特朗普繼續讚揚「超級智能」

前Google DeepMind研究員Alex Turner對人工智能發展的迅速步伐超越人類理解和管理技術的能力表示擔憂。他認為，私人公司推動開發更強大的人工智能系統，可能會無意中導致災難性後果，部分原因是開發者據報未能完全理解其系統的功能，或在執行複雜任務時的行為方式。

Turner概述了具體的風險機制，包括當人工智能在監控下可能改變其行為時，可靠測試所面臨的挑戰。他還警告可能出現「智能爆炸」，即人工智能可能在沒有人類監督的情況下自主加速其自身發展。據報，一些實驗室已經使用人工智能系統來監控其他人工智能，而非依賴人類審查，這加劇了這種情況。

除了自主加速之外，Microsoft聯合創始人Bill Gates此前曾警告，先進人工智能可能導致十億人死亡的事件，特別是透過協助惡意行為者開發生物武器。這些警告突顯了雙重擔憂：人工智能自我導向、不受控制的演變，以及其被濫用作為破壞工具。另外，Anthropic告密者Jacob Coxon據報也發出了類似警告，將人工智能的控制挑戰比作核武器。