軟銀孫正義罕有地就AI安全發出警示
軟銀集團主席孫正義是人工智能領域的傑出投資者,他罕有地就AI安全發出警告,指出落入壞人手中的超級智能可能會變得「超級危險」。他在京都的一個活動上發言時,強調國際合作對於管理強大AI模型所帶來的日益增長威脅的必要性。
孫正義罕有的警示反映了對AI安全日益增長的關注,尤其是在AI模型近期發生安全漏洞之後。作為AI的長期倡導者和重要投資者,他向OpenAI投入了近650億美元,他公開的擔憂凸顯了行業領導層情緒的轉變。這種觀點表明,先進AI的潛在風險正獲得更廣泛的認可,即使是在那些對其開發和部署投入最多的人士中也是如此。
孫正義呼籲各國合作控制強大AI模型帶來的威脅,這強調了他認為AI安全是一個需要集體行動的全球性問題。他表示,人類不再有「人類與人類鬥爭的奢侈」,將AI視為一個應該團結各國的共同威脅。白宮科技政策顧問Michael Kratsios的出席也呼應了這一觀點,他宣佈了一項由17個國家參與的倡議,旨在利用AI加速科學研究,這表明協調一致的國際方法已經在形成中。
儘管他發出了警示,孫正義重申了他對AI經濟影響的長期樂觀預測,預計到2040年,AI和具備學習能力的機器將佔全球GDP的至少20%,相當於46萬億美元。他還描述了AI能力快速、指數級的增長,指出其從瀏覽和編碼到明年開始與物理世界互動的進程。這種同時承認巨大潛力與重大風險的態度,構成了當前AI開發所面臨的挑戰。
分享這篇文章
相關文章
6 則
David Robinson 是誰?OpenAI 安全員工辭職並發出嚴厲警告
Masayoshi Son's caution echoes recent warnings from OpenAI safety employees, highlighting growing industry concern.

The Sequence Radar - 第 944 期 — 上週 AI 回顧:OpenAI 串聯各點、Gemini 升級、代理程式變現
This weekly AI roundup covers OpenAI's developments and other industry shifts that influence safety discussions.

FOMO Pay 夥拍 Sumsub 支援跨市場合規

Dario Amodei 的美國 AI 帝國主義

