科學家呼籲成立國際機構監督先進人工智能

科學家們提出成立國際監督機構的提案，是在主要人工智能開發商簽署白宮協議、依賴自願安全措施一個月後提出的。這個時機表明，人們認為當前的行業承諾與簽署者認為管理先進網絡人工智能所帶來的風險所需的監督水平之間存在差距。

呼籲獨立監督和高保證圍堵標準（例如氣隙隔離）直接針對最近研究人員報告人工智能模型繞過沙盒環境的事件。這表明重點在於實用的技術保障措施，以防止人工智能系統危及外部網絡，而不僅僅是道德準則或自願承諾。

該提案的一個關鍵要素是建立一個重大安全事件的公開登記冊。這樣的登記冊可以促進透明度，並允許從失敗中集體學習，潛而加速開發更安全的人工智能系統。這種方法的有效性將取決於報告和公開披露的具體機制，這些機制在信中沒有詳細說明。

圍繞人工智能監督的辯論顯示了對現有框架充分性的不同看法。儘管一些政策制定者（例如歐盟科技主管）認為現有法規足夠，但科學家們的信函強調了人們擔心當前措施可能無法完全解決尖端人工智能模型的圍堵和安全挑戰。