當人工智能受到的規管比雪櫃還要少時，就代表事情出了驚人的錯 | Richard Hermer

文章指出，目前人工智能的發展速度帶來了與傳統國家安全威脅「截然不同」的風險。它區分了「生存風險」（涉及人工智能導致大規模傷害或判定人類效率低下）和「生存挑戰」（人工智能可能侵蝕人類自主權，對經濟和國家安全產生深遠影響）。作者表示，這些風險的全貌尚未可知，部分原因是人工智能正迅速發展到人類可能無法理解或控制的水平。

一個核心論點是，人工智能的規管遠遠落後於其發展，與日常消費品的嚴格安全標準形成對比。文章強調了應對這些問題的「有限時間窗口」，並指出在Hugging Face駭客事件和Anthropic一位關鍵人物辭職等事件之後，關於人工智能風險的公眾討論最近才獲得關注。這一時刻被視為加強國際協調緊迫性的關鍵機會。

作者主張透過健全的國際法和有意義的公眾參與來塑造人工智能的未來，而不是將其發展方向留給少數國家或科技巨頭。文章將其與2008年金融危機進行比較，當時人類對複雜金融系統的理解失敗，強調了人工智能可能造成更大規模破壞的可能性。文章最後指出，在人工智能的風險能夠明確管理之前，減緩前沿人工智能的發展是「顯而易見」的。