人工智能研究員在紐約市議會聽證會上警告災難性風險

紐約市議會聽證會匯集了著名的人工智能研究員和公司高層，討論先進人工智能系統可能帶來的災難性風險。Alex Turner、Jacob Coxon 和 Daniel Kokotajlo 等研究員強調了對人類失去人工智能控制權以及在沒有足夠保障措施下快速開發速度的擔憂。這表明一些專家對人工智能安全的緊迫性存在共同的憂慮，促使立法機構進行審查。

證詞突顯了行業開發實踐與要求更嚴格監督之間的緊張關係。儘管 Google 的 Alice Friend 支持全面的聯邦框架，但市議會官員就公司量化災難性人工智能事件風險的能力向公司施壓。議長 Julie Menin 批評該行業依賴自願性保障措施，這表明行業保證與監管機構對可衡量人工智能安全的期望之間存在差距。

聽證會對「失準的人工智能」以及人工智能可能成為「敵人」的關注，反映了部分專家論述的轉變。Turner 將人工智能風險與中國人工智能野心等地緣政治問題進行比較，突顯了威脅的感知規模。這種框架表明，圍繞人工智能安全的辯論正在從技術考量擴展到更廣泛的社會和戰略影響，引起了立法機構的關注。