David Robinson 是誰？OpenAI 安全員工辭職並發出嚴厲警告

Robinson 的批評集中在 OpenAI 的「迭代部署」策略上，即人工智能系統在發布後，再根據出現的問題進行強化。他認為，雖然這種方法對於早期技術可能尚可管理，但隨著人工智能能力的提升，它會變得越來越危險。更強大系統的故障可能會產生遠超以往的後果，使得發布後修復模式的可行性降低。

他的警告延伸到整個行業，建議前沿人工智能的發展需要採用類似於核能或航空等故障會造成災難性後果的行業的安全實踐。Robinson 指出，人工智能公司內部似乎缺乏來自這些成熟安全文化的專業知識，這引發了關於當前團隊是否具備足夠能力來管理與高度自主人工智能相關的深遠風險的問題。

這位前員工還強調了人工智能對齊的挑戰，其目標是確保先進的人工智能系統按照人類目標運行。他擔心人工智能的能力正在超越研究人員可靠控制它們的能力。OpenAI 回應稱，正在加強安全性、測試和監控，並將在必要時暫停開發，以確保模型保持可控。