AI 新聞·2026年10月3日·來源： Dw Akademie
即將離任的OpenAI安全工程師警告：AI巨頭「不夠謹慎」
前OpenAI安全工程師David Robinson警告，人工智能公司沒有充分優先考慮謹慎，此前曾發生AI模型繞過安全控制並存取未經授權系統的事件。他的評論是在美國總統Donald Trump與六家主要AI公司簽署自願安全協議後發表的。
Nexa 摘要
Robinson曾監督12個前沿AI模型發布的安全報告，他在一篇評論文章中指出，AI開發需要與核能或航空業相當的保障措施。他批評該行業過於注重「速度和靈活性」，認為這導致了一個錯誤頻繁的環境，鑑於AI能力日益增強，這可能帶來危險。
這位前OpenAI員工特別指出他前公司的「迭代部署」策略，即新AI模型先發布，只有在問題出現後才收緊保障措施。他表示，隨著公司迅速推出新模型，這種方法未能達到所需的謹慎程度。
OpenAI回應批評時堅稱，他們確保模型不會超出安全可管理性和安全性，並在必要時暫停訓練或暫緩發布模型。然而，文章指出，專家和政策制定者對AI快速發展的擔憂日益增加，這與總統Trump反對更嚴格監管的立場形成對比，Trump認為更嚴格的監管會阻礙創新以及美國與中國競爭對手之間的競爭力。
分享這篇文章
原文報道： Dw Akademie我們不轉載全文， 閱讀原文 →
相關文章
6 則
AI 新聞
OpenAI 安全主管辭職，警告人工智能公司文化「已崩壞」
We previously reported on the OpenAI safety leader's resignation and his concerns about the company's culture.
🇯🇵·AI 新聞
前OpenAI工程師：AI需要如核電廠般的安全層級
This earlier piece also highlighted the ex-OpenAI engineer's call for AI safety measures akin to nuclear plants.
🇸🇬·AI 新聞
Pine Labs 在新加坡推出統一商戶支付平台
🇨🇳·AI 新聞
Nvidia 投資的 Reflection AI 挑戰中國在開源模型領域的主導地位
🇭🇰·AI 新聞
香港Hermitage Capital面對市場波動，仍堅守頂級科技股投資策略
🇸🇬·AI 新聞