OpenAI 總裁 Sam Altman：世界必須接受「壞事發生」才能讓 AI 成功

Sam Altman 的評論突顯了人工智能行業內部在創新、可近用性和風險之間平衡方面的根本分歧。儘管 Anthropic 一直是更嚴格人工智能監管的倡導者，但 Altman 認為，人工智能潛在的「數倍於此的益處」證明了容忍某些負面結果是合理的。他拒絕了以犧牲公眾可近用性為代價來消除所有濫用的情景，認為這種權衡是「完全不可接受的」。

儘管他持接受某些傷害的立場，但 Altman 對於「真正災難性的風險」劃清了明確界線，特別提到了「人工智能嚴重失控」。這表明 OpenAI 對於「壞事」的容忍並非無限，並承認了一個關鍵的門檻，一旦超過這個門檻，即使對於更廣泛部署人工智能的倡導者來說，風險也變得不可接受。

文章指出，儘管 Altman 在言辭上有所區分，但 OpenAI 的政策立場最近已開始與 Anthropic 更為接近。OpenAI 支持更嚴格的安全要求、外部安全評估員，並呼籲減緩先進人工智能模型的開發。這種轉變表明，現實世界的事件，例如駭客攻擊和意外的模型行為，可能正在影響該公司對監管的態度，使其更接近其被視為競爭對手在安全和控制方面的觀點。