Z.ai 創辦人：AI 自我改進是實現 AGI 的關鍵一步，但安全至關重要

遞歸式自我改進（RSI）描述了一種 AI 系統提升自身能力的過程，導致一個「不斷加速的循環」進步。Z.ai 創辦人 Tang Jie 將這種方法描述為 AI 研究和開發的「新範式」，表明它可以顯著提高 AI 演進的速度，超越目前的水平。這種觀點將 RSI 視為追求通用人工智能（AGI）的關鍵要素。

Tang 的觀點強調了 AI 系統開發方式的潛在轉變，從人類驅動的漸進式改進轉向更自主且可能呈指數級增長的模型。AI 系統在自我改進方面不斷進步的想法，預示著未來技術進步的速度可能由系統本身決定，而不僅僅是外部人類輸入。

據報導，美國和中國的 AI 公司都在追求這一概念。雖然追求 RSI 被視為實現 AGI 的關鍵，但 Tang 也強調，這些進步需要在高度重視安全的情況下進行，承認日益強大、自我改進的 AI 可能帶來的影響。