三星推出堆疊式 zHBM 記憶體，AI 速度提升 10 倍

除了更快的記憶體，AI 架構正在發生根本性轉變。三星的 zHBM 和 SK hynix 的 PIM 都透過將運算移至更靠近記憶體或記憶體內部來解決 GPU-HBM 瓶頸。三星為代理式 AI 設定的每秒 1,000 個 token 的目標雄心勃勃。這表明未來記憶體設計將決定 AI 系統的能力，而不僅僅是 GPU 的算力。

三星和 SK hynix 之間的競爭直接有利於韓國在半導體領域的主導地位。兩家公司都在推動記憶體創新，超越 HBM 的漸進式提升。SK hynix 聲稱 PIM 在相同面積下提供的容量是 SRAM 的 300 倍。這可能使韓國公司在全球供應下一代 AI 加速器所需的高階記憶體方面獲得關鍵優勢。

值得關注的是主要 AI 晶片設計商的採用情況。NVIDIA、AMD 和 Intel 必須將這些新的記憶體解決方案整合到他們的下一代平台中。如果 zHBM 或 PIM 成為標準，將鞏固韓國在 AI 供應鏈中的地位。兩家公司面臨的考驗是展示超越其峰會演示的實際效能提升。