🇰🇷南韓·AI 新聞·2026年11月12日·來源: Pr Newswire Apac

    HyperAccel 將於 SC26 展示基於 LPU 的 AI 推理系統,重點介紹功耗和成本效益

    韓國無晶圓廠 AI 半導體公司 HyperAccel 計劃在 SC26 展示其 LPU(LLM 處理單元)技術,包括一個八 LPU 伺服器系統,並進行大型語言模型 (LLM) 推理的實時遠端演示。該公司表示,其內部基準測試顯示,對於特定的 LLM 工作負載,其每瓦和每美元的 token 吞吐量比 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU 高出 3.5 倍以上。

    HyperAccel 的 LPU 架構專為 LLM 推理而設計,旨在解決大規模運行大型模型時的能源效率和經濟挑戰。該公司將其聲稱的效率提升歸因於節能的 LPDDR5X 記憶體和專有的 Streamlined Dataflow 架構。HyperAccel 報告稱,該架構實現了約 90% 的記憶體頻寬利用率,與其聲稱的 GPU 典型 50% 至 60% 利用率形成對比。

    該公司的內部基準測試表明,HyperAccel LPU 卡(每張額定功率為 250W)在運行 Qwen3-32B 和 Llama3-70B 等特定 LLM 時,每瓦和每美元的 token 吞吐量可比 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU(每張卡 600W)高出 3.5 倍以上。這些數字適用於運行 Qwen3-32B 和 Llama3-70B 等特定 LLM。HyperAccel 還指出支援 Kimi 和 GLM 等更大的模型。

    對於部署 LLM 的組織而言,此類報告的效率提升可以降低 AI 基礎設施的功耗和運營成本。HyperAccel 正在尋求與伺服器製造商、雲端服務供應商和 AI 基礎設施解決方案供應商建立合作夥伴關係,以擴大其基於 LPU 的推理系統在數據中心市場的採用。

    分享這篇文章

    延伸閱讀
    原文報道: Pr Newswire Apac我們不轉載全文, 閱讀原文 →

    相關文章

    6 則