🇨🇳中國·AI 新聞·2026年9月17日·來源: The New Stack
Intel 在不改變任何權重的情況下,將 1.58 位元 LLM 壓縮至 1.485 位元
Intel 研究人員開發了一種方法,可以在不改變大型語言模型(LLM)權重的情況下,縮減其位元大小。他們將一個 1.58 位元的三元模型壓縮至 1.485 位元。這項優化透過減少模型的記憶體佔用量來提高效率。該技術專注於訓練後量化,使模型在部署時更小巧。
Intel 將 1.58 位元 LLM 壓縮至 1.485 位元,為更高效的人工智能指明了一條清晰的道路。關鍵在於不改變權重,而是優化訓練後量化。這種方法減少了記憶體需求,這對於在效能較低的硬件上部署大型模型至關重要。它超越了理論限制,使實際應用更接近現實。
這項進展直接惠及針對邊緣設備和流動平台的亞洲人工智能開發商。韓國和日本等市場中,專注於將人工智能整合到消費電子產品的公司將獲得顯著優勢。更小的模型意味著更低的推論成本和更快的本地硬件處理速度。這可能會加速人工智能在這些競爭激烈的市場中的設備端採用。
值得關注的是這項技術從研究到商業實施的速度。如果 Intel 能夠在 2027 年底前將其整合到其人工智能晶片產品中,這將賦予他們強大的競爭優勢。這也將促使亞洲晶片製造商為其自身的人工智能加速器開發類似或更優越的後量化方法。
分享這篇文章
延伸閱讀
原文報道: The New Stack我們不轉載全文, 閱讀原文 →
相關文章
6 則
🇨🇳·AI 新聞
輪值董事長:華為預計中國在2027年將大幅轉向其AI模型訓練平台
Huawei's Atlas 960E superpod and its role in AI model training highlights the hardware side of AI efficiency.

🇸🇬·AI 新聞
Remote 為全球僱員推出虛擬開支卡

🇨🇳·AI 新聞
AI泡沫爆破、五中全會決議、光棍節

🇨🇳·政策
人工智能能否協助小型企業走向全球,而無需龐大財務團隊?

🇸🇬·AI 新聞
TikTok 在新加坡及其他三個東南亞國家推出獨立應用程式 TikTok Shop

🇸🇬·AI 新聞
