🇨🇳中國·AI 新聞·2026年9月17日·來源： The New Stack

Intel 在不改變任何權重的情況下，將 1.58 位元 LLM 壓縮至 1.485 位元

Intel 研究人員開發了一種方法，可以在不改變大型語言模型（LLM）權重的情況下，縮減其位元大小。他們將一個 1.58 位元的三元模型壓縮至 1.485 位元。這項優化透過減少模型的記憶體佔用量來提高效率。該技術專注於訓練後量化，使模型在部署時更小巧。

Nexa 摘要

Intel 將 1.58 位元 LLM 壓縮至 1.485 位元，為更高效的人工智能指明了一條清晰的道路。關鍵在於不改變權重，而是優化訓練後量化。這種方法減少了記憶體需求，這對於在效能較低的硬件上部署大型模型至關重要。它超越了理論限制，使實際應用更接近現實。

這項進展直接惠及針對邊緣設備和流動平台的亞洲人工智能開發商。韓國和日本等市場中，專注於將人工智能整合到消費電子產品的公司將獲得顯著優勢。更小的模型意味著更低的推論成本和更快的本地硬件處理速度。這可能會加速人工智能在這些競爭激烈的市場中的設備端採用。

值得關注的是這項技術從研究到商業實施的速度。如果 Intel 能夠在 2027 年底前將其整合到其人工智能晶片產品中，這將賦予他們強大的競爭優勢。這也將促使亞洲晶片製造商為其自身的人工智能加速器開發類似或更優越的後量化方法。

#ai infrastructure#ai models#hardware

相關文章