GMAsia
    🇨🇳中国·AI 新闻·2026年9月17日·来源: The New Stack

    Intel 在不改变任何权重的情况下,将 1.58 位 LLM 压缩至 1.485 位

    Intel 研究人员开发了一种方法,可以在不改变大型语言模型(LLM)权重的情况下,缩减其位大小。他们将一个 1.58 位的二元模型压缩至 1.485 位。这项优化通过减少模型的内存占用量来提高效率。该技术专注于训练后量化,使模型在部署时更小巧。

    Nexa 摘要

    Intel 将 1.58 位 LLM 压缩至 1.485 位,为更高效的人工智能指明了一条清晰的道路。关键在于不改变权重,而是优化训练后量化。这种方法减少了内存需求,这对于在性能较低的硬件上部署大型模型至关重要。它超越了理论限制,使实际应用更接近现实。

    这项进展直接惠及针对边缘设备和移动平台的亚洲人工智能开发商。韩国和日本等市场中,专注于将人工智能整合到消费电子产品的公司将获得显著优势。更小的模型意味着更低的推理成本和更快的本地硬件处理速度。这可能会加速人工智能在这些竞争激烈的市场中的设备端采用。

    值得关注的是这项技术从研究到商业实施的速度。如果 Intel 能够在 2027 年底前将其整合到其人工智能芯片产品中,这将赋予他们强大的竞争优势。这也将促使亚洲芯片制造商为其自身的人工智能加速器开发类似或更优越的后量化方法。

    #ai infrastructure#ai models#hardware
    深入了解
    原文报道: The New Stack我们不转载全文, 阅读原文 →

    相关文章

    6 则