Sam Altman 认为本地运行 AI 是浪费内存

Sam Altman 的观点强调了 AI 部署的一个关键效率论点。在个人电脑上本地运行 AI 模型意味着计算直接在用户的机器上进行，依赖其动态随机存取存储器 (DRAM) 进行加载和处理。Altman 对“浪费”的担忧表明，本地电脑硬件及其 DRAM 可能无法持续或充分利用，可能导致关键资源的利用率不足。

对“最大限度利用”的推动指向了汇集计算资源的经济效益。在集中式、基于云的系统中，DRAM 等高需求组件可以动态地在众多任务和用户之间共享和分配。这种方法旨在确保昂贵的 AI 基础设施具有更高的运行率，与分散的本地部署相比，最大限度地减少闲置容量。

对于考虑整合 AI 的企业和开发人员来说，这位领先 AI 人物的观点为长期扩展和成本提供了实际的考虑。虽然本地 AI 处理提供了增强隐私或离线功能等好处，但 Altman 的声明强调了基于云解决方案的效率论点，特别是对于需要大量 DRAM 的大型或更复杂的 AI 模型。