几周前我在浏览我们的网站时，偶然发现了资深编辑Samuel K. Moore撰写的《内存芯片短缺何时会结束以及如何结束》一文。他的分析重点关注了当前由AI大型企业对内存的巨大需求所引发的内存短缺问题，这一问题严重限制了大型语言模型的运行速度。Moore对这种短缺现象进行了清晰的解释，特别是针对高带宽内存（HBM）的情况。
正如我们和其他科技媒体所报道的，AI是一种非常耗资源的技术。到2028年，AI的电力消耗可能占美国总用电量的12%。2025年，生成式AI的能耗为15太瓦时，预计到2030年将增加到347太瓦时。用于冷却AI数据中心的用水量预计到2028年将比2023年增加一倍甚至四倍。
然而，Moore的报道揭示了AI热潮中一个鲜为人知的方面：HBM是一种专为AI处理器设计的内存产品。这些处理器的制造商，尤其是Nvidia和AMD，对每颗芯片的内存需求不断增加，这一需求源于Google、Microsoft、OpenAI和Anthropic等公司的推动，这些公司正在大规模建设数据中心。其中一些数据中心的规模非常庞大：你可以在第22页的文章《建造世界上最大的数据中心需要什么？》中了解到Meta在路易斯安那州建设的5吉瓦级Hyperion数据中心的工程挑战。
我们认为Moore关于HBM的文章既重要又具有独特性，因此决定将其收录在本期杂志中，并对原文（2月10日发布的内容）进行了一些更新。我们还配发了资深编辑Matthew S. Smith的最新文章，探讨了内存芯片短缺如何推高了Raspberry Pi等低成本电脑的价格。这两篇文章的组合构成了《AI是内存的“大胃口”》[第28页]。
为确保您不会错过Moore对这一主题的任何分析，并随时了解整个技术发展的动态，请扫描下方的二维码订阅我们的每周通讯《Tech Alert》。
现在最大的问题是：这种短缺何时会结束？由于AI大型企业对各种消费电子产品的需求，价格压力被持续的通货膨胀以及不断变化的关税政策所掩盖（至少在美国是这样）。因此，我询问了Moore，他认为哪些指标可以表明内存短缺情况会有所缓解。
更正：由于编辑错误，3月“Hands On”专栏中的一张照片标签有误。站在Jimi Hendrix身后的人是工程师Eddie Kramer（左）和工作室经理Jim Marron，而不是Mitch Mitchell和Noel Redding。
“从供应方面来看，如果三大HBM制造商——Micron、Samsung和SK Hynix中的任何一家宣布调整新产品的生产计划，那将是一个重要的信号，”Moore告诉我。“从需求方面来看，看看科技公司如何调整供应链将很有意思。数据中心可能会转向那些为了节省内存而牺牲部分性能的硬件。开发各种产品的初创公司可能会转向使用更少内存的创新设计。像这种短缺这样的限制可能会带来有趣的技术解决方案，我很期待报道这些内容。” ■
