內存短缺開始影響AI和HPC項目

高帶寬內存（HBM）的激增需求正在影響DRAM內存芯片和NAND存儲器的成本和可用性，進而推高了從筆記本電腦到AI數據中心部署的所有成本。這一由多重事件引發的狀況可能需要數年時間才能緩解，同時也正在改變HPC（高性能計算）和AI（人工智能）團隊構建存儲集群的方式。

如果你今年計劃購買新筆記本電腦，可能需要額外準備數百美元——標準DDR4和DDR5內存套件的價格在過去六個月內上漲了 200% 以上。與 DRAM 和HBM 在同一工廠制造的NVMe驅動器，其價格在某些情況下也上漲了100%以上。用于基于Nvidia和AMD GPU的AI集群中的 HBM 成本也在上升。

價格上漲和短缺有多個根本原因。主要原因是三星電子、SK 海力士和美光科技優先考慮 HBM 產能，以滿足 AI 數據中心的激增需求。據美光介紹，每生產 1GB HBM 所需的晶圓產能約為標準 DRAM 的 3 倍。這種轉向 HBM 導致低利潤率消費產品（如 DRAM 和 NVMe 驅動器）的產能減少。

還有一個原因是，由于之前的供應過剩問題以及 2022 年和 2023 年的產能縮減，制造商的內存和NVMe產能受限。制造商在COVID-19疫情期間小型電子產品需求激增后擴大了產能，但需求未能持續，促使供應商限制制造產能以防止價格暴跌。

再一個因素是 Nvidia 決定轉向LPDDR（低功耗雙倍數據速率）內存，這種內存傳統上主要用于智能手機和其他手持設備。這一轉變相當于增加了一個主要智能手機廠商的需求量，Counterpoint Research研究總監黃智善去年 11 月表示：“這對供應鏈來說是一次地震般的轉變，供應鏈無法輕易吸收這種規模的需求�！�

這種內存和 NVMe 制造產能的縮減，結合 AI 驅動的 HBM 需求激增和LPDDR 內存轉移，現在正困擾著芯片制造商。雖然建設內存或NVMe工廠的成本和時間消耗不像采用最新工藝的芯片制造工廠那樣夸張，但仍然需要數月的規劃和數年的建設時間。

短缺問題已經持續數月，制造商正在采取措施緩解這一狀況。例如，美光三年前在愛達荷州開始建設其新的 ID1 設施，但目前該設施計劃要到 2027 年中期才能投入運營。據美光移動和客戶端業務部營銷副總裁Christopher Moore介紹，到 2028 年之前，ID1 設施不會對 NAND 供應短缺產生實質性影響。

“整個行業都處于短缺狀態，”Moore在最近接受科技媒體 Wccftech 采訪時表示�！斑@不是美光的問題，而是整個行業的問題——我們和我們的同行或競爭對手都在竭盡全力服務這些市場細分領域，但供應就是不足�！�

雖然 NAND 制造商正忙于建設新生產線，但制造工藝限制卻在阻礙他們前進。Moore 表示，結果是 DRAM 短缺可能會持續到 AI 繁榮期開始回落之后�！斑@確實是個不幸的情況�！彼a充道，“但我認為人們需要理解的是，我們仍在服務消費市場�！�

VAST Data 市場（GTM）執行副總裁 Phil Manez 表示，短缺問題已開始影響 HPC 和 AI 客戶�！翱蛻舻恼Z調從以前對所需NVMe 存儲類型非�！_定’，迅速轉變為‘你能給我什么，能夠在合理的交付時間內可用？’”他說�！拔覀兛吹娇蛻粼诜e極采購，打電話詢問大量容量的情況�！�

NVMe 驅動器的銷售額預計將從2025 年的全球 1150 億美元增長到 2030 年的 4050 億美元。

Manez 表示，短缺問題并未導致客戶撤回建設大型AI和HPC集群的決定，因為歷史上存儲支出只占其他組件支出的一小部分，尤其是相對于CPU和GPU，更不用說熟練人才及其薪水了。

然而，成為NVMe驅動器存儲介質的NAND晶圓短缺正在促使客戶考慮改變其存儲集群的架構方式�！澳承寗悠鞒叽缧枨罅扛�，某些需求量較小，”Manez告訴媒體。“我們正在與客戶討論‘您最初可能考慮的是這個驅動器容量。如果您考慮重新格式化集群或重新構建系統以適應我們能獲取到的產品，您感覺如何？’”

VAST Data 的軟件定義存儲架構專為 NVMe 閃存（特別是 QLC——四層單元閃存，效率最高的閃存類型）而設計，盡管它也可以在其他類型的 NVMe 驅動器上運行。在某些方面，它比那些能夠完全或部分運行在傳統磁盤上的并行存儲供應商受到的影響更大，盡管 Manez 指出，機械硬盤也有其自身的供應問題。

然而，在NAND短缺期間，VAST正將其整體存儲效率作為競爭優勢進行推廣�！叭绻次覀兊男誓芰�，我們擁有地球上最高效的糾刪碼�！盡anez 說�！耙虼�，當您構建 VAST 集群時，我們的糾刪碼開銷在大規模情況下低于3%，這意味著我的原始容量轉化為可用容量的比例要高得多。我們還擁有地球上最先進的數據縮減技術。我們使用重復數據刪除、壓縮和基于相似性的數據縮減這幾種技術的組合�！�

基于相似性的數據縮減使用算法查找與其他數據片段相似的數據片段。VAST 不存儲這兩個數據片段的全部內容，而是使用哈希算法計算它們之間的差異，并存儲差異。據 Manez 介紹，這可以將數據壓縮高達 25%。當與其他形式的數據縮減（包括壓縮和經典的數據去重）結合時，VAST 聲稱原始數據總量可減少 50%。

HPC和AI存儲供應商DDN也在適應 NAND 短缺。這家位于加州查茨沃思的公司表示，它可以使用 NVMe、HDD 和一種基于 SATA的較老類型 SSD 的組合，后者速度較慢且容量較低。

“AI 依賴于越來越快、可擴展且成本效益高的數據基礎設施，全球 NAND 短缺使傳統的依賴閃存的架構難以維持，”DDN 首席執行官兼聯合創始人 Alex Bouzari 在 12 月的新聞稿中表示�！癉DN 的 EXAScaler 和Infinia 平臺允許客戶使用任何存儲介質實現完整的 GPU 性能，保護他們的預算、供應鏈和 AI 路線圖在未來幾年不受影響�！�

該公司表示，使用多種驅動器類型的靈活性有助于降低與依賴 NVMe 驅動器的存儲供應商相比的風險�！巴ㄟ^這些創新，組織可以在減少高端 SSD 需求 35-65% 的情況下實現相同或更好的 AI 成果，將存儲總CAPEX（資本性支出）降低 40-70%，并將OPEX（運營性支出）降低30-60%�！�

Pure Storage 建議客戶和潛在客戶與其存儲供應商保持密切溝通，以確定NAND短缺將如何影響其項目�！皼]有人擁有水晶球，但目前看來，NAND 定價不太可能很快下降�！痹摴驹谧罱囊黄┪闹袑懙��！皳碛袊栏窆⿷湆嵺`的供應商可以緩沖一些波動，但沒有誰能完全免疫全球趨勢�！�

Pure表示，客戶應該規劃他們預期的存儲容量增長，并盡早、頻繁地與存儲供應商接洽。提前購買將有助于客戶鎖定訂單并確保他們所需的容量。該公司還建議考慮其他消費模式，例如使用存儲即服務�！皩τ贗T領導者來說，最好的方法不是緊急或恐慌——而是清晰、規劃和與在波動環境中具備持續交付能力的供應鏈韌性供應商合作�！笔�。

在內存和 NAND 短缺的陰霾中看到一線希望的是 Hailo，該公司開發用于邊緣應用場景的AI加速器。該公司表示，其Hailo-8和Hailo-8L芯片完全消除了對 DRAM 的依賴。

“通過將完整的推理流水線保持在芯片上，Hailo-8/8L消除了系統中成本最高且供應受限的組件�！盚ailo 首席技術官 Avi Baum 通過電子郵件告訴媒體。“實際上，避免使用 DRAM可以使每臺設備的物料清單（BOM）成本減少高達 100 美元，同時還能提高電源效率和系統可靠性�！�