公眾號記得加星標??，第一時間看推送不會錯過。

人工智能革命勢頭強勁，絲毫沒有減弱的跡象，有時看起來就像淘金熱。關于新出現的稀缺資源，消息會迅速在社區中傳播，人們會蜂擁搶購，引發一波搶購熱潮。在 ChatGPT 時代的大部分時間里，想要買到一塊 GPU 幾乎是不可能的，無論付出多少都難，英偉達甚至需要自己管理候補名單，可見市場需求之大。

媒體的關注點和大量投資都集中在爭相搶購GPU上；最近，內存成為了關注的焦點。

但近幾個月來，人們的關注點集中在確保用戶擁有與之匹配的CPU上。幾十年來，CPU一直是硬件架構中默默無聞的主力軍，運行操作系統、調度工作負載，維持著整個系統的正常運轉，除非出現供應短缺或性能實現代際飛躍，否則很少登上新聞頭條。

突然之間，它竟然和一文不值的GPU相提并論了。這是怎么回事？

Hitachi Vantara歐洲、中東和非洲首席技術官Jason Beckett在接受Tom's Hardware Premium采訪時表示： “大規模部署人工智能迫使企業重新審視其背后的基礎設施?！闭鏐eckett所指出的，雖然大部分注意力都集中在GPU上，因為它們運行著人工智能模型，但CPU也至關重要，因為它們處理著“其他一切”。

隨著智能體人工智能逐漸成為主流，對CPU骨干網絡的需求也日益增長，以確保系統正常運行。“持續運行的多步驟推理系統不會像GPU那樣在工作負載方面進行短暫的協調，”貝克特說道，“它們需要高核心數的CPU持續高負載運行。這種基礎設施需求一直存在，只是現在已不可避免?！?/p>

調整比率

在生成式人工智能革命初期，數據中心的設計旨在提供人工智能訓練和推理能力，但當時的設計者卻嚴重偏愛GPU。聊天機器人對話所需的GPU數量是CPU的四到八個，因為滿足用戶請求所需的并行方程式計算對GPU來說非常密集。

但隨著人工智能的主要應用場景從聊天機器人轉向智能代理，其需求也隨之改變。過去，人工智能模型在進行深度推理時，允許存在輕微的延遲，這被認為是可接受的界面選擇。然而，智能代理需要快速響應、流暢地協調工具調用等等，延遲可能會成為致命的缺陷。增加CPU數量有助于避免任何可能迅速演變成更嚴重問題的故障，甚至導致整個智能代理系統崩潰。

作為主要的CPU制造商之一，AMD親身經歷了這種轉變。該公司此前預測CPU市場將以每年約18%的速度增長，但表示需求的變化已顯著改變了市場格局。AMD聲稱，目前的增長率已翻了一番，達到每年35%，到本十年末，市場規模將達到1200億美元。

PEAK:AIO 首席執行官 Roger Cummings 在接受Tom's Hardware Premium采訪時表示：“AMD 和 Arm 的測試結果告訴我們，這是一種結構性需求，而非周期性需求。實際上，推動需求激增的兩大結構性轉變是：智能人工智能的興起以及對機架級確定性、可預測性能的需求。”

超大規模數據中心運營商是推動CPU需求增長的主要力量，他們認識到CPU在構建未來幾年可能驅動經濟發展的AI集群中扮演著至關重要的角色。Aegis Cooling戰略合作副總裁Jeff Moore在接受Tom's Hardware Premium采訪時表示：“隨著GPU集群規模的擴大，CPU在編排、內存管理、網絡、存儲協調和推理處理等方面發揮著越來越重要的作用?！?Aegis Cooling是一家專注于為AI和高性能計算基礎設施提供下一代液冷解決方案的公司。

摩爾表示，人工智能部署中CPU與GPU的比例正在上升，“尤其因為分布式人工智能工作負載對通用計算、內存帶寬和東西向數據傳輸提出了巨大的需求。” TrendForce最近的一項分析指出，CPU造成的延遲——幾乎占所有響應延遲的91%——是人工智能部署正在竭力抵消的問題。

設計變更

這種轉變不僅體現在財務預測中，也體現在人工智能基礎設施本身的物理設計中。在早期的生成式人工智能部署中，機架通常圍繞高密度GPU配置構建，CPU實際上被視為輔助組件——足以維持系統運行，但不會成為瓶頸?，F在情況正在發生變化。擁有超過15年經驗的PCB制造商OurPCB的創始人趙浩（Hommer Zhao）在接受Tom's Hardware Premium采訪時表示：“在媒體報道中，人工智能機架被描繪成一個巨大的GPU盒子。但從硬件設計的角度來看，GPU只是一個速度非?？斓δ芊浅：唵蔚囊?。它無法連接互聯網或從硬盤驅動器讀取數據?！?/p>

為了滿足數據傳輸的需求，超大規模數據中心運營商不再采用單個主機 CPU 與多個 GPU 松散配對的配置，而是部署具有更多核心數 CPU、更多內存通道，并且在某些情況下每個節點配備多個 CPU 的配置。

機架的配置也受到散熱和功耗方面的考慮。高核心數CPU，尤其是那些針對云工作負載優化的CPU，其選擇不僅看重原始性能，更看重在持續負載下的能效。在液冷環境中，CPU越來越多地與GPU集成在同一散熱設計方案中，而不是像以前那樣單獨用風冷散熱。

財務成功跡象

AMD和Arm近期的業績進一步印證了這并非短期調整，而是更深層次的架構變革。AMD的數據中心CPU業務實現了強勁增長，這主要得益于超大規模數據中心對其EPYC處理器的需求。EPYC處理器擁有高核心數和高內存帶寬，非常適合人工智能編排任務。

與此同時，Arm正受益于超大規模數據中心運營商自行設計定制芯片?！暗?025年，Arm將占據頂級超大規模數據中心近一半的計算資源，屆時將部署超過10億個Neoverse核心，”貝克特表示。“這些都是幾年前就已制定的機架級架構決策?！?AWS的Graviton、谷歌的Axion和微軟的Cobalt芯片都體現了CPU架構向特定工作負載定制的趨勢：高吞吐量、高能效，并與網絡和存儲緊密集成。Arm的授權模式使其處于這一趨勢的核心，其近期的財務業績也凸顯了超大規模數據中心運營商驅動的需求已變得多么巨大。

兩組結果都表明CPU的價值評估方式發生了變化。在傳統的企業環境中，CPU硬件通常是通用且可互換的。而在超大規模數據中心環境中，CPU正逐漸成為一種專用的基礎設施組件，針對人工智能系統中的特定角色進行優化，例如編排、邊緣推理或數據預處理。

綜合來看，機架設計和供應商性能的變化表明，CPU在人工智能基礎設施規劃中不再是次要考慮因素。相反，它們正成為決定系統整體效率和成本的關鍵因素。

貝克特說：“聚光燈并沒有揭示什么新東西，它只是最終照亮了那些真正優秀的基建團隊從未停止過建設的東西?！?/p>

（來源：編譯自tomshardware ）

*免責聲明：本文由作者原創。文章內容系作者個人觀點，半導體行業觀察轉載僅為了傳達一種不同的觀點，不代表半導體行業觀察對該觀點贊同或支持，如果有任何異議，歡迎聯系半導體行業觀察。

今天是《半導體行業觀察》為您分享的第4432內容，歡迎關注。

加星標??第一時間看推送

求推薦