/記得星標我/

比大部分人早一步看見未來

不知道你們是否也感覺到，運營商有很強烈的AI 焦慮。

AI 時代的價值鏈條里，核心是數據、計算和推理。運營商似乎又面臨被管道化的窘境，運營商很焦慮，于是，開始著急忙慌地建智算中心，搞Token 經營，生怕錯過這波紅利，最后被邊緣化。

這種焦慮可以理解，但其實，運營商還有其他路可走，還有飯可吃。

就在6 月 2 日臺北 Computex 大會上，黃仁勛和 Marvell CEO Matt Murphy 同臺對談時，說了一句足以改變整個 AI 產業方向的話。他說，AI 的下一個瓶頸，不是算力，不是內存，是連接。

怎么來理解這句話呢？

過去三年，AI 產業的主要矛盾是算力不夠。英偉達靠 GPU 解決了這個問題，市值一路沖到 5 萬億美元。

接下來一年，內存成為新的瓶頸。HBM 價格暴漲，三星海力士美光三家市值都突破了萬億美元。現在單卡 HBM 容量已經做到 192GB，下一代 Blackwell Ultra 會到 288GB，單卡性能已經足夠強大。

當單個計算節點的性能不再是問題，如何把數百萬個這樣的節點高效協同起來，就成了限制系統整體性能的最后一公里。

黃仁勛所說的連接，不是我們平時理解的網線那么簡單。它是覆蓋AI 計算全棧的三層互聯體系。

第一層是芯片級互聯。也就是GPU 和 GPU 之間，GPU 和 CPU 之間的內部高速公路。

英偉達的第五代NVLink，單 GPU 雙向帶寬已經達到 1.8TB/s，第六代會提升到 3.6TB/s，是 PCIe Gen6 的 14 倍以上。通過 NVLink Switch，可以實現 72 顆 GPU 的全互聯，單域支持 576 顆 GPU 協同計算，總帶寬達到 260TB/s。還有 NVLink-C2C 技術，實現了 GPU 和 Grace CPU 之間的一致性互聯，內存可以統一尋址。

第二層是內存級互聯。核心是打破內存孤島的CXL 革命。

CXL 技術允許不同服務器的內存池化共享，解決單卡顯存不足的問題。Retimer 芯片是這個生態的核心組件，用來延長高速信號的傳輸距離。有了 CXL，1M 上下文長度的大模型，就不再受限于單卡 HBM 容量，KV-Cache 可以跨節點共享。

第三層是集群級互聯。也就是智算中心內部的骨干網絡。

現在專為AI 優化的 InfiniBand 和 Spectrum-X 以太網，可以實現 95% 的數據吞吐量，而標準以太網只能達到約 60%。當傳輸距離超過 2.5 米，速率超過 400G 時，銅纜就達到了物理極限，必須采用硅光技術。還有 DPU，用來卸載網絡、存儲和安全任務，讓 GPU 專注于計算。

這三層連接，每一層都直接決定了AI 集群的整體效率。

現在大型AI 集群里，GPU 有高達 40% 的時間在空轉等待數據。昂貴的算力被嚴重浪費。一個連接瓶頸導致的 10% 性能損失，在百萬卡集群中，就意味著每天損失數百萬美元的收入。

在這三層連接中，運營商能干什么呢？

運營商能干的事情很多，比如——

五月初，中國移動在移動云大會上正式發布了商用級全向智感IP Core。這是國內首個進入規模化商用階段的自主可控開放 GPU 卡間互聯技術體系。

它支持百卡級單機柜全互聯，單個超節點最多可以連接1024 張計算卡，構建起無阻塞的算力池。卡間互聯帶寬達到 TB/s 級別，端到端通信時延縮短到百納秒級，比傳統協議方案性能提升了約 1.7 倍。

實際業務測試的數據更有說服力。用DeepSeek-V3 模型在萬卡級集群上做訓練，采用這個技術之后，模型算力利用率提升了 1.53 倍，訓練時間直接縮短了 3.59 天。這意味著同樣的算力投入，能產出更多的成果，也能大幅降低大模型的訓練成本。

目前這個技術已經向全產業鏈開放，協同創新平臺匯聚了超過50 家合作伙伴，覆蓋了從芯片設計、整機制造到終端應用的全鏈條。這不僅解決了國內智算產業互聯技術卡脖子的問題，也為異構芯片的兼容互通提供了標準化的底座。

這只是一個例子，運營商能做的遠不止于此。

- 04 -

連接，是運營商的老本行，也是最擅長的環節。

過去芯片級互聯主要由英偉達等國外廠商主導，但中國移動的實踐證明，運營商完全有能力深入到智算集群最核心的根技術層面。更不用說集群級互聯和內存級互聯的大規模部署和運營，本來就是運營商積累了幾十年的核心能力。

更重要的是，AI 時代的連接，遠不止智算中心內部這三層。

還有智算中心到用戶的連接。未來AI 應用的體驗，很大程度上取決于從智算中心到端側的網絡質量。低延遲、高帶寬的網絡，是 AI 服務流暢運行的基礎。

還有智算中心到Agent 的連接。AI 正在從被動問答轉向自主執行，Agent 需要實時調用大模型、工具和數據庫，產生海量跨節點的實時通信需求。

還有Agent 與 Agent 之間的連接。未來會有無數個不同功能的 Agent，它們之間需要互相協作，完成復雜的任務。這會產生一個全新的、規模空前的連接網絡。

這些連接，都是運營商可以發揮核心作用的地方。

- 05 -

運營商大可不必如此焦慮，不用非要和云廠商搶算力，也不用絞盡腦汁去搞Token 經營，這是一條路，我認為運營商可以走得從容一點。

運營商還有另一條確定性更強的路——

把連接這個老本行做到極致，把智算中心內部的連接做好，把智算中心到用戶的連接做好，把智算中心到Agent 的連接做好，把 Agent 與 Agent 之間的連接做好。

只要把這些連接都做好，運營商永遠有飯吃。