在AI大模型爆發(fā)式發(fā)展的今天，“算力”成為數(shù)字經(jīng)濟(jì)時(shí)代的核心生產(chǎn)力。為了滿(mǎn)足日益增長(zhǎng)的算力需求，各類(lèi)計(jì)算節(jié)點(diǎn)解決方案層出不窮，“超節(jié)點(diǎn)”概念也隨之走紅。真正的超節(jié)點(diǎn)需要同時(shí)具備大帶寬、低時(shí)延和內(nèi)存統(tǒng)一編址三大核心能力，缺少任何一項(xiàng)，都非革命性的架構(gòu)創(chuàng)新。

AI技術(shù)的飛速演進(jìn)和行業(yè)應(yīng)用的深度滲透，讓傳統(tǒng)計(jì)算架構(gòu)難以為繼。從技術(shù)發(fā)展來(lái)看，大模型正從單模態(tài)向全模態(tài)融合跨越，上下文長(zhǎng)度從K級(jí)邁向兆級(jí)，訓(xùn)練數(shù)據(jù)規(guī)模從10TB升級(jí)至100TB，模型迭代速度也從半年縮短至兩個(gè)月。而在應(yīng)用端，金融風(fēng)控場(chǎng)景要求時(shí)延小于20毫秒，反欺詐場(chǎng)景更是低至10毫秒以下，Agentic AI的多任務(wù)協(xié)同則需要更低時(shí)延的計(jì)算支撐。這些需求都對(duì)算力的有效性和響應(yīng)速度提出了前所未有的挑戰(zhàn)。

與此同時(shí)，摩爾定律的失效讓單一芯片的算力提升陷入瓶頸，大模型的算力需求增長(zhǎng)速度遠(yuǎn)超芯片技術(shù)迭代速度。傳統(tǒng)解決方案是通過(guò)服務(wù)器堆疊和以太網(wǎng)聯(lián)接組建集群，但這種方式存在致命缺陷：服務(wù)器間帶寬不足、時(shí)延較大，集群規(guī)模越大，算力利用率反而越低。Meta公布的Llama 3.1訓(xùn)練數(shù)據(jù)顯示，1.6萬(wàn)卡H100集群的算力利用率偏低，且在54天的訓(xùn)練中累計(jì)中斷419次，平均每3小時(shí)就出現(xiàn)一次故障。顯然，簡(jiǎn)單的服務(wù)器堆疊已經(jīng)無(wú)法滿(mǎn)足AI時(shí)代的規(guī)模算力供給需求。

真正的超節(jié)點(diǎn)，首先要突破傳統(tǒng)架構(gòu)的通信瓶頸，具備大帶寬和低時(shí)延的核心特性。傳統(tǒng)計(jì)算架構(gòu)中，卡間互聯(lián)依賴(lài)PCIe或以太網(wǎng)，跨服務(wù)器互聯(lián)帶寬多為200~400Gb/s，時(shí)延達(dá)數(shù)十微秒，在千億參數(shù)模型訓(xùn)練中，頻繁的GB級(jí)數(shù)據(jù)通信會(huì)造成嚴(yán)重阻塞，讓計(jì)算等待通信成為性能瓶頸。而超節(jié)點(diǎn)通過(guò)高效互聯(lián)協(xié)議打破了這一限制，以昇騰384超節(jié)點(diǎn)為例，其通信帶寬較傳統(tǒng)服務(wù)器架構(gòu)提升15倍，RTT通信時(shí)延從7微秒降至3微秒，降低50%以上。

在互聯(lián)網(wǎng)行業(yè)的實(shí)際應(yīng)用中，這種優(yōu)勢(shì)尤為明顯。面對(duì)萬(wàn)億參數(shù)、百萬(wàn)級(jí)序列長(zhǎng)度的基礎(chǔ)模型探索，超節(jié)點(diǎn)的大帶寬、低時(shí)延能力支持TP、CP、EP等多維并行，可將EP從8擴(kuò)展至64，把不可掩蓋的all2all通信占比從40%降至3.5%，最終實(shí)現(xiàn)3倍以上的性能提升。在強(qiáng)化學(xué)習(xí)場(chǎng)景中，更是能將訓(xùn)推權(quán)重傳輸時(shí)間從小時(shí)級(jí)壓縮至60秒，徹底改變了傳統(tǒng)集群的效率困境。

更關(guān)鍵的是，真正的超節(jié)點(diǎn)必須具備“內(nèi)存統(tǒng)一編址”能力，這是實(shí)現(xiàn)“One NPU/GPU”的核心前提。傳統(tǒng)集群的通信如同“寄快遞”，需要經(jīng)過(guò)打包數(shù)據(jù)、填寫(xiě)地址、發(fā)送、簽收拆包等復(fù)雜流程，屬于消息語(yǔ)義通信；而內(nèi)存統(tǒng)一編址則像“從書(shū)架上拿書(shū)”，超節(jié)點(diǎn)內(nèi)所有設(shè)備的內(nèi)存地址全局唯一，CPU、NPU等計(jì)算單元可通過(guò)load/store指令直接訪問(wèn)遠(yuǎn)端內(nèi)存資源，無(wú)需復(fù)雜的序列化和反序列化流程。

這種內(nèi)存語(yǔ)義通信帶來(lái)了效率的革命性提升。昇騰384超節(jié)點(diǎn)通過(guò)靈衢協(xié)議統(tǒng)一CPU、NPU內(nèi)存語(yǔ)義，實(shí)現(xiàn)DDR和片上內(nèi)存池化，打造出128TB的全局內(nèi)存統(tǒng)一編址空間。在推理多輪對(duì)話(huà)場(chǎng)景中，基于內(nèi)存語(yǔ)義的KV Cache池化方案支持Prefix Cache復(fù)用，在命中率100%時(shí)吞吐性能可提升3倍；在推薦系統(tǒng)中，依托內(nèi)存語(yǔ)義的低時(shí)延特性，能有效優(yōu)化Embedding表的小包傳輸效率。更重要的是，內(nèi)存統(tǒng)一編址支持“已存代算”，可將暫時(shí)不用的數(shù)據(jù)offload到CPU內(nèi)存，需要時(shí)通過(guò)大帶寬、低時(shí)延能力快速拉回，使NPU利用率提升10%以上。

反觀市場(chǎng)上一些所謂的“超節(jié)點(diǎn)”方案，大多采用PCIe+RoCE協(xié)議互聯(lián)，本質(zhì)上仍是傳統(tǒng)服務(wù)器堆疊架構(gòu)。RoCE協(xié)議不支持統(tǒng)一內(nèi)存語(yǔ)義，跨服務(wù)器訪存需要RMDA編解碼，算子通信時(shí)延大、效率低；PCIe協(xié)議則需要經(jīng)過(guò)CPU調(diào)度，互聯(lián)帶寬遠(yuǎn)不能滿(mǎn)足需求，即使是PCIe6.0單lane僅64GB/s，且無(wú)法支持大規(guī)模直聯(lián)的高效訪問(wèn)。這類(lèi)方案不僅跨服務(wù)器帶寬、時(shí)延受限，更關(guān)鍵的是不支持內(nèi)存統(tǒng)一編址，無(wú)法實(shí)現(xiàn)全局內(nèi)存池化和設(shè)備間直接訪問(wèn)，所有訪存都依賴(lài)消息語(yǔ)義通信，優(yōu)化空間存在天然瓶頸。

事實(shí)上，真正可商用的超節(jié)點(diǎn)是一項(xiàng)系統(tǒng)工程，需要“互聯(lián)協(xié)議+工程能力+系統(tǒng)能力”的三重支撐。除了大帶寬、低時(shí)延、內(nèi)存統(tǒng)一編址的互聯(lián)協(xié)議核心，還需要成熟的散熱技術(shù)、模塊化架構(gòu)、冗余能力、連接技術(shù)和供電能力作為工程保障，同時(shí)具備大規(guī)模部署、高可靠性和靈活切分的系統(tǒng)能力。

昇騰384超節(jié)點(diǎn)就是典型代表，其已經(jīng)實(shí)現(xiàn)了從技術(shù)概念到規(guī)模商用的完整落地，自 2025 年正式上市以來(lái)，已規(guī)模部署超550 套，廣泛應(yīng)用于互聯(lián)網(wǎng)、金融、能源、港口、制造等多個(gè)領(lǐng)域。

更重要的是，靈衢2.0協(xié)議的全面開(kāi)放，為超節(jié)點(diǎn)技術(shù)的普及與生態(tài)共建注入了關(guān)鍵動(dòng)能。作為支撐真超節(jié)點(diǎn)內(nèi)存統(tǒng)一編址與高效互聯(lián)的核心協(xié)議，靈衢2.0不僅在技術(shù)上實(shí)現(xiàn)了突破，更通過(guò)全維度開(kāi)放，推動(dòng)全行業(yè)形成統(tǒng)一的技術(shù)標(biāo)準(zhǔn)，有望讓超節(jié)點(diǎn)加速走向規(guī)?；?、普惠化。

值得關(guān)注的是，華為還將智能計(jì)算的超節(jié)點(diǎn)技術(shù)引入通用計(jì)算，成為全球首家發(fā)布通算超節(jié)點(diǎn)的廠商。在搜推廣場(chǎng)景中，超節(jié)點(diǎn)的低時(shí)延能力可幫助客戶(hù)提升廣告收入；在數(shù)據(jù)庫(kù)場(chǎng)景中，內(nèi)存池化能力能有效解決分庫(kù)分表等問(wèn)題，為通用計(jì)算領(lǐng)域帶來(lái)新的突破。

總而言之，在AI算力需求持續(xù)爆發(fā)的當(dāng)下，超節(jié)點(diǎn)已經(jīng)成為突破算力瓶頸的核心解決方案，一個(gè)方案是否為真正的超節(jié)點(diǎn)，關(guān)鍵看是否同時(shí)具備大帶寬、低時(shí)延和內(nèi)存統(tǒng)一編址三大核心能力，具備了這三點(diǎn)，多個(gè)物理結(jié)算節(jié)點(diǎn)高速互聯(lián)，才能“像一臺(tái)計(jì)算機(jī)一樣工作”。

可以相信，超節(jié)點(diǎn)這樣的核心技術(shù)，將能為大模型發(fā)展和行業(yè)智能化轉(zhuǎn)型提供堅(jiān)實(shí)支撐，為AI大模型發(fā)展與千行百業(yè)的智能化轉(zhuǎn)型提供堅(jiān)實(shí)算力底座。