先說重點(diǎn),

GPU計(jì)算不能等，網(wǎng)要好。

到底用哪種網(wǎng),

這個問題成了關(guān)鍵。

而且，還有人誤會網(wǎng)絡(luò)不重要，

我得知：

一家國產(chǎn)知名大模型廠商，

就不說哪家了，

買了英偉達(dá)一萬張卡，

配的PCIe接口。

送命不至于，

就是吃虧。

我判斷：

2024年全球頭部GPU技術(shù)路標(biāo)：

用超節(jié)點(diǎn)連起的10萬卡GPU集群。

那么問題來了，卡之間的連接，

用什么網(wǎng)？

我還判斷：

英偉達(dá)超節(jié)點(diǎn)（NVL72）引領(lǐng)下一輪組網(wǎng)架構(gòu)，

除了英偉達(dá)以外的玩家，

他們往往被稱為“非英偉達(dá)廠商”

該如何應(yīng)對？

言下之意明了，

AI網(wǎng)絡(luò)進(jìn)入大爭之世，

各自為戰(zhàn)，還是聯(lián)盟合作？

這篇文章將探討，

多方玩家競爭與合作的可能。

目錄：

（一）機(jī)內(nèi)機(jī)外“過時了“？

故事開始了。

無論別人信不信英偉達(dá)壟斷，

反正我信了。

當(dāng)然可以說得保守點(diǎn)：

“有壟斷之嫌”。

英偉達(dá)壟斷了計(jì)算，

那是否壟斷了網(wǎng)絡(luò)？

在大規(guī)模GPU相互連接進(jìn)行計(jì)算的情況下，

計(jì)算與網(wǎng)絡(luò)緊密交織，

性能不再是一個單一的概念。

英偉達(dá)服務(wù)器內(nèi)部網(wǎng)絡(luò)是封閉玩法，

誰也不能自造一個網(wǎng)絡(luò)，

跟英偉達(dá)的拼起來用。

俗稱“拼桌。

不就是傳輸個數(shù)據(jù)包，還分派系了？

真是如此，

沒辦法，

科技廠商天然偏好各自為戰(zhàn)，

因?yàn)榻K極都追求“壟斷”。

如果哪天不這樣了，

一定是有什么強(qiáng)大力量，

讓他們痛苦了。

這是我一開始的想法，

只看到了其中一層，

現(xiàn)在我有了更深的理解，

后面會講。

你看，數(shù)據(jù)中心里的AI網(wǎng)絡(luò)，

網(wǎng)絡(luò)分兩種。

機(jī)內(nèi)和機(jī)外。

不得不服氣的是，

短短幾個月，

我發(fā)現(xiàn)這種說法已經(jīng)過時了。

沒辦法，技術(shù)又迭代了。

一個服務(wù)器是4卡8卡GPU的時期，

可以這樣說。

然而，當(dāng)NVL72這種超節(jié)點(diǎn)產(chǎn)品來了，

這個說法就不準(zhǔn)了。

“機(jī)內(nèi)機(jī)外”容易造成誤解。

也就是，“機(jī)內(nèi)機(jī)外”過時了。

這意味著，

一場新紛爭悄然揭幕。

兩句話說不清，

展開細(xì)聊。

話說回來，

GPU4卡8卡的時候，

機(jī)內(nèi)互聯(lián)，集成度高，

網(wǎng)絡(luò)速度非常快。

打個比方，

一個服務(wù)器好比一間教室，

坐8個學(xué)生，互相傳作業(yè)

相當(dāng)于，8張GPU卡用NVLink相連。

然而，想和其他教室傳作業(yè)，

網(wǎng)速就會慢。

有多慢呢？

服務(wù)器外的網(wǎng)絡(luò)（機(jī)外網(wǎng)絡(luò)），

比機(jī)內(nèi)網(wǎng)絡(luò)慢了一個數(shù)量級。

除了快慢，

還有價(jià)格，

機(jī)內(nèi)網(wǎng)絡(luò)比機(jī)外網(wǎng)絡(luò)貴多了。

結(jié)果很清楚，

英偉達(dá)賺了好多錢。

強(qiáng)需求，

又推著GPU了上了一新臺階。

英偉達(dá)拿出了產(chǎn)品GB200 NVL72，

下文簡稱NVL72。

這個產(chǎn)品一出現(xiàn)，

就引領(lǐng)了一個新方向，

在計(jì)算集群中，

每個節(jié)點(diǎn)通常包含多個 GPU 和處理器。

這里提到的 " NVL +數(shù)字" ，

指的是一個超大節(jié)點(diǎn)中GPU數(shù)量。

NVL36的節(jié)點(diǎn)有36個GPU。

同理，NVL576的節(jié)點(diǎn)有576個GPU。

讓人生氣的是，

國產(chǎn)暫時沒有能比肩的。

不過譚老師我可以喊話國產(chǎn)廠商：

“等著用，搞快點(diǎn)”。

英偉達(dá)NVL72的機(jī)柜就像一個大冰箱。

內(nèi)部也挺復(fù)雜，

有72個GPU分別放在18張計(jì)算卡上，

一個計(jì)算卡，其實(shí)就是一個Tray（托架）。

而一張計(jì)算卡，

相當(dāng)于一臺服務(wù)器。

這樣，每張計(jì)算卡里有4個GPU。

口算4 X 18=72，

相當(dāng)于裝了72個GPU。

網(wǎng)絡(luò)也非常好，

72個GPU工作起來像一個。

這個東西再叫服務(wù)器，就不合適了，

那就叫超節(jié)點(diǎn)吧。

于是，新問題來了，

請問，這個超節(jié)點(diǎn)里面72個GPU用的什么網(wǎng)絡(luò)連接？

答案是選A，還是選B？

沒搞錯吧？

以前，機(jī)內(nèi)和機(jī)外網(wǎng)絡(luò)。

以前，8個以上GPU就是Scale out網(wǎng)絡(luò)，

現(xiàn)在72個GPU了，

理應(yīng)仍然是Scale out網(wǎng)絡(luò)。

為什么是Scale up網(wǎng)絡(luò)？

當(dāng)超節(jié)點(diǎn)走進(jìn)數(shù)據(jù)中心組網(wǎng)，

技術(shù)變了，爭議來了。

商機(jī)也來了。

（二）題好難

論單詞難度，

Scale up網(wǎng)絡(luò)，Scale out網(wǎng)絡(luò)

是高中英語考試的難度，

論技術(shù)難度，

一下沖到了阿里P7。

題這么難，都是NVL72造成的。

替我問候一下它。

技術(shù)上的變化到底是什么呢？

以前，Scale up網(wǎng)絡(luò)局限在服務(wù)器內(nèi)部，

現(xiàn)在，NVL72里面明顯用到了服務(wù)器外面的網(wǎng)絡(luò)，

所以，是Scale up網(wǎng)絡(luò)。

不只叫法變了，

本質(zhì)是網(wǎng)絡(luò)結(jié)構(gòu)變了。

最初一個服務(wù)器有8個GPU，

所有GPU在同一個操作系統(tǒng) (OS) 內(nèi)，

這使得它們彼此訪問內(nèi)存變得很自然，

類似于一個“共享內(nèi)存”的環(huán)境。

當(dāng)系統(tǒng)擴(kuò)展到 72個GPU 時，

這些GPU要被分散到18個操作系統(tǒng)中，

但得益于硬核網(wǎng)絡(luò)支持，

它們分布在不同的操作系統(tǒng) (OS)上，

且能跨多個操作系統(tǒng) (OS）來進(jìn)行操作。

比如，第一個操作系統(tǒng) (OS），

直接“訪問”第 18 個操作系統(tǒng) (OS)的內(nèi)存。

所以，即便擴(kuò)展到72個GPU，

繼續(xù)叫它Scale up網(wǎng)絡(luò)。

叫法并不是重點(diǎn)，

重點(diǎn)在于要設(shè)計(jì)新網(wǎng)絡(luò)結(jié)構(gòu)，

部署新的Scale up網(wǎng)絡(luò)的設(shè)備，

這些都要花錢。

另一方面，

硬件有變化，

GPU有72個，

但這個說法不準(zhǔn)確，

應(yīng)該是B200這款GPU芯片，

而GB200而不是單一的GPU，

而是一種GPU計(jì)算系統(tǒng)，

以SuperPOD（超級節(jié)點(diǎn)）方式擴(kuò)展大規(guī)模部署。

和美國關(guān)系好的那些人，

英偉達(dá)B200和GB200，

將在2024年第4季度，

和2025年第1季度，

陸續(xù)出貨。

英偉達(dá)B300系列產(chǎn)品，

將按計(jì)劃2025年第2季度至第3季度，

開始出貨。

不僅如此，硬件變化還包括，

以前，“機(jī)內(nèi)網(wǎng)絡(luò)”高度集成，

GPU和交換機(jī)芯片集成在一起，

現(xiàn)在，交換機(jī)芯片單獨(dú)出來了。

這些變化都?xì)w結(jié)在一個難點(diǎn)上，

到底怎么互聯(lián)？

第一，一臺服務(wù)器里有8張GPU（H100），

第二，增加到72張GPU（NVL72），

第三，將來還會塞288個，576個GPU，

第四，甚至再塞1152個GPU。

從NVL72開始，

英偉達(dá)提出讓Scale up網(wǎng)絡(luò)沖出服務(wù)器邊界。

這樣，NVL72網(wǎng)絡(luò)的就在服務(wù)器外面了。

好消息是，

網(wǎng)速是快了，

更好消息是，

延續(xù)了機(jī)內(nèi)比機(jī)外貴的“光榮傳統(tǒng)”，

Scale up網(wǎng)絡(luò)的價(jià)格，

也比Scale out網(wǎng)絡(luò)貴了一個數(shù)量級。

誰不高興利潤高呢？

好好干活，

把錢賺了。

可是，別讓英偉達(dá)一個人把錢賺了。

寫到這里，

該總結(jié)一下了：

網(wǎng)絡(luò)有變，錢多，速來。

（三）NVL72組網(wǎng)，數(shù)學(xué)題不會就是不會

硬件總會壞，沒辦法，

都想把GPU往死用。

前不久，Meta公司說1.6萬卡GPU集群搞訓(xùn)練，

大概每隔2-3個小時就掛死一次，

這是什么概念？

我們假定任務(wù)重啟耗時15分鐘，

那這個占比就將近1/10。

當(dāng)這個集群變成10萬卡，

30分鐘掛起一次，

15分鐘解決故障，

白費(fèi)50%的時間。

而且這個硬件故障率，

短時間內(nèi)不會有根本性改變。

不過，有了超節(jié)點(diǎn)NVL72，

情況好轉(zhuǎn)了一點(diǎn)，

NVL72里面，

是Scale up網(wǎng)絡(luò)互聯(lián)，

也就是超高速互聯(lián)。

以前，

一個服務(wù)器里8張GPU，

1張GPU卡壞了，

整個服務(wù)器就掛了。

現(xiàn)在，

一個服務(wù)器里面有18張計(jì)算卡，

（也就是托架，英文Tray），

一張GPU卡壞了，

還有17個計(jì)算卡可以繼續(xù)用，

故障范圍變小了。

NVL72擴(kuò)大成NVL576呢？

這么多設(shè)備，

網(wǎng)絡(luò)肯定復(fù)雜了，

得考慮，

NVL72組網(wǎng)的架構(gòu)怎么設(shè)計(jì)？

肯定需要多層的網(wǎng)絡(luò)設(shè)計(jì)。

感覺進(jìn)入譚老師我不擅長之處了。

NLV576作為一個超級大的節(jié)點(diǎn)，

我口算一下NVL 576的網(wǎng)絡(luò)架構(gòu)：

576=72x8

果然算錯了，

正確的算法是：

576=36 X 16，

為什么呢？

因?yàn)樵O(shè)備數(shù)量超過一個機(jī)架（Rack）的容量，

就需要2級組網(wǎng)。

引入交換機(jī)，

用交換機(jī)支持多個機(jī)架之間的通信和數(shù)據(jù)傳輸，

而每個交換機(jī)的端口數(shù)有限。

網(wǎng)絡(luò)在擴(kuò)展，

但也會導(dǎo)致端口利用率的降低。

舉個例子，NVL576由16臺NVL36組成。

它的網(wǎng)絡(luò)結(jié)構(gòu)，需引入2級交換機(jī)，

一層NV Switch上面還要再加一層NV Switch。

NV Switch之間還需要互聯(lián)，

占了一半端口。

也就是說，

不能所有的端口都連在GPU上，

留有端口連2級交換機(jī)，

所以，要空出來36個口，

讓它們?nèi)ミB交換機(jī)。

復(fù)雜吧。

不過，花開兩朵，各表一枝，

交換機(jī)多了，

客戶要建更復(fù)雜的網(wǎng)絡(luò)，

花更多的錢。

這里，用數(shù)學(xué)中的拓?fù)洌?/p>

來分析節(jié)點(diǎn)之間的互聯(lián)結(jié)構(gòu)和路徑優(yōu)化。

阿里云智能集團(tuán)研究員席永青告訴我一些細(xì)節(jié)：

“比如，模型訓(xùn)練時候的資源分布，

跟網(wǎng)絡(luò)拓?fù)渥鲆欢ǖ挠H和性，

可以使訓(xùn)練效果更好。”

10萬卡的網(wǎng)絡(luò)的難題，

頂級卡規(guī)模團(tuán)隊(duì)訓(xùn)練必須要搞定，

目前最關(guān)心這個了，

是時候考驗(yàn)團(tuán)隊(duì)技術(shù)水平了，

大老板們可能會用這個技術(shù)難點(diǎn)做年終OKR。

寫到這里，

故事基本講完了，

若想理解更深，

需往前追溯“網(wǎng)絡(luò)一戰(zhàn)”。

（四）回顧 “網(wǎng)絡(luò)一戰(zhàn)”，勝負(fù)已分

在下手寫網(wǎng)絡(luò)“一戰(zhàn)”之前，

作為一個科技科普作者，

我必須表達(dá)一下對以太網(wǎng)的崇敬，

盡管計(jì)算機(jī)經(jīng)歷了多次重大變革，

但以太網(wǎng)一直以來都在改進(jìn)

對技術(shù)變革的適應(yīng)性極強(qiáng)。

我今天講的這段，

只是以太網(wǎng)歷史長河中的一朵浪花。

浪花淘盡英雄，

不愧為世界上應(yīng)用最廣泛的網(wǎng)絡(luò)技術(shù)，

以太網(wǎng)的發(fā)明者也說：

“將以太網(wǎng)設(shè)計(jì)為一個開放的、非專有的、

產(chǎn)業(yè)化標(biāo)準(zhǔn)的本地網(wǎng)絡(luò)的意義，

甚至大于發(fā)明以太網(wǎng)本身。”

至于AI網(wǎng)絡(luò)，

在4卡8卡的那個時期，

就需要高性能網(wǎng)絡(luò)了，

而且有兩股技術(shù)力量在較量，

InfiniBand（IB）網(wǎng)絡(luò)和以太網(wǎng)（RoCE）。

不用多說，

大家應(yīng)該看出來我站哪邊了，

從古至今，勝利從來都不是輕而易得的。

IB是英偉達(dá)買下了Mellanox公司，

進(jìn)而獲得了該技術(shù)。

我認(rèn)為，IB挑戰(zhàn)以太網(wǎng)，

是獲得了一些先機(jī)。

但是先機(jī)不代表勝利。

IB幫英偉達(dá)賺到了大錢。

畢竟，IB這種網(wǎng)絡(luò)是英偉達(dá)專有，

專有意味著，

專有了技術(shù)，

專有了設(shè)備及連接部件。

這樣玩，肯定封閉了。

話說兩頭，封閉某種程度上確實(shí)賺錢，

但也會限制發(fā)展。

輸贏不在一時，

經(jīng)過幾年激烈競爭，

以太網(wǎng)（RoCE）贏了。

誰叫人家以太網(wǎng)（RoCE）是開放標(biāo)準(zhǔn)呢，

可跑在任何以太網(wǎng)硬件（支持RoCE）上。

“任何”兩個字語氣加重。

想想換昂貴設(shè)備的成本，

語氣還得再沉痛一些。

畢竟，賊船好上，不好下。

RoCE被視為在以太網(wǎng)的基礎(chǔ)上，

實(shí)現(xiàn)了更高效的數(shù)據(jù)傳輸。

你也可以不理解RoCE的技術(shù)原理

簡單說，以太網(wǎng)（RoCE）贏在開放，

朋友多，生態(tài)大。

其實(shí)競爭還是比拼了性價(jià)比。

雖然太網(wǎng)（RoCE）有暗坑，

對技術(shù)團(tuán)隊(duì)的要求也高，

但是，誰讓人家主打一個性價(jià)比呢？

再講一個錯誤的理解，

有人總說，英偉達(dá)這好那好，

對英偉達(dá)只會猛夸，

英偉達(dá)的IB網(wǎng)絡(luò)也最好。

實(shí)際上，以太網(wǎng)（RoCE）在萬卡規(guī)模，

已經(jīng)暗暗贏了。

現(xiàn)在馬上進(jìn)入72卡GPU的時期，

網(wǎng)絡(luò)“一戰(zhàn)”的硝煙似乎沒有消散。

我在寫網(wǎng)絡(luò)“一戰(zhàn)”的時候，

我的觀察是，

互聯(lián)網(wǎng)自誕生之日起就主打一個開放，

就像兩個人聊天，不能雞同鴨講，

不同廠商的設(shè)備之間，

也需要有“標(biāo)準(zhǔn)語言”來進(jìn)行“連接”。

因此，一種組織應(yīng)運(yùn)而生，

幫大家一起合作，

畢竟，實(shí)力固然重要，

聯(lián)合起來能更厲害，

接下來，我將討論這種有影響力的聯(lián)盟，

它在網(wǎng)絡(luò)技術(shù)中如何發(fā)揮不可或缺的力量。

（五）激進(jìn)的五大玩家

“網(wǎng)絡(luò)二戰(zhàn)”早就打響了第一槍，

戰(zhàn)場就是Scale up網(wǎng)絡(luò)。

新一輪網(wǎng)絡(luò)技術(shù)之間的較量又開始了，

參與的玩家很多，

準(zhǔn)確地說，他們是“非英偉達(dá)玩家”。

到底怎么玩呢？

假如每家都搞“私有化網(wǎng)絡(luò)”，

場面有點(diǎn)尷尬，

不如這樣，

還是基于以太網(wǎng)開放標(biāo)準(zhǔn)的改造，

既解決Scale up網(wǎng)絡(luò)的難題，

也對抗英偉達(dá)一家獨(dú)大。

以太網(wǎng)標(biāo)準(zhǔn)就像是制定了規(guī)則，

比如道路的寬度、車速的限制等，

保證不同公司的“車輛”都可以在這個“道路”上跑。

這個派系，依賴于以太網(wǎng)的基礎(chǔ)設(shè)施，

不僅有實(shí)力的廠商非常多，

而且還有專門的聯(lián)盟。

比如，超以太網(wǎng)聯(lián)盟，

UEC, Ultra Ethernet Consortium。

就是一個由科技巨頭組成的聯(lián)盟，

創(chuàng)建了一個開放標(biāo)準(zhǔn)來對抗英偉達(dá)。

我再細(xì)數(shù)一下，

非常激進(jìn)的五大廠商的玩法，

當(dāng)然，他們都是UEC聯(lián)盟成員。

第一，Meta公司。

LLAMA 3.1模型，

開源最好的模型，

堅(jiān)定地選擇以太網(wǎng)。

第二，AMD公司。

有人認(rèn)為英偉達(dá)這好那好 ，

無人能抗衡。

其實(shí)，AMD的GPU實(shí)力也在積蓄，

而且，AMD也有類似NVLink的技術(shù)，

叫Infinity Fabric（IF），

但沒有做類似于NV Switch這樣專屬技術(shù)。

而在基于以太網(wǎng)發(fā)展網(wǎng)絡(luò)，

即IF over Ethernet。

這是另外一個故事了，

找機(jī)會再細(xì)聊。

第三，特斯拉公司。

馬斯克特斯拉Tesla Dojo ，

發(fā)展出基于以太網(wǎng)的自定義傳輸協(xié)議(TTPoE)。

幾個大公司都有自研協(xié)議，替代RoCE和NVLINK，

當(dāng)然RoCE 自己也在提升。

有人批評特斯拉，說它是做車的，搞網(wǎng)絡(luò)不擅長。

它家剛出道的時候，做車也不擅長，

看看今天什么局面。

第四，xAI公司。

馬斯克xAI10萬卡單集群網(wǎng)絡(luò)，也基于以太網(wǎng)。

馬斯克可能是第一個，

也是唯一一個，

自動駕駛和AI大模型智算知識產(chǎn)權(quán)都有的老板。

沒辦法，首富唄。

第五，阿里云公司。

阿里云是AI大模型網(wǎng)絡(luò)頂配玩家，

數(shù)據(jù)中心早期入局者，

阿里云自研的通義大模型開源閉源通吃。

因此，阿里云得拿出來單聊，

他們近期還有一些大動作。

（六）各自為戰(zhàn) or 聯(lián)合起來

大爭之世，“聯(lián)”合起來非常重要，

號召聯(lián)合的前提是技術(shù)牛，

甚至說，技術(shù)牛，是聯(lián)合各方力量的一種資格。

發(fā)起聯(lián)盟，

基因和技術(shù)領(lǐng)先性都很重要。

阿里云是超以太網(wǎng)聯(lián)能盟（UEC）

技術(shù)咨詢委員會里唯一的中國公司，

也是網(wǎng)絡(luò)開源操作系統(tǒng)SONiC創(chuàng)始成員中唯一的中國公司，

有開放標(biāo)準(zhǔn)聯(lián)盟的基因。

而且，技術(shù)沉淀久。

ACM SIGCOMM這個學(xué)術(shù)會議，

是網(wǎng)絡(luò)通信領(lǐng)域全球最具影響力的會議之一

論文錄取率非常低，

其中網(wǎng)絡(luò)架構(gòu)的論文發(fā)表更難，

上一次該會發(fā)表的數(shù)據(jù)中心網(wǎng)絡(luò)架構(gòu)方向的論文，

還是2015年（谷歌Jupiter）。

阿里云在2019年在 SIGCOMM 上，

發(fā)表的首篇論文，

也是該頂會有史以來中國大陸企業(yè)“中”的第一篇。

2024年，HPN7.0架構(gòu)論文在 SIGCOMM 發(fā)表，

開啟了智算數(shù)據(jù)中心網(wǎng)絡(luò)架構(gòu)的新范式。

通義大模型的底層也使用該架構(gòu)。

這是阿里云基礎(chǔ)設(shè)施里的一個法寶。

為此，我求教了阿里云智能集團(tuán)研究員付斌章，

他告訴我，

對于超大規(guī)模的這種訓(xùn)練，

要求可靠性高，

HPN7.0架構(gòu)如何來保證可靠性呢？

它有個獨(dú)有的雙上聯(lián)技術(shù)。

在這個架構(gòu)里，

每個網(wǎng)卡會出兩個端口，

一個路徑壞了，

可走另外一個路徑。

否則如果這一個端口掛了，

這個任務(wù)就停掉了。

英偉達(dá)默認(rèn)只有一個端口，

而阿里云（比如PAI靈駿產(chǎn)品），

也用上了雙上聯(lián)組網(wǎng)技術(shù)，

每個網(wǎng)卡的兩個端口，

分別接到兩個交換機(jī)上，

在連接出現(xiàn)故障時可自動切換，

保證網(wǎng)絡(luò)可用性。

技術(shù)原理是兩個端口對應(yīng)兩個平面，

如圖所示。

學(xué)霸移步點(diǎn)擊這里有雙上聯(lián)技術(shù)詳細(xì)介紹

付斌章研究員還告訴我，

阿里云是全球最早做出51.2T這個容量的,

大規(guī)模商業(yè)用交換機(jī)。

我相信，從名字也可以看出來，

高通量以太網(wǎng)是在以太網(wǎng)這個公共組件上改造，

搞開放標(biāo)準(zhǔn)的聯(lián)盟，

我猜想，他們的口號可能呼之欲出了：

全球伙伴（非英偉達(dá)玩家）聯(lián)合起來，

打造智算網(wǎng)絡(luò)的“安卓（Android）”生態(tài)。

實(shí)際上，他們的聯(lián)盟愿景是，

基于開放、強(qiáng)大的以太網(wǎng)生態(tài)，

打造智算網(wǎng)絡(luò)的技術(shù)底座，

滿足Scale out和Scale up網(wǎng)絡(luò),

對性能、成本和可靠性的要求。

我認(rèn)為，高通量以太網(wǎng)等于UEC加UAL的中國版。

（七）附加題：單聊UAL

天下網(wǎng)絡(luò)，

合久必分，分久必合。

IB以太網(wǎng)之爭剛剛謝幕，

以太網(wǎng)交換機(jī)市場又將迎來新戰(zhàn)場。

蒙著一點(diǎn)神秘的面紗的UAL（Ultra Accelerator Link），

也加入了戰(zhàn)局。

標(biāo)準(zhǔn)沒有發(fā)布，

所以說，UAL蒙著神秘面紗。

10月30日，

UAL正式成立，新聞標(biāo)題直接喊話英偉達(dá)

《UALink 聯(lián)盟準(zhǔn)備與英偉達(dá)NVLink競爭》

且UAL有九大董事會成員，

來勢洶洶，

可惜沒有博通。

大爭之世，

到處紛爭，

外部爭，內(nèi)部也爭，

據(jù)“親愛的數(shù)據(jù)”獨(dú)家消息，

在UAL 聯(lián)盟內(nèi)部，已經(jīng)改革了一次，

UAL Switch拋棄了“PCIE Switch” 道路，

也轉(zhuǎn)向以太網(wǎng)，

這點(diǎn)還是相當(dāng)有前瞻性，

Scale-up 網(wǎng)絡(luò)規(guī)模越來越大，

我猜想，

可能某天就和Scale-out網(wǎng)絡(luò)合了，

畢竟，成本和性價(jià)比才是發(fā)展的硬道理。

AI大模型莫不例外，

只有基于共同的以太網(wǎng)，

才有合的可能。

One more thing

開頭我提到的那家知名大模型公司，

能不能亡羊補(bǔ)牢？

能補(bǔ)買NVLink，NVSwitch嗎？

答案很悲劇，

不能。

雖然GPU算力部分一樣，

但是設(shè)備在IO接口中，

沒有NVlink的接口，

只有PCIe的接口。

（完）