百萬Tokens推理成本降低100倍以上、DeepVerse技術(shù)路線圖重磅公開、未來三年大算力戰(zhàn)略清晰錨定——這幅AI算力進(jìn)化的宏圖正徐徐展開。

當(dāng)AI大模型從訓(xùn)練走向應(yīng)用，推理芯片的時(shí)代正在悄然來臨。2月3日，云天勵飛董事長兼 CEO 陳寧在“大算力芯片戰(zhàn)略前瞻會”詮釋了一個(gè)清晰的信號：All in AI大算力推理芯片，打造“中國版TPU”。

這家2014年成立于深圳的AI公司，在過去十年里走過了從小模型到大模型、從感知智能到通用智能的完整歷程。

1

機(jī)遇

“從2025年開始，接下來5～10年將是AI推理芯片的高光時(shí)刻?！标悓幗忉?，單一大模型的算力需求正在以驚人的速度增長。

2024年下半年，豆包大模型的每日TOKEN數(shù)量為0.12萬億；而到了2025年9月，這一數(shù)字已突破30萬億；三個(gè)月后，再次攀升至50萬億。

陳寧強(qiáng)調(diào)：“這些激增的TOKEN數(shù)量就是未來第四次工業(yè)革命的電和水，是真正的核心生產(chǎn)力”。而如此海量的TOKEN需要的不是訓(xùn)練，而是推理。

一個(gè)典型的例子，英偉達(dá)剛剛花了200億美元收購了一家ASIC推理芯片公司Grok，在短短四個(gè)月內(nèi)，Grok的市值從70億美元飆升至200億美元，增長速度已經(jīng)超越了英偉達(dá)。究其原因，陳寧認(rèn)為：“因?yàn)樵谶^去三年，推理芯片的增長已經(jīng)潛移默化地超越了訓(xùn)練芯片的增長?！?/p>

2

布局

云天勵飛的技術(shù)壁壘主要集中于兩方面：獨(dú)特的GPNPU芯片推理架構(gòu)和基于國產(chǎn)工藝的全面能力。

GPNPU并非單一概念，而是一個(gè)高度濃縮的名詞，包含了四個(gè)關(guān)鍵技術(shù)亮點(diǎn)：

首先是具有GPGPU級別的通用編程能力，實(shí)現(xiàn)CUDA兼容，讓客戶能夠在GPU上訓(xùn)練的模型“一行代碼”部署到云天勵飛芯片上。

其次是NPU帶來的推理效率提升，基于團(tuán)隊(duì)20年的NPU技術(shù)積累。由專用的指令集去實(shí)現(xiàn)單位硅芯片面積上更高效的計(jì)算密度，這也正是云天勵飛團(tuán)隊(duì)所擅長。

第三個(gè)亮點(diǎn)是3D memory結(jié)構(gòu)的引入，能夠?qū)崿F(xiàn)10倍于當(dāng)前訓(xùn)練芯片HBM的超大帶寬。

最后是“算力積木”架構(gòu)，通過Chiplet技術(shù)將多個(gè)Die封裝在單一芯片內(nèi)，滿足萬億級乃至十萬億級MOE架構(gòu)大模型的推理需求。

由此得出：“GPNPU 是中國版TPU的最優(yōu)解。”今年，云天勵飛也將全面推出GPNPU的架構(gòu)，并且打造更加豐富的生態(tài)。

3

差異

“訓(xùn)練芯片和推理芯片對于算力的需求完全不同?！标悓幗忉屃藘烧叩母緟^(qū)別。

訓(xùn)練芯片需要復(fù)雜的精度（16比特、64比特），對成本并不敏感；而推理芯片則更關(guān)注成本、效率和市場經(jīng)濟(jì)學(xué)，通常采用量化、剪枝技術(shù)，將復(fù)雜度從32比特降至16比特、8比特甚至更低。

“推理我們關(guān)注極致的性價(jià)比，要把百萬TOKEN的成本每年降低100倍，到2030年我們要實(shí)現(xiàn)百億TOKEN一分錢人民幣。”陳寧立下目標(biāo)。

這種對性價(jià)比的極致追求，也是云天勵飛選擇國產(chǎn)工藝的原因之一。早在2020年，他們就戰(zhàn)略性決定將工藝轉(zhuǎn)向國內(nèi)，全面擁抱國產(chǎn)工藝。云天勵飛CTO李愛軍非常自豪：“五年的時(shí)間，我們從芯片的設(shè)計(jì)到先進(jìn)的制程、封裝，整個(gè)芯片的全流程都實(shí)現(xiàn)了全國產(chǎn)。”

4

戰(zhàn)略

會上，云天勵飛提出了明確的三年規(guī)劃：將不遺余力投入大算力芯片DeepVerse的研發(fā)，圍繞推理成本、時(shí)延與吞吐的核心矛盾持續(xù)迭代，并按產(chǎn)品節(jié)奏梯度覆蓋市場需求。

陳寧展現(xiàn)出極強(qiáng)的信心：“在訓(xùn)練芯片領(lǐng)域，我們努力的目標(biāo)是持續(xù)追趕，保持差距不被拉大。但是在推理芯片領(lǐng)域，中國完全有機(jī)會依托豐富的應(yīng)用場景、電網(wǎng)和基礎(chǔ)設(shè)施能力進(jìn)行超車?！?/p>

5

生態(tài)

云天勵飛的戰(zhàn)略不僅僅停留在芯片層面。陳寧在演講中詳細(xì)介紹了該公司的“1+4”組織架構(gòu)調(diào)整：聚焦AI大算力推理芯片的同時(shí)，打造了四個(gè)事業(yè)部。

這些事業(yè)部構(gòu)成了云天勵飛“把推理芯片不僅做出來，更要做好、賣出去”的完整生態(tài)。具體而言，政企事業(yè)部是公司的基石，在各個(gè)行業(yè)沉淀了大量knowhow；智算事業(yè)部面向互聯(lián)網(wǎng)大廠；此外，他們還孵化了面向兒童的AI原生硬件智能體“嚕咔”?！斑@四個(gè)事業(yè)部讓云天勵飛成為中國最懂AI的推理芯片領(lǐng)軍企業(yè)?！?/p>

6

中國正站在第四次工業(yè)革命的門口。陳寧在演講結(jié)束時(shí)描繪了一幅歷史畫卷：“中國四大發(fā)明曾經(jīng)領(lǐng)先全球一兩千年。今天在能源、開源模型、應(yīng)用、基礎(chǔ)設(shè)施上，中國可以說在全球領(lǐng)先，唯獨(dú)AI芯片還未實(shí)現(xiàn)領(lǐng)先。”

AI推理芯片，正成為各國能否搶占第四次工業(yè)革命先機(jī)的關(guān)鍵。我們相信，隨著云天勵飛在國產(chǎn)大算力推理芯片上的全面布局，中國在這場AI芯片競賽中已經(jīng)找到了自己的跑道。

本文內(nèi)容資料源自公告及媒體公開報(bào)道，不構(gòu)成任何投資建議，如有任何問題，敬請讀者與我們聯(lián)系info@gsi24.com。

歡迎分享、點(diǎn)贊、在看，讓更多人看到中國“芯”突破！