无主之地2配置高吗|看真人裸体BBBBB|秋草莓丝瓜黄瓜榴莲色多多|真人強奷112分钟|精品一卡2卡3卡四卡新区|日本成人深夜苍井空|八十年代动画片

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

推理變得比訓(xùn)練更重要:阿里 AI 調(diào)整背后的技術(shù)趨勢

0
分享至


推理經(jīng)濟(jì)的最終受益者,不是擁有最強(qiáng)芯片的人,而是擁有最多 Token 消耗場景的人,這對中國是個(gè)好消息。

Token 經(jīng)濟(jì)賣的每一個(gè) Token,都是一次推理調(diào)用。不是訓(xùn)練,不是微調(diào)——是推理。

4 月 8 日,阿里成立集團(tuán)技術(shù)委員會(huì),三個(gè) CTO 級別的角色分管模型、基礎(chǔ)設(shè)施和推理平臺,推理平臺的負(fù)責(zé)人吳澤明同時(shí)擔(dān)任召集人——日常調(diào)度權(quán)在他手上。三周前,阿里剛剛組建了 Alibaba Token Hub 事業(yè)群,要求所有關(guān)聯(lián)業(yè)務(wù)圍繞 Token 進(jìn)行商業(yè)化。兩件事放在一起看,指向同一個(gè)判斷:在 Token 經(jīng)濟(jì)的鏈條上,推理是最緊迫的瓶頸。

這個(gè)判斷的經(jīng)濟(jì)學(xué)很簡單。訓(xùn)練是資本開支——花幾億美元跑幾個(gè)月,產(chǎn)出一組權(quán)重參數(shù),完事。推理是運(yùn)營成本——每一個(gè)用戶的每一次提問、每一個(gè) Agent 的每一步執(zhí)行,都要消耗推理算力。訓(xùn)練像修路,推理像收費(fèi)站。路修一次,收費(fèi)站永遠(yuǎn)開著。

阿里不是唯一得出這個(gè)結(jié)論的人。黃仁勛在 GTC 2026 上提出"Token 工廠經(jīng)濟(jì)學(xué)",稱 Token 將成為新的大宗商品,數(shù)據(jù)中心是生產(chǎn) Token 的工廠,每瓦吞吐量決定商業(yè)競爭力。他甚至說,未來工程師的薪酬將包含 Token 配額。

一家中國互聯(lián)網(wǎng)公司用組織架構(gòu)來回應(yīng)"推理優(yōu)先",NVIDIA 用產(chǎn)品路線圖來回應(yīng)"推理優(yōu)先"。兩個(gè)完全不同的物種,得出了同一個(gè)結(jié)論。這已經(jīng)超出了技術(shù)迭代的范疇——AI 產(chǎn)業(yè)鏈的利潤分配方式正在被重寫。


推理成本在暴跌。a16z 的研究給這個(gè)趨勢取了個(gè)名字叫 LLMflation:同等性能的模型,推理成本每年下降約 10 倍。GPT-3 水平的推理,2021 年每百萬 Token 要 60 美元,到 2024 年降到了 0.06 美元——三年降了 1000 倍。Epoch AI 的數(shù)據(jù)更細(xì)致:不同任務(wù)的推理價(jià)格下降速度從每年 9 倍到 900 倍不等,取決于任務(wù)難度和模型更新節(jié)奏。

NVIDIA 的產(chǎn)品路線圖直接映射了這個(gè)趨勢。Blackwell 平臺把推理成本比上一代 Hopper 降了約 10 倍。2026 年下半年量產(chǎn)的 Vera Rubin 平臺承諾再降 10 倍——核心賣點(diǎn)不再是峰值算力,而是每 Token 成本。當(dāng)全球最大的 AI 芯片公司把定價(jià)敘事從"算力密度"轉(zhuǎn)向"Token 成本",競爭維度已經(jīng)換了坐標(biāo)系。

但這里有一個(gè)反直覺的悖論:單位 Token 價(jià)格暴跌,企業(yè) AI 總支出反而在飆升。原因是 Agent。傳統(tǒng) chatbot 一輪對話消耗幾百個(gè) Token,一個(gè) Agent 工作流可能要消耗幾萬甚至幾十萬個(gè) Token——它需要多步推理、工具調(diào)用、上下文維護(hù)、錯(cuò)誤重試。OpenClaw 引爆的 Agent 浪潮讓 Token 消耗量以數(shù)量級上升。OpenRouter 平臺的數(shù)據(jù)顯示,2026 年初 Agent 類應(yīng)用的周度 Token 調(diào)用量出現(xiàn)了翻倍級增長,貢獻(xiàn)了平臺絕大部分增量。


Token 價(jià)格降了三個(gè)數(shù)量級,Token 消耗量升了三個(gè)數(shù)量級,兩條曲線對沖之后,企業(yè)的 AI 總賬單反而在變厚。推理已經(jīng)從成本項(xiàng)變成了核心基礎(chǔ)設(shè)施開支——就像電力之于工廠,你不會(huì)因?yàn)殡妰r(jià)下降就減少用電量,你會(huì)用更多電來跑更多機(jī)器。

推理產(chǎn)能因此成了整個(gè)行業(yè)的命門。關(guān)鍵問題不再是誰的模型最聰明,而是誰能以最低成本、最高效率、最穩(wěn)定地供應(yīng)推理算力。AWS 推 Inferentia 和 Trainium,Google 把 TPU v6e 做到讓 Midjourney 的月支出從 210 萬美元降到 70 萬美元,所有云廠商都在自研推理芯片——因?yàn)橥评硎浅掷m(xù)的運(yùn)營成本,誰能壓低這個(gè)成本,誰就在 Token 經(jīng)濟(jì)里占據(jù)優(yōu)勢位。

這個(gè)趨勢在中國有完全不同的含義。


美國對中國 AI 芯片的出口管制,打在了訓(xùn)練上,沒有完全打在推理上。

這不是偶然的。訓(xùn)練大模型需要最先進(jìn)制程的芯片、最高的算力密度、最大的顯存帶寬,需要成千上萬張卡通過高速互聯(lián)組成集群一起跑。制裁的每一條限制——算力上限、互聯(lián)帶寬限制、先進(jìn)制程封鎖——都精準(zhǔn)卡住了訓(xùn)練場景的關(guān)鍵瓶頸。

推理不一樣。推理對峰值算力的要求遠(yuǎn)低于訓(xùn)練,對成本效率和能效比的要求更高。一張訓(xùn)練卡要跑幾個(gè)月,一張推理卡可能同時(shí)服務(wù)幾千個(gè)用戶的請求。推理場景更看重吞吐量、延遲、每瓦性能——這些維度上的差距,比峰值算力的差距要小得多。

推理,是國產(chǎn)芯片替代最可能跑通的賽道。

本文僅供會(huì)員閱讀

后續(xù)內(nèi)容包括:

國產(chǎn)芯片的非對稱競爭策略 推理經(jīng)濟(jì)重構(gòu) AI 產(chǎn)業(yè)利潤分配 中國的優(yōu)勢在哪里

歡迎來我的知識星球

周二到周四,我將每天提供一份互聯(lián)網(wǎng)/科技/消費(fèi)等行業(yè)的觀察,可能是獨(dú)家消息,可能是趨勢分析,也可能是不方便在其他渠道公開的內(nèi)容。

星球初建,前 20 名成員將享受系統(tǒng)可能設(shè)定的最低價(jià) 50/年,之后隨著內(nèi)容增多,價(jià)格也會(huì)提高。


特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
幸運(yùn)星+全焦段4K Live!榮耀600 Pro深度評測:3K-4K元檔拍照神機(jī)

幸運(yùn)星+全焦段4K Live!榮耀600 Pro深度評測:3K-4K元檔拍照神機(jī)

IT168
2026-05-25 20:35:59
證監(jiān)會(huì)發(fā)聲!中國是世界經(jīng)濟(jì)增長的主要貢獻(xiàn)者,境外投資者持有A股流通市值超過4萬億元

證監(jiān)會(huì)發(fā)聲!中國是世界經(jīng)濟(jì)增長的主要貢獻(xiàn)者,境外投資者持有A股流通市值超過4萬億元

每日經(jīng)濟(jì)新聞
2026-05-28 17:13:27
總分超王治郅歷史第7!胡金秋20+8完勝王哲林 難阻遺憾惜敗

總分超王治郅歷史第7!胡金秋20+8完勝王哲林 難阻遺憾惜敗

醉臥浮生
2026-05-28 21:39:12
384:0全票通過!普京已簽字,俄羅斯放出終極底牌,中國該效仿嗎

384:0全票通過!普京已簽字,俄羅斯放出終極底牌,中國該效仿嗎

流史歲月
2026-05-28 19:45:03
法網(wǎng)大冷!世界第一辛納2-3遭塞倫德羅逆轉(zhuǎn) 疑似中暑終結(jié)30連勝

法網(wǎng)大冷!世界第一辛納2-3遭塞倫德羅逆轉(zhuǎn) 疑似中暑終結(jié)30連勝

醉臥浮生
2026-05-28 21:51:56
曝央行要求大型國有銀行5月加大放貸力度,但若不解決消費(fèi),是治標(biāo)不治本

曝央行要求大型國有銀行5月加大放貸力度,但若不解決消費(fèi),是治標(biāo)不治本

爆角追蹤
2026-05-28 17:07:33
江蘇如東岔河鎮(zhèn)一潤滑油企業(yè)突發(fā)火災(zāi),官方通報(bào)無人員傷亡 目擊者:濃煙已逐漸散去

江蘇如東岔河鎮(zhèn)一潤滑油企業(yè)突發(fā)火災(zāi),官方通報(bào)無人員傷亡 目擊者:濃煙已逐漸散去

紅星新聞
2026-05-28 20:17:23
“國產(chǎn)GPU第一股”摩爾線程開盤大漲468.78%,市值超3000億元!

“國產(chǎn)GPU第一股”摩爾線程開盤大漲468.78%,市值超3000億元!

和訊網(wǎng)
2026-05-28 17:32:02
為了賴掉周星馳8000萬,他們親手葬送了900億的影視帝國。

為了賴掉周星馳8000萬,他們親手葬送了900億的影視帝國。

流蘇晚晴
2026-05-27 18:41:20
湖北大娘硬訛收割機(jī)后續(xù)!大批車主逃離,小麥爛地里,也沒人敢去

湖北大娘硬訛收割機(jī)后續(xù)!大批車主逃離,小麥爛地里,也沒人敢去

老貓觀點(diǎn)
2026-05-28 07:26:11
曝俄羅斯或失去頓涅茨克全境!烏克蘭逐步掌握前線主動(dòng)權(quán)

曝俄羅斯或失去頓涅茨克全境!烏克蘭逐步掌握前線主動(dòng)權(quán)

項(xiàng)鵬飛
2026-05-28 17:38:41
曾飾演裘千尺,91歲羅蘭談沒在TVB工作了:超齡,公司不再續(xù)約

曾飾演裘千尺,91歲羅蘭談沒在TVB工作了:超齡,公司不再續(xù)約

紅星新聞
2026-05-28 18:10:02
蔚來汽車?yán)畋髮φ麄€(gè)行業(yè)悲觀,稱中國汽車很難回到過去的“黃金時(shí)代"

蔚來汽車?yán)畋髮φ麄€(gè)行業(yè)悲觀,稱中國汽車很難回到過去的“黃金時(shí)代"

齊天候
2026-05-28 17:30:13
震驚!網(wǎng)傳武漢一婚介所男性資料只剩20多份,女性激增到3500多份

震驚!網(wǎng)傳武漢一婚介所男性資料只剩20多份,女性激增到3500多份

火山詩話
2026-05-28 13:25:07
特朗普在內(nèi)閣會(huì)議再強(qiáng)調(diào),目前中美關(guān)系“非常好”| 黃仁勛披露隨特朗普訪華細(xì)節(jié):特朗普總統(tǒng)給我打電話,他不知道我不去,堅(jiān)持讓我上飛機(jī)

特朗普在內(nèi)閣會(huì)議再強(qiáng)調(diào),目前中美關(guān)系“非常好”| 黃仁勛披露隨特朗普訪華細(xì)節(jié):特朗普總統(tǒng)給我打電話,他不知道我不去,堅(jiān)持讓我上飛機(jī)

都市快報(bào)橙柿互動(dòng)
2026-05-28 21:47:49
余承東吹爆問界M9,稱其“地球最強(qiáng)”,評論區(qū)一點(diǎn)面子都不給!

余承東吹爆問界M9,稱其“地球最強(qiáng)”,評論區(qū)一點(diǎn)面子都不給!

譚談社會(huì)
2026-05-28 16:21:33
河南夫妻割麥被刁難后續(xù):雙方已調(diào)解,村民直播澄清,網(wǎng)友不買賬

河南夫妻割麥被刁難后續(xù):雙方已調(diào)解,村民直播澄清,網(wǎng)友不買賬

瀲滟晴方DAY
2026-05-28 17:41:01
性,正在成為職場流通的硬資源!

性,正在成為職場流通的硬資源!

燈錦年
2026-05-28 17:45:31
入侵前兆!荷蘭戰(zhàn)艦海空一體強(qiáng)闖中國領(lǐng)土,我軍主動(dòng)使用電磁壓制

入侵前兆!荷蘭戰(zhàn)艦海空一體強(qiáng)闖中國領(lǐng)土,我軍主動(dòng)使用電磁壓制

共工之錨
2026-05-28 12:30:57
“晾了三天,終于臭了”!不少人連夜搶購,已賣爆

“晾了三天,終于臭了”!不少人連夜搶購,已賣爆

深圳晚報(bào)
2026-05-27 08:23:58
2026-05-28 22:36:49
灑家君澤
灑家君澤
我所知道的過去,我所期待的未來
50文章數(shù) 11關(guān)注度
往期回顧 全部

科技要聞

利潤跌27%:快手只剩“可靈”這張牌?

頭條要聞

20萬飛天茅臺搭售40萬黔茅酒 老板參加"峰會(huì)"后稱被耍

頭條要聞

20萬飛天茅臺搭售40萬黔茅酒 老板參加"峰會(huì)"后稱被耍

體育要聞

如果雷霆拼圖是這水平 馬刺確實(shí)打不過

娛樂要聞

林俊杰七七與大哥嫂子的瓜剪不斷理還亂

財(cái)經(jīng)要聞

長鑫科技IPO過會(huì),市值會(huì)到幾萬億?

汽車要聞

新款吉利星愿6.18萬起售 一鏡到底尋找爆款密碼

態(tài)度原創(chuàng)

手機(jī)
游戲
親子
公開課
軍事航空

手機(jī)要聞

先睹為快:蘋果iOS 27全新Siri界面示意圖曝光

經(jīng)典JRPG新作今日發(fā)售!主機(jī)平臺竟無中文 僅PC支持

親子要聞

專家解讀|孩子不愛吃蔬菜怎么辦?

公開課

李玫瑾:為什么性格比能力更重要?

軍事要聞

美鎖定伊朗打擊新目標(biāo) 考慮重啟軍事行動(dòng)

無障礙瀏覽 進(jìn)入關(guān)懷版