2024年GitHub上有個現(xiàn)象：用本地大模型跑項目的開發(fā)者，平均star數(shù)是調(diào)API項目的3倍。這不是技術(shù)優(yōu)越感，是招聘市場正在悄悄改規(guī)則。

我剛學(xué)AI時也困惑過一件事——既然能自己訓(xùn)模型，為什么滿世界都在調(diào)OpenAI的接口？后來帶團(tuán)隊面試了200多人，發(fā)現(xiàn)這個問題的答案，和"要不要先學(xué)離線AI"直接掛鉤。

API是止痛藥，不是維生素

真實項目里，90%的AI需求用在線API就能解決。 sentiment分析？調(diào)接口。圖像分類？調(diào)接口。寫個營銷文案？還是調(diào)接口。

API的本質(zhì)是"計算外包"：你把數(shù)據(jù)發(fā)給別人的服務(wù)器，對方跑完模型把結(jié)果扔回來。

這套模式能活，是因為三個硬指標(biāo)：成本、速度、準(zhǔn)確度。訓(xùn)練一個能用的GPT-3級別模型，AWS賬單能燒掉一套房的首付。而調(diào)用API，單次成本按千分美分算。對創(chuàng)業(yè)公司來說，這不是選擇，是生存。

但止痛藥用久了會掩蓋病灶。我見過太多工程師，簡歷上寫著"3年AI經(jīng)驗"，實際技能樹只有調(diào)參和寫prompt。去年某大廠裁員，這批人最先被優(yōu)化——他們的工作確實能被更便宜的實習(xí)生替代。

離線AI是體檢報告，能暴露你懂多少

自己跑模型要處理什么？數(shù)據(jù)清洗、特征工程、模型選型、超參調(diào)優(yōu)、部署優(yōu)化、推理加速……每個環(huán)節(jié)都是面試高頻考點。

有個候選人讓我印象很深。他面算法崗時，簡歷上最普通的項目是"本地部署Llama 2做文本摘要"。但追問下去，他能講清楚為什么用4-bit量化、怎么在16G顯存里塞進(jìn)70B參數(shù)、KV cache怎么省內(nèi)存。

「這些細(xì)節(jié)API全幫你包了，」他說，「但面試官想知道的是，如果API掛了或者太貴，你能不能頂上。」

他拿到了offer，薪資比純API路線的同屆高40%。

兩條路線的真實成本賬

在線API的隱性成本很少有人算：網(wǎng)絡(luò)延遲、數(shù)據(jù)隱私、供應(yīng)商鎖定。某醫(yī)療AI公司去年被OpenAI漲價30%，遷移成本花了6個月。更麻煩的是，你的用戶數(shù)據(jù)在第三方服務(wù)器上轉(zhuǎn)了一圈，合規(guī)審計直接爆炸。

離線AI的門檻確實高。買顯卡、配環(huán)境、調(diào)CUDA，新手能卡在第一周。但2024年的工具鏈已經(jīng)變了：Ollama一鍵跑大模型，Hugging Face的transformers庫封裝了90%的 boilerplate，連量化都有現(xiàn)成腳本。

現(xiàn)在的離線AI，學(xué)習(xí)曲線比2019年低了至少兩個數(shù)量級。

我?guī)У膶嵙?xí)生里，有文科背景的女生，兩周內(nèi)用LoRA微調(diào)出了自己的寫作助手。她的秘訣是：先跑通一個完整pipeline，再回頭補理論。這和當(dāng)年學(xué)編程先寫"Hello World"一樣，反饋周期決定能堅持多久。

招聘市場的信號已經(jīng)變了

拉勾網(wǎng)2024年Q3的數(shù)據(jù)（內(nèi)部渠道）：要求"模型微調(diào)經(jīng)驗"的崗位，平均薪資比"API集成經(jīng)驗"高34%。更關(guān)鍵的是，前者HC（headcount，招聘名額）同比增長217%，后者只增了12%。

這不是說API技能沒價值。恰恰相反，懂API是基本功，但只懂API是減分項。面試官的邏輯很簡單：你能調(diào)API，應(yīng)屆生培訓(xùn)兩周也能調(diào)。你能改模型結(jié)構(gòu)、能優(yōu)化推理速度、能處理邊緣設(shè)備的部署——這才是護(hù)城河。

有個細(xì)節(jié)很有意思。某頭部云廠商的AI解決方案架構(gòu)師崗位，JD里寫的是"熟悉主流API"，但面試五輪里四輪在問模型壓縮和分布式訓(xùn)練。HR后來解釋：寫API是為了篩掉完全沒接觸過的，真正要招的是能兜底的人。

我的建議：先離線，后在線，再融合

具體路徑可以拆成三步。第一階段，用Hugging Face或本地框架（如PyTorch、TensorFlow）跑通3-5個經(jīng)典模型，理解數(shù)據(jù)怎么流、損失怎么降、參數(shù)怎么更新。第二階段，接入API做對比實驗，同一任務(wù)用本地模型和GPT-4各跑一遍，記錄準(zhǔn)確率、延遲、成本的三角關(guān)系。第三階段，做混合架構(gòu)——敏感數(shù)據(jù)本地處理，復(fù)雜任務(wù)扔給云端，自己寫調(diào)度邏輯。

走完這三步，你簡歷上的"AI經(jīng)驗"才是立體的。

最后說個反直覺的事：現(xiàn)在學(xué)離線AI，反而比五年前更容易出成果。因為API把簡單需求都吸走了，留下來的硬核問題競爭更少。GitHub上有個用純CPU跑70B模型的項目，作者是個獨立開發(fā)者，star數(shù)已經(jīng)超過很多大廠開源的API封裝工具。

他的README里寫了一句話，被我存進(jìn)了收藏夾：「當(dāng)所有人都在搭便車時，修車的人最值錢?！?/p>

你現(xiàn)在的工作流里，本地模型和API的比例是多少？如果API明天漲價十倍，你的系統(tǒng)能撐多久？