2015年，谷歌內(nèi)部有個(gè)團(tuán)隊(duì)每天花70%的時(shí)間在干同一件事：找數(shù)據(jù)。不是訓(xùn)練模型，不是調(diào)參數(shù)，就是找半年前寫好的特征工程代碼，然后發(fā)現(xiàn)同事早就改過(guò)三版了。

這個(gè)場(chǎng)景后來(lái)被寫成一篇論文，標(biāo)題很學(xué)術(shù)：《TFX: A TensorFlow-Based Production-Scale Machine Learning Platform》。但論文里藏了個(gè)腳注——他們建了個(gè)叫"特征存儲(chǔ)"（Feature Store）的東西，專門解決"特征重復(fù)造輪子"的問(wèn)題。

8年后，這套系統(tǒng)成了機(jī)器學(xué)習(xí)基礎(chǔ)設(shè)施里最沉默的組件。沉默到大多數(shù)從業(yè)者甚至不知道它該存在。

01 | 特征工程：機(jī)器學(xué)習(xí)最昂貴的"手工活"

先解釋一個(gè)反直覺的事實(shí)。業(yè)界有個(gè)估算：數(shù)據(jù)科學(xué)家80%的時(shí)間花在數(shù)據(jù)準(zhǔn)備上，其中大部分又是特征工程。特征是什么？簡(jiǎn)單說(shuō)，就是把原始數(shù)據(jù)（用戶點(diǎn)擊、交易記錄、傳感器讀數(shù)）轉(zhuǎn)換成模型能吃的數(shù)字。

舉個(gè)例子。預(yù)測(cè)用戶會(huì)不會(huì)買某款耳機(jī)，原始數(shù)據(jù)是"用戶A在頁(yè)面停留了47秒"。特征工程要把它變成："過(guò)去7天瀏覽同類商品的次數(shù)""當(dāng)前頁(yè)面與購(gòu)物車的距離""該用戶歷史轉(zhuǎn)化率分位數(shù)"——三列數(shù)字，三個(gè)不同的SQL查詢，三個(gè)不同的時(shí)序窗口。

這套活兒有兩個(gè)致命痛點(diǎn)。

第一，線上和線下要一致。訓(xùn)練模型用歷史數(shù)據(jù)（批處理），預(yù)測(cè)時(shí)用實(shí)時(shí)數(shù)據(jù)（流處理）。同一個(gè)"過(guò)去7天點(diǎn)擊次數(shù)"，批處理算一遍，流處理再算一遍，代碼路徑不同，結(jié)果小數(shù)點(diǎn)后第三位對(duì)不上，模型直接崩。

第二，團(tuán)隊(duì)之間重復(fù)造輪子。支付團(tuán)隊(duì)的"用戶活躍度"和推薦團(tuán)隊(duì)的"用戶活躍度"，名字一樣，定義差了一個(gè)"是否排除退款訂單"。兩個(gè)團(tuán)隊(duì)各自維護(hù)，各自踩坑，各自在凌晨三點(diǎn)被告警叫醒。

2017年，Uber的機(jī)器學(xué)習(xí)平臺(tái)團(tuán)隊(duì)統(tǒng)計(jì)過(guò)：全公司有超過(guò)10000個(gè)特征在跑，其中30%是重復(fù)或近似的定義。他們花了18個(gè)月清理，清理完發(fā)現(xiàn)又長(zhǎng)了8000個(gè)新的。

02 | 特征存儲(chǔ)：不是數(shù)據(jù)庫(kù)，是"特征版本的Git"

特征存儲(chǔ)（Feature Store）的解法，是把特征當(dāng)成代碼來(lái)管。

核心能力就三條。第一，統(tǒng)一計(jì)算層。同一個(gè)特征定義，自動(dòng)翻譯成批處理（Spark/Flink）和實(shí)時(shí)服務(wù)（Redis/Cassandra）兩套實(shí)現(xiàn)，保證線上線下的數(shù)值一致。第二，版本和血緣。誰(shuí)改了定義、什么時(shí)候改的、影響了哪些模型，全鏈路可追溯。第三，跨團(tuán)隊(duì)共享。特征注冊(cè)成服務(wù)，其他團(tuán)隊(duì)直接調(diào)用，不用知道底層是Hive表還是Kafka流。

這聽起來(lái)像數(shù)據(jù)倉(cāng)庫(kù)？區(qū)別很微妙。數(shù)據(jù)倉(cāng)庫(kù)存的是原始數(shù)據(jù)，特征存儲(chǔ)存的是"業(yè)務(wù)語(yǔ)義化的計(jì)算結(jié)果"。數(shù)據(jù)倉(cāng)庫(kù)的表結(jié)構(gòu)變一次，下游全崩；特征存儲(chǔ)的接口保持穩(wěn)定，底層實(shí)現(xiàn)可以換。

2019年，Netflix開源了他們的特征存儲(chǔ)工具Feast。文檔第一頁(yè)寫了句話：「我們的推薦模型有數(shù)千個(gè)特征，其中40%是跨團(tuán)隊(duì)復(fù)用的。」這句話背后是個(gè)組織變革——特征從"個(gè)人資產(chǎn)"變成"公共基礎(chǔ)設(shè)施"。

國(guó)內(nèi)跟進(jìn)的速度更快。2020年，字節(jié)跳動(dòng)的火山引擎、螞蟻的KubeWharf、美團(tuán)的MLX，幾乎同時(shí)上線特征存儲(chǔ)模塊。不是跟風(fēng)，是規(guī)模逼的。字節(jié)內(nèi)部一個(gè)推薦場(chǎng)景，特征更新頻率從小時(shí)級(jí)壓到分鐘級(jí)，沒(méi)有統(tǒng)一存儲(chǔ)層，工程師得住在機(jī)房。

03 | 沉默的真相：為什么從業(yè)者"感覺不到"它存在

特征存儲(chǔ)的尷尬在于，它解決的是"沒(méi)有它會(huì)很痛"的問(wèn)題，而不是"有了它會(huì)很爽"的問(wèn)題。

對(duì)比就很明顯。模型訓(xùn)練框架（PyTorch、JAX）天天發(fā)論文，因?yàn)?快了多少倍"容易量化。MLOps工具鏈（Weights & Biases、MLflow）融資故事好講，因?yàn)?實(shí)驗(yàn)管理"看得見摸得著。特征存儲(chǔ)呢？它的價(jià)值是"減少了多少線上事故""節(jié)省了多少重復(fù)開發(fā)"，這兩個(gè)指標(biāo)很難寫進(jìn)PPT。

更深層的原因是組織慣性。很多公司的機(jī)器學(xué)習(xí)團(tuán)隊(duì)，數(shù)據(jù)工程和算法工程是分開的。數(shù)據(jù)工程管ETL，算法工程管模型，中間的特征層沒(méi)人認(rèn)領(lǐng)。特征存儲(chǔ)要落地，得先打破這個(gè)分工，讓"特征即服務(wù)"成為共識(shí)。

2022年，Gartner把特征存儲(chǔ)列入"數(shù)據(jù)管理技術(shù)成熟度曲線"的"萌芽期"。同期，數(shù)據(jù)編織（Data Fabric）、數(shù)據(jù)網(wǎng)格（Data Mesh）這些概念炒得火熱。特征存儲(chǔ)的供應(yīng)商（Tecton、Feast、Hopsworks）集體選擇了低調(diào)——他們的大客戶名單里，金融和零售占了一大半，這些行業(yè)不愛聲張自己的基礎(chǔ)設(shè)施。

一個(gè)細(xì)節(jié)：Tecton的官網(wǎng)案例頁(yè)，客戶logo打了碼，描述寫成"某全球前十零售商"。不是不想炫耀，是合同里簽了保密條款。特征存儲(chǔ)太靠近業(yè)務(wù)核心，知道"某電商的實(shí)時(shí)特征延遲壓到50毫秒"，約等于知道它的推薦系統(tǒng)架構(gòu)。

04 | 2024年的拐點(diǎn)：實(shí)時(shí)化和大模型帶來(lái)的新壓力

兩件事正在改變特征存儲(chǔ)的處境。

第一是實(shí)時(shí)推薦的普及。抖音、淘寶首頁(yè)的"猜你喜歡"，特征延遲從小時(shí)級(jí)→分鐘級(jí)→秒級(jí)→毫秒級(jí)，每壓一個(gè)數(shù)量級(jí)，架構(gòu)復(fù)雜度翻倍。沒(méi)有特征存儲(chǔ)的統(tǒng)一調(diào)度，流處理和批處理的代碼會(huì)分裂成兩個(gè)完全不同的系統(tǒng)，維護(hù)成本指數(shù)級(jí)上升。

第二是大模型的"特征回潮"。GPT-4這類模型似乎減少了對(duì)人工特征的依賴，但落地到推薦、廣告、風(fēng)控這些場(chǎng)景，企業(yè)發(fā)現(xiàn)還是要喂結(jié)構(gòu)化特征。大模型負(fù)責(zé)理解語(yǔ)義，傳統(tǒng)模型負(fù)責(zé)記憶用戶行為，兩者的特征存儲(chǔ)需求反而疊加了。

Feast的GitHub倉(cāng)庫(kù)有個(gè)有趣的數(shù)據(jù)：2023年貢獻(xiàn)者數(shù)量翻倍，但issue里最高頻的關(guān)鍵詞是"文檔不足"。這說(shuō)明什么？用的人多了，但上手門檻還在。特征存儲(chǔ)的抽象層設(shè)計(jì)，需要同時(shí)理解數(shù)據(jù)工程、流計(jì)算和機(jī)器學(xué)習(xí)，這種復(fù)合人才本身就很稀缺。

國(guó)內(nèi)廠商的路徑更務(wù)實(shí)?；鹕揭姘烟卣鞔鎯?chǔ)和推薦系統(tǒng)打包成"增長(zhǎng)套件"，客戶不用理解概念，直接買效果。螞蟻的KubeWharf開源了特征存儲(chǔ)的存儲(chǔ)引擎，但計(jì)算層綁定內(nèi)部的Ray集群——開放一部分，鎖定一部分，典型的云廠商策略。

一個(gè)產(chǎn)品經(jīng)理的觀察：特征存儲(chǔ)的采購(gòu)決策，往往不是技術(shù)負(fù)責(zé)人拍板，是風(fēng)控負(fù)責(zé)人或增長(zhǎng)負(fù)責(zé)人。他們算的是賬——線上事故一次損失多少，重復(fù)開發(fā)一個(gè)特征人力成本多少。這個(gè)賬算清楚，技術(shù)選型反而簡(jiǎn)單了。

2024年初，Tecton完成了C輪融資，估值未披露。同期，F(xiàn)east的母公司Tecton和Hopsworks開始爭(zhēng)奪"實(shí)時(shí)特征存儲(chǔ)"的定義權(quán)。這個(gè)細(xì)分領(lǐng)域的戰(zhàn)爭(zhēng)，比特征存儲(chǔ)本身熱鬧得多。

特征存儲(chǔ)會(huì)不會(huì)成為像數(shù)據(jù)庫(kù)一樣的基礎(chǔ)設(shè)施？取決于機(jī)器學(xué)習(xí)工程化的深度。如果模型上線還是"手工作坊"模式，特征存儲(chǔ)就是可選組件；如果模型成為像軟件一樣持續(xù)交付的產(chǎn)品，特征存儲(chǔ)就是必選項(xiàng)。

你現(xiàn)在用的推薦系統(tǒng)，背后有多少特征在實(shí)時(shí)計(jì)算？這個(gè)數(shù)，連很多從業(yè)者都答不上來(lái)。