无主之地2配置高吗|看真人裸体BBBBB|秋草莓丝瓜黄瓜榴莲色多多|真人強奷112分钟|精品一卡2卡3卡四卡新区|日本成人深夜苍井空|八十年代动画片

網(wǎng)易首頁(yè) > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

1.6B token,1290條均衡序列:螞蟻開(kāi)源QuitoBench,輔助AI精確洞察未來(lái)

0
分享至

你可能沒(méi)有意識(shí)到,但時(shí)間序列預(yù)測(cè)早已滲透到日常生活的方方面面。

打開(kāi)手機(jī)看天氣預(yù)報(bào),背后是氣象序列的預(yù)測(cè);雙十一零點(diǎn)搶購(gòu)不卡頓,靠的是提前預(yù)測(cè)流量峰值來(lái)做服務(wù)器擴(kuò)容;基金 App 里的收益走勢(shì)圖,背后也離不開(kāi)金融時(shí)間序列的建模。簡(jiǎn)單來(lái)說(shuō),時(shí)間序列預(yù)測(cè)就是讓機(jī)器根據(jù)過(guò)去的數(shù)據(jù),判斷接下來(lái)會(huì)發(fā)生什么。從能源調(diào)度到風(fēng)險(xiǎn)預(yù)警,幾乎所有需要"提前做準(zhǔn)備"的場(chǎng)景都離不開(kāi)它,是 AI 落地最廣、最剛需的能力之一。

近些年,時(shí)序預(yù)測(cè)的模型從 MLP 和 Transformer 兩大架構(gòu)的龍爭(zhēng)虎斗,到 Chronos、TimesFM、TiRex 等時(shí)序大模型的異軍突起,各類深度學(xué)習(xí)模型架構(gòu)與基模不斷涌現(xiàn)。

模型越來(lái)越多,但一個(gè)尷尬的問(wèn)題也隨之浮出水面:我們到底該怎么判斷,哪個(gè)模型真的更強(qiáng)?

做過(guò)時(shí)序預(yù)測(cè)的人大概都有過(guò)類似的經(jīng)歷。你在 ETT、Weather、Traffic 這些經(jīng)典數(shù)據(jù)集上跑出了不錯(cuò)的數(shù)字,信心滿滿地準(zhǔn)備上線。結(jié)果一換到自己的業(yè)務(wù)數(shù)據(jù),指標(biāo)大幅跳水。你以為是代碼的問(wèn)題,排查一圈之后發(fā)現(xiàn)——代碼沒(méi)問(wèn)題,問(wèn)題出在評(píng)測(cè)本身。

這不是個(gè)例,而是整個(gè)時(shí)序預(yù)測(cè)領(lǐng)域長(zhǎng)期面對(duì)的一個(gè)系統(tǒng)性困境。

考卷出了問(wèn)題,分?jǐn)?shù)還能信嗎?

如果把模型評(píng)測(cè)比作考試,那現(xiàn)在時(shí)間序列領(lǐng)域的這張"考卷",至少有四個(gè)不及格的地方。

第一,沒(méi)有統(tǒng)一的考卷。NLP 有 GLUE,視覺(jué)有 ImageNet,但時(shí)間序列預(yù)測(cè)至今沒(méi)有一個(gè)被廣泛認(rèn)可的標(biāo)準(zhǔn)評(píng)測(cè)基準(zhǔn)。研究者各自拼湊一組數(shù)據(jù)集跑實(shí)驗(yàn),結(jié)果難以橫向比較。

第二,考卷嚴(yán)重偏科。現(xiàn)有 benchmark 的數(shù)據(jù)分布高度集中。論文分析了兩個(gè)當(dāng)前主流的大規(guī)模 benchmark:GIFT-Eval 有 50.7% 的序列落在同一類 regime 里,Timer 更甚,達(dá)到 65.8%。這意味著什么?模型只要在這一類"主流題型"上表現(xiàn)好,總分就不會(huì)差——但這不代表它真正全面。就像一張數(shù)學(xué)試卷 70% 都是計(jì)算題,你很難從總分看出誰(shuí)的幾何更好。

第三,考生可能提前看過(guò)答案。當(dāng)前很多時(shí)序 foundation model 的預(yù)訓(xùn)練語(yǔ)料規(guī)模龐大,而公開(kāi) benchmark 被反復(fù)復(fù)用多年。測(cè)試集是否已經(jīng)被模型在預(yù)訓(xùn)練階段間接"見(jiàn)過(guò)"?這種數(shù)據(jù)泄漏風(fēng)險(xiǎn),正在悄悄侵蝕評(píng)測(cè)的可信度。

第四,題目太簡(jiǎn)單,區(qū)分不出真實(shí)水平。很多經(jīng)典數(shù)據(jù)集的序列長(zhǎng)度偏短,GIFT-Eval 中 50% 的序列不到 200 個(gè)時(shí)間步。這對(duì)于今天動(dòng)輒要做 long-context forecasting 的模型來(lái)說(shuō),根本評(píng)不出真正的能力上限。

這些問(wèn)題疊加在一起,造成了一個(gè)后果:排行榜上的名次,未必反映模型的真實(shí)能力。論文刷出來(lái)的 SOTA,換個(gè)場(chǎng)景可能就不 work 了。

現(xiàn)在,螞蟻集團(tuán)正式開(kāi)源 Quito 與 QuitoBench,嘗試重新出一張更公平的考卷。


項(xiàng)目地址:
● Website:https://hq-bench.github.io/quito/[1]
● Hugging Face:https://huggingface.co/datasets/hq-bench/quitobench[2]

16 億 token 的工業(yè)級(jí)語(yǔ)料,不只是"更大"

這次開(kāi)源包含兩個(gè)核心部分。

第一個(gè)是Quito,一個(gè)來(lái)自真實(shí)生產(chǎn)環(huán)境的大規(guī)模時(shí)間序列語(yǔ)料庫(kù)。數(shù)據(jù)來(lái)源于 Alipay 平臺(tái)的應(yīng)用流量,覆蓋金融、電商、廣告、基礎(chǔ)設(shè)施、風(fēng)控、IoT 等 9 個(gè)業(yè)務(wù)垂類——不是實(shí)驗(yàn)室里仿造的數(shù)據(jù),而是每天真正在跑的生產(chǎn)系統(tǒng)。

規(guī)模上,Quito 包含兩個(gè)子集:Quito-Min(22,522 條序列,10 分鐘粒度,約 7 億 token)和 Quito-Hour(12,544 條序列,1 小時(shí)粒度,約 10 億 token),總規(guī)模達(dá)到1.6B tokens。序列統(tǒng)一較長(zhǎng),最短也有 5,904 個(gè)時(shí)間步,足以支撐 context length 從 96 到 1024 的全范圍評(píng)測(cè)。


更關(guān)鍵的是數(shù)據(jù)來(lái)源的"干凈"。Quito 來(lái)自單一專有工業(yè)環(huán)境,與任何公開(kāi)預(yù)訓(xùn)練語(yǔ)料零重疊。這從根源上杜絕了數(shù)據(jù)泄漏的可能——無(wú)論模型的預(yù)訓(xùn)練語(yǔ)料有多大,都不可能在訓(xùn)練階段"見(jiàn)過(guò)"這些測(cè)試數(shù)據(jù)。

不按行業(yè)分,按"難不難預(yù)測(cè)"分

第二個(gè)核心部分是QuitoBench,從 Quito 中進(jìn)一步構(gòu)建的評(píng)測(cè)基準(zhǔn)。它最大的創(chuàng)新不在于規(guī)模,而在于組織方式。

傳統(tǒng) benchmark 按應(yīng)用領(lǐng)域分組:交通、電力、天氣。但領(lǐng)域標(biāo)簽其實(shí)是個(gè)很粗糙的分類方式。同樣是交通數(shù)據(jù),有的序列周期性極強(qiáng),幾乎可以"閉眼預(yù)測(cè)";有的則充滿突發(fā)脈沖和噪聲,任何模型都會(huì)掙扎。把它們?nèi)舆M(jìn)同一個(gè)"交通"桶里評(píng)測(cè),掩蓋的信息遠(yuǎn)比暴露的多。

QuitoBench 換了一個(gè)思路:按時(shí)間序列本身的統(tǒng)計(jì)特征來(lái)分類。具體來(lái)說(shuō),每條序列沿三個(gè)維度打標(biāo)簽——趨勢(shì)強(qiáng)度(Trend)、季節(jié)性強(qiáng)度(Seasonality)、可預(yù)測(cè)性(Forecastability)。三個(gè)維度各分高低,組合出 23 = 8 類 TSF Regime。


然后在這 8 個(gè)格子里做近乎均衡的采樣,最終得到 1,290 條測(cè)試序列,每類占比 10.5%–13.2%。對(duì)比 GIFT-Eval 和 Timer 動(dòng)輒 50%–65% 集中在單一 regime 的情況,QuitoBench 的均衡程度是質(zhì)的飛躍。


這種設(shè)計(jì)的好處很直觀:模型不能再靠"刷主流題型"上分了。aggregate metric 反映的是真實(shí)的全場(chǎng)景能力,而不是對(duì)某一類數(shù)據(jù)的過(guò)擬合。同時(shí),研究者可以按 regime 做細(xì)粒度診斷——你的模型到底是在哪類序列上翻車的,一目了然。

232,200 個(gè)評(píng)測(cè)實(shí)例,10 個(gè)模型,四個(gè)意外發(fā)現(xiàn)

作者在 QuitoBench 上評(píng)測(cè)了 10 個(gè)代表性模型,橫跨深度學(xué)習(xí)(CrossFormer、DLinear、iTransformer、PatchTST、TSMixer)、foundation model(Chronos-2、TimesFM-2.5、TiRex)和統(tǒng)計(jì)基線(Exponential Smoothing、Seasonal Naive)三大類。

實(shí)驗(yàn)覆蓋 3 種 context length × 3 種 forecast horizon × 2 種預(yù)測(cè)模式 = 18 種任務(wù)配置,在 1,290 條序列上共產(chǎn)生232,200 個(gè)評(píng)測(cè)實(shí)例。每個(gè)模型需要生成約 1600 萬(wàn)次預(yù)測(cè)——這個(gè)評(píng)測(cè)密度,在時(shí)序領(lǐng)域相當(dāng)罕見(jiàn)。


結(jié)果揭示了幾個(gè)頗具實(shí)踐意義的發(fā)現(xiàn)。

發(fā)現(xiàn)一:Context length 是模型選型的分水嶺。當(dāng)歷史窗口較短(L=96)時(shí),深度學(xué)習(xí)模型全面領(lǐng)先;但當(dāng)窗口拉長(zhǎng)到 L≥576,foundation model 開(kāi)始反超,到 L=1024 時(shí)優(yōu)勢(shì)進(jìn)一步擴(kuò)大。這說(shuō)明,模型選型不能只看"誰(shuí)的指標(biāo)最好",還要看你的業(yè)務(wù)場(chǎng)景能提供多長(zhǎng)的歷史數(shù)據(jù)。歷史短,用小模型;歷史長(zhǎng),foundation model 的預(yù)訓(xùn)練知識(shí)才能真正發(fā)揮出來(lái)。

發(fā)現(xiàn)二:可預(yù)測(cè)性,才是決定難度的關(guān)鍵。在 Trend、Seasonality、Forecastability 三個(gè)維度中,F(xiàn)orecastability 對(duì)預(yù)測(cè)誤差的影響最大。高可預(yù)測(cè)性序列的平均 MAE 為 0.278,低可預(yù)測(cè)性序列為 0.505,差距 1.81 倍。最容易和最困難的 regime 之間,誤差差距更是達(dá)到 3.64 倍。這也從數(shù)據(jù)層面驗(yàn)證了 QuitoBench"按統(tǒng)計(jì)特征分類"的設(shè)計(jì)邏輯——行業(yè)標(biāo)簽做不到的事,TSF Regime 做到了。

發(fā)現(xiàn)三:1M 參數(shù)的小模型,打贏了 200M 的大模型。總榜第一名是 CrossFormer,參數(shù)量約 1M。而它擊敗的對(duì)手包括 Chronos-2(~100M)和 TimesFM-2.5(~200M)。平均而言,深度學(xué)習(xí)模型在參數(shù)量少 59 倍的前提下,達(dá)到了接近甚至更好的效果。對(duì)于資源受限、推理成本敏感的工程場(chǎng)景,這是一個(gè)非常實(shí)際的結(jié)論:大不一定好,小而專可能更強(qiáng)。

發(fā)現(xiàn)四:加數(shù)據(jù)比加參數(shù)更有效。作者做了 scaling 實(shí)驗(yàn),分別沿"訓(xùn)練數(shù)據(jù)量"和"模型參數(shù)量"兩條軸擴(kuò)展。結(jié)論很明確:無(wú)論深度學(xué)習(xí)還是 foundation model,增加訓(xùn)練數(shù)據(jù)帶來(lái)的收益都顯著大于增加模型參數(shù)。CrossFormer 的訓(xùn)練數(shù)據(jù)從 10K 擴(kuò)展到 100M token,MAE 下降了 66%;而參數(shù)量擴(kuò)展到 1M 以上后,收益就開(kāi)始趨于平臺(tái)期。對(duì)時(shí)序領(lǐng)域來(lái)說(shuō),這意味著:與其追求更大的模型,不如先把數(shù)據(jù)做好。

時(shí)間序列預(yù)測(cè)這個(gè)方向,模型論文一篇接一篇,但評(píng)測(cè)基礎(chǔ)設(shè)施的建設(shè)遠(yuǎn)遠(yuǎn)沒(méi)跟上。ETT、Weather 這些數(shù)據(jù)集在發(fā)布多年后仍是標(biāo)配,不是因?yàn)樗鼈冏銐蚝茫且驗(yàn)闆](méi)有更好的替代品。

QuitoBench 的價(jià)值不是"又多了一個(gè)數(shù)據(jù)集",而是提出了一種新的 benchmark 設(shè)計(jì)范式:大規(guī)模、長(zhǎng)序列、分布均衡、無(wú)泄漏、工業(yè)真實(shí)場(chǎng)景——用時(shí)間序列的內(nèi)在屬性來(lái)組織評(píng)測(cè),而不是用行業(yè)標(biāo)簽。這讓我們終于有了一套足夠嚴(yán)肅的工具,來(lái)回答"這個(gè)模型到底行不行"這個(gè)最基本的問(wèn)題。


  1. https://hq-bench.github.io/quito/
  2. https://huggingface.co/datasets/hq-bench/quitobench

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
獨(dú)享世界杯射手王后,梅西能打破方丹單屆13球紀(jì)錄嗎?前兩場(chǎng)小組賽兩人進(jìn)球軌跡完全一樣

獨(dú)享世界杯射手王后,梅西能打破方丹單屆13球紀(jì)錄嗎?前兩場(chǎng)小組賽兩人進(jìn)球軌跡完全一樣

紅星新聞
2026-06-23 07:43:07
卷巨額遺產(chǎn)出逃英國(guó),給楊振寧戴綠帽子,翁帆身上的謠言有多離譜

卷巨額遺產(chǎn)出逃英國(guó),給楊振寧戴綠帽子,翁帆身上的謠言有多離譜

叨嘮
2026-05-27 04:13:37
從廣德車禍,看某些人性有多扭曲

從廣德車禍,看某些人性有多扭曲

走讀新生
2026-06-22 19:27:27
身價(jià)翻2.7倍!湖人舊將靠防守庫(kù)里一戰(zhàn)成名,如今收獲1900萬(wàn)合同

身價(jià)翻2.7倍!湖人舊將靠防守庫(kù)里一戰(zhàn)成名,如今收獲1900萬(wàn)合同

籃球圈里的那些事
2026-06-23 19:12:20
比賽還沒(méi)開(kāi)打,葡萄牙先迎致命暴擊,當(dāng)頭一棒,取勝烏茲別克懸了

比賽還沒(méi)開(kāi)打,葡萄牙先迎致命暴擊,當(dāng)頭一棒,取勝烏茲別克懸了

零度眼看球
2026-06-23 09:31:54
對(duì)于明天周三A股,我只說(shuō)4句話:第一,4175點(diǎn)大概率是個(gè)終點(diǎn)!

對(duì)于明天周三A股,我只說(shuō)4句話:第一,4175點(diǎn)大概率是個(gè)終點(diǎn)!

趨勢(shì)清風(fēng)俠
2026-06-23 18:20:46
人口告別世界第一?催生“二孩”無(wú)效后,國(guó)家終于向住房出手了!

人口告別世界第一?催生“二孩”無(wú)效后,國(guó)家終于向住房出手了!

混沌錄
2026-05-30 23:41:14
洛陽(yáng)“珠寶大王”年永安7年非法吸收存款221億,致洛陽(yáng)農(nóng)商行損失貸款11.63億元,26人獲刑2年至13年不等

洛陽(yáng)“珠寶大王”年永安7年非法吸收存款221億,致洛陽(yáng)農(nóng)商行損失貸款11.63億元,26人獲刑2年至13年不等

大風(fēng)新聞
2026-06-23 17:24:11
麥卡利斯特賽后與前主帥克洛普重逢,并送給他落場(chǎng)版球衣

麥卡利斯特賽后與前主帥克洛普重逢,并送給他落場(chǎng)版球衣

林子說(shuō)事
2026-06-23 08:52:22
1美元還值多少人民幣?2026年6月23日,最新人民幣兌美元匯率

1美元還值多少人民幣?2026年6月23日,最新人民幣兌美元匯率

說(shuō)故事的阿襲
2026-06-23 17:29:20
青春的律動(dòng):那不是一段時(shí)光,是一種還未被校準(zhǔn)的頻率

青春的律動(dòng):那不是一段時(shí)光,是一種還未被校準(zhǔn)的頻率

疾跑的小蝸牛
2026-06-23 20:42:56
偉大的2-2爆冷!佛得角再創(chuàng)歷史4-0橫掃!西班牙一戰(zhàn)改寫52年紀(jì)錄

偉大的2-2爆冷!佛得角再創(chuàng)歷史4-0橫掃!西班牙一戰(zhàn)改寫52年紀(jì)錄

童叔不飆車
2026-06-23 00:52:17
“再走幾步,可能就是生離死別!”上海醫(yī)生突然沖出診室,攔下一位老人!極易漏診,高危救活幾率只有15%

“再走幾步,可能就是生離死別!”上海醫(yī)生突然沖出診室,攔下一位老人!極易漏診,高危救活幾率只有15%

環(huán)球網(wǎng)資訊
2026-06-23 15:10:28
李楠:新賽季作為北京主教練,有信心再創(chuàng)首鋼籃球的輝煌

李楠:新賽季作為北京主教練,有信心再創(chuàng)首鋼籃球的輝煌

狼叔評(píng)論
2026-06-23 19:19:03
榮耀起訴400多家手機(jī)殼小店,開(kāi)了個(gè)很差的先例

榮耀起訴400多家手機(jī)殼小店,開(kāi)了個(gè)很差的先例

鳴金網(wǎng)
2026-06-22 15:27:23
王詩(shī)齡回長(zhǎng)沙過(guò)暑假,和爸媽同住1500w豪宅,李湘一身名牌像貴婦

王詩(shī)齡回長(zhǎng)沙過(guò)暑假,和爸媽同住1500w豪宅,李湘一身名牌像貴婦

小瘋子耶
2026-06-23 10:45:42
瘋狂!黃金,崩了

瘋狂!黃金,崩了

新浪財(cái)經(jīng)
2026-06-23 17:41:38
快扔掉,戴一天,輻射量相當(dāng)于拍117次胸片

快扔掉,戴一天,輻射量相當(dāng)于拍117次胸片

北青網(wǎng)-北京青年報(bào)
2026-06-22 11:00:34
重磅2換10大交易!熱火拆隊(duì)換字母!截胡凱爾特人,杰倫-布朗留隊(duì)

重磅2換10大交易!熱火拆隊(duì)換字母!截胡凱爾特人,杰倫-布朗留隊(duì)

Tracy的籃球博物館
2026-06-23 12:11:00
79歲老戲骨王奎榮將北京140平房子、2000?多萬(wàn)存款,都給了小37歲的妻子

79歲老戲骨王奎榮將北京140平房子、2000?多萬(wàn)存款,都給了小37歲的妻子

LULU生活家
2026-06-23 21:33:46
2026-06-23 22:20:49
開(kāi)源中國(guó) incentive-icons
開(kāi)源中國(guó)
每天為開(kāi)發(fā)者推送最新技術(shù)資訊
7823文章數(shù) 34546關(guān)注度
往期回顧 全部

科技要聞

48名中國(guó)開(kāi)發(fā)者聯(lián)名舉報(bào)蘋果

頭條要聞

河南南陽(yáng)曾47天查扣24輛冷鏈貨車:拍賣350萬(wàn)上繳國(guó)庫(kù)

頭條要聞

河南南陽(yáng)曾47天查扣24輛冷鏈貨車:拍賣350萬(wàn)上繳國(guó)庫(kù)

體育要聞

揚(yáng)尼斯去了邁阿密:凱爾特人怎么辦?

娛樂(lè)要聞

內(nèi)娛95后頂流格局發(fā)生潛移默化的變化

財(cái)經(jīng)要聞

屋頂光伏度苦夏

汽車要聞

施鵬澤:為什么奧迪E7X強(qiáng)調(diào)座艙氣味安全?

態(tài)度原創(chuàng)

游戲
手機(jī)
藝術(shù)
數(shù)碼
公開(kāi)課

狂賣到脫銷!Steam主機(jī)所有型號(hào)已在亞洲全部售罄

手機(jī)要聞

realme P4x 4G手機(jī)海外發(fā)布:8000mAh電池,6.8寸720P高刷屏

藝術(shù)要聞

每一筆都是情緒的電閃雷鳴:吳兆銘的油畫讓人不敢呼吸

數(shù)碼要聞

三星電子公眾號(hào)注銷!家電業(yè)務(wù)已官宣退出中國(guó)大陸市場(chǎng)

公開(kāi)課

李玫瑾:為什么性格比能力更重要?

無(wú)障礙瀏覽 進(jìn)入關(guān)懷版