无主之地2配置高吗|看真人裸体BBBBB|秋草莓丝瓜黄瓜榴莲色多多|真人強奷112分钟|精品一卡2卡3卡四卡新区|日本成人深夜苍井空|八十年代动画片

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

HyperEyes:并行多模態(tài)搜索智能體的效率革命

0
分享至



現(xiàn)有的開源多模態(tài)搜索智能體普遍受困于「裁剪 - 再搜索」的串行處理模式,面對多目標(biāo)時(shí)往往陷入交互冗長、錯(cuò)誤級聯(lián)累積的泥沼。

為此,小紅書研究團(tuán)隊(duì)提出了一款全新架構(gòu)的模型:HyperEyes。通過統(tǒng)一定位與搜索的動(dòng)作空間、構(gòu)建并行可學(xué)習(xí)數(shù)據(jù)以及雙粒度效率感知強(qiáng)化學(xué)習(xí)的全棧設(shè)計(jì),HyperEyes 成功實(shí)現(xiàn)了從「搜得更深」到「搜得更寬」的并行多模態(tài)搜索范式躍遷。





  • 論文地址:https://arxiv.org/abs/2605.07177
  • 代碼地址:https://github.com/DeepExperience/HyperEyes

背景:多模態(tài)搜索智能體的「串行困局」

當(dāng)前主流的 Agent 在面對包含多個(gè)實(shí)體的復(fù)雜圖片時(shí),往往只能采用笨拙的「N 輪串行調(diào)用」策略。

這種傳統(tǒng)的處理路徑帶來了三重難以逾越的困境:首先是極大的交互冗余,原本一句話的多實(shí)體查詢被迫退化為多次單實(shí)體搜索,導(dǎo)致延遲劇增;其次是錯(cuò)誤放大的多米諾骨牌效應(yīng),前置定位一旦發(fā)生偏差,后續(xù)的搜索結(jié)果將被全部污染;最后是模型訓(xùn)練中普遍存在的獎(jiǎng)勵(lì)偏差與「信用分配」問題。

現(xiàn)有模型往往僅以「最終答案對錯(cuò)」作為唯一獎(jiǎng)勵(lì)標(biāo)準(zhǔn),這不僅會(huì)導(dǎo)致智能體為了追求表面準(zhǔn)確率而養(yǎng)成「暴力多搜」的壞習(xí)慣,引入更多噪聲;更致命的是,這種粗粒度的稀疏獎(jiǎng)勵(lì)會(huì)帶來粗暴的「連坐懲罰」—— 在那些最終失敗的探索軌跡中,原本正確、富有邏輯的中間推理和工具調(diào)用也被一并全盤否定,導(dǎo)致模型根本無法從失敗中有效汲取局部經(jīng)驗(yàn)。

方法:從動(dòng)作空間、數(shù)據(jù)到 RL 的「全棧式」效率重塑



為了讓智能體真正具備「一次出手,多目標(biāo)并發(fā)」的內(nèi)生能力,HyperEyes 研究團(tuán)隊(duì)在動(dòng)作空間、數(shù)據(jù)合成與強(qiáng)化學(xué)習(xí)三個(gè)維度上進(jìn)行了徹底的底層重構(gòu)。

傳統(tǒng)的智能體通常將「視覺裁剪」和「網(wǎng)絡(luò)搜索」作為兩個(gè)獨(dú)立的步驟,而HyperEyes 打破了這一隔離,提出了「統(tǒng)一定位即搜索」(UGS)的動(dòng)作空間重構(gòu)方案。它將視覺定位框直接作為檢索動(dòng)作的內(nèi)嵌參數(shù),使得一次函數(shù)調(diào)用就能并發(fā)攜帶多個(gè)目標(biāo)框。這一設(shè)計(jì)從物理層面徹底打通了單輪交互內(nèi)多目標(biāo)并發(fā)的通路。

然而,空有架構(gòu)還不夠,開源社區(qū)長期缺乏「并行搜索」的訓(xùn)練語料。為此,研究團(tuán)隊(duì)設(shè)計(jì)了一套精密的合成流水線。他們首先將多類圖片拼接,合成出必須同時(shí)進(jìn)行定位與檢索才能解答的視覺查詢;接著基于圖譜隨機(jī)游走,構(gòu)造出多約束的交集問題并嚴(yán)格剔除捷徑解;最后,通過漸進(jìn)式拒絕采樣(PRS)技術(shù),在嚴(yán)格的遞增輪次預(yù)算下,提純出 3 萬條「零冗余」的并行行為種子數(shù)據(jù),完美解決了模型 SFT 冷啟動(dòng)的難題。

在最核心的強(qiáng)化學(xué)習(xí)(RL)對齊階段,HyperEyes 徹底顛覆了傳統(tǒng) RL 的「唯結(jié)果論」范式。傳統(tǒng)的稀疏獎(jiǎng)勵(lì)往往會(huì)引發(fā)雙重隱患:缺乏效率約束的獎(jiǎng)勵(lì)機(jī)制會(huì)縱容模型養(yǎng)成「冗余試錯(cuò)」的惰性,以犧牲推理速度為代價(jià)換取準(zhǔn)確率;更糟糕的是,在處理長周期任務(wù)時(shí),粗暴的結(jié)果導(dǎo)向會(huì)帶來極其不公平的「連坐懲罰」—— 即便是一次堪稱完美的中間推理過程,也會(huì)因?yàn)樽罱K環(huán)節(jié)的失誤被徹底抹殺,導(dǎo)致模型在復(fù)雜探索中迷失方向。



針對這一問題,團(tuán)隊(duì)創(chuàng)新性地提出了「宏觀 + 微觀」的雙粒度效率感知強(qiáng)化學(xué)習(xí)框架。在宏觀軌跡層面,系統(tǒng)引入了 TRACE(動(dòng)態(tài)參考的成本效率獎(jiǎng)勵(lì))機(jī)制。這并不是一個(gè)一刀切的步數(shù)死命令,而是一把「自我超越」的動(dòng)態(tài)標(biāo)尺。系統(tǒng)會(huì)將模型當(dāng)前的工具調(diào)用表現(xiàn)與標(biāo)尺對比,只有比標(biāo)尺更高效才能獲得獎(jiǎng)勵(lì)。在每個(gè) Epoch 結(jié)束后,系統(tǒng)會(huì)自動(dòng)用本輪表現(xiàn)最好、步數(shù)最少的軌跡去刷新并收緊標(biāo)尺。這就像跳高比賽,橫桿隨著模型能力的提升越調(diào)越高,逼迫模型不斷擠出水分。

而在微觀 Token 層面,為了精準(zhǔn)搶救失敗軌跡中的「正確中間過程」,HyperEyes 引入了 OPD(策略內(nèi)蒸餾)機(jī)制。這一機(jī)制只在軌跡最終答錯(cuò)時(shí)才會(huì)啟動(dòng),屆時(shí)會(huì)引入一個(gè) 235B 的滿血版教師模型,為失敗軌跡中的每一步提供稠密的 Token 級監(jiān)督信號,精準(zhǔn)打撈那些原本正確的中間規(guī)劃。

這種「僅在失敗時(shí)蒸餾」的非對稱設(shè)計(jì),完美避免了對學(xué)生模型「高效并發(fā)」本能的覆蓋。成功時(shí)由宏觀獎(jiǎng)勵(lì)主導(dǎo)效率,失敗時(shí)由微觀蒸餾托底糾偏,宏微觀的嚴(yán)絲合縫,徹底釋放了多模態(tài)大模型的并發(fā)檢索天性。

IMEB Benchmark:把「搜索效率」作為重要評估維度

現(xiàn)有多模態(tài)榜單普遍存在「只看準(zhǔn)不看快」的弊端。為了糾正這一導(dǎo)向,團(tuán)隊(duì)發(fā)布了首個(gè)包含 300 條極具挑戰(zhàn)性多實(shí)體視覺評測基準(zhǔn)的 IMEB (Image Multi-Entity Benchmark)。

與之配套,團(tuán)隊(duì)還提出了「成本感知評分」 (CAS)。該評分標(biāo)準(zhǔn)在統(tǒng)一標(biāo)尺下,將準(zhǔn)確率、Token 消耗和工具調(diào)用輪次進(jìn)行聯(lián)合評估,把傳統(tǒng)的答案質(zhì)量換算為「單位延遲下的有效信息密度」,從根本上遏制了大模型靠堆砌算力暴力刷榜的行為。



實(shí)驗(yàn)結(jié)果與核心發(fā)現(xiàn)

在隨后的 6 大主流基準(zhǔn)測試中,HyperEyes 展現(xiàn)出了極具統(tǒng)治力的表現(xiàn),實(shí)現(xiàn)了準(zhǔn)確率與效率的 Pareto 占優(yōu)。全面建立開源 SOTA 并非虛言 ——HyperEyes-30B 以64.0%的準(zhǔn)確率超越同量級最強(qiáng)開源模型 VDR 達(dá)9.9%,而其平均工具調(diào)用輪次僅為 VDR 的不到五分之一(2.2 對比 11.6)。而其 235B 版本更是以僅1.1%的微弱差距逼近閉源旗艦 Gemini-3.1-Pro。



在極為嚴(yán)苛的 CAS 成本效率評分中,30B 版本的表現(xiàn)達(dá)到了次優(yōu)開源模型的7.6倍,證明其每一單位算力輸出的信息密度都極高。消融實(shí)驗(yàn)也證實(shí)了,這種底層的動(dòng)作空間重構(gòu)設(shè)計(jì),對傳統(tǒng)的「LLM 外掛裁剪」或「代碼沙箱裁剪」構(gòu)成了降維打擊。



更有意思的是其面對噪聲的強(qiáng)魯棒性。在真假證據(jù)混合的干擾測試中,HyperEyes 這種「敢于少搜、一次看全」的并行策略,反而大幅規(guī)避了過度檢索帶來的幻覺陷阱。



在一個(gè)面對 6 人同框復(fù)雜問答的真實(shí)測試案例中,傳統(tǒng) Agent 因?yàn)椤钢鹨徊眉?+ 搜索」的笨拙邏輯將流程拖拽至 12 輪,最終因噪聲累積而答錯(cuò);而 HyperEyes 首輪即并發(fā)定位并檢索了全部 6 人,僅用 3 輪便給出精準(zhǔn)答案,直觀地展現(xiàn)了什么叫「一次出手,看清全局」。



結(jié)語:多模態(tài)搜索智能體的下一站,是「效率即智能」

長期以來,大家普遍認(rèn)為多模態(tài)搜索必須通過串行加深來保證準(zhǔn)確度,而 HyperEyes 打破了這一固有慣性。它用翔實(shí)的實(shí)驗(yàn)證明了,在 Agent 訓(xùn)練中,「準(zhǔn)確率」與「效率」完全可以協(xié)同進(jìn)化。

隨著多模態(tài) Agent 逐漸步入電商比價(jià)、視覺檢索、實(shí)時(shí)交互等真實(shí)的高并發(fā)業(yè)務(wù)場景,從「搜得更深」轉(zhuǎn)向「搜得更寬」,必將成為下一代智能體角逐的核心競爭力。

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
趕在普京抵京前,李顯龍?jiān)L華5天,罕見不去北京,但目的非常明確

趕在普京抵京前,李顯龍?jiān)L華5天,罕見不去北京,但目的非常明確

書紀(jì)文譚
2026-05-19 11:26:05
婚后6年妻子拒絕夫妻生活,強(qiáng)行一次,妻子舉起鐵錘結(jié)束丈夫生命

婚后6年妻子拒絕夫妻生活,強(qiáng)行一次,妻子舉起鐵錘結(jié)束丈夫生命

易玄
2026-05-19 19:01:31
發(fā)現(xiàn)一個(gè)現(xiàn)象:中產(chǎn)返貧三件套,已經(jīng)升級為六件套了!

發(fā)現(xiàn)一個(gè)現(xiàn)象:中產(chǎn)返貧三件套,已經(jīng)升級為六件套了!

番外行
2026-05-18 10:25:35
外交部評高市早苗與特朗普之通話,注意這個(gè)詞!

外交部評高市早苗與特朗普之通話,注意這個(gè)詞!

新民周刊
2026-05-19 09:10:47
為什么75寸電視才2500?不是買不起,是真的沒必要買

為什么75寸電視才2500?不是買不起,是真的沒必要買

老特有話說
2026-05-18 16:32:15
皇馬剛敲定穆里尼奧,巴薩就官宣重磅簽約,沖西甲3連冠+歐冠冠軍

皇馬剛敲定穆里尼奧,巴薩就官宣重磅簽約,沖西甲3連冠+歐冠冠軍

球場沒跑道
2026-05-18 22:36:43
中方收到美媒消息,7國準(zhǔn)備掀桌,和中國掰手腕,名單上沒1個(gè)善茬

中方收到美媒消息,7國準(zhǔn)備掀桌,和中國掰手腕,名單上沒1個(gè)善茬

阿腩講娛樂
2026-05-19 04:25:22
官方:恒大足校破產(chǎn)重整案已被受理,總負(fù)債28.88億元

官方:恒大足校破產(chǎn)重整案已被受理,總負(fù)債28.88億元

懂球帝
2026-05-19 12:11:03
巴西足協(xié)主席:我也驚訝內(nèi)馬爾入選,這方面安帥有完全自主權(quán)

巴西足協(xié)主席:我也驚訝內(nèi)馬爾入選,這方面安帥有完全自主權(quán)

懂球帝
2026-05-19 07:25:21
上海交大調(diào)查541名糖尿病人士,吃驚發(fā)現(xiàn):患糖尿病的人,有7共性

上海交大調(diào)查541名糖尿病人士,吃驚發(fā)現(xiàn):患糖尿病的人,有7共性

寶哥精彩賽事
2026-05-19 13:11:28
1.2億巨頭助攻,哈弗茨一劍封喉!阿森納接近奪冠,曼城已無退路

1.2億巨頭助攻,哈弗茨一劍封喉!阿森納接近奪冠,曼城已無退路

我的護(hù)球最獨(dú)特
2026-05-19 05:00:34
馬自達(dá)悄悄換標(biāo):從鍍鉻翅膀到單色極簡,車企集體"扁平化"圖什么

馬自達(dá)悄悄換標(biāo):從鍍鉻翅膀到單色極簡,車企集體"扁平化"圖什么

摸魚算法
2026-05-19 06:06:07
哈里斯:若民主黨重新掌權(quán),就應(yīng)立即推行激進(jìn)的憲法與政治變革

哈里斯:若民主黨重新掌權(quán),就應(yīng)立即推行激進(jìn)的憲法與政治變革

鍋鍋愛歷史
2026-05-18 22:43:50
突發(fā)!2.2萬股民踩雷,跨界半導(dǎo)體告吹,20cm一字跌停

突發(fā)!2.2萬股民踩雷,跨界半導(dǎo)體告吹,20cm一字跌停

財(cái)經(jīng)智多星
2026-05-19 11:41:54
安徽反腐:奚芳被開除黨籍和公職!另有多人被通報(bào)

安徽反腐:奚芳被開除黨籍和公職!另有多人被通報(bào)

鳳凰網(wǎng)安徽
2026-05-19 17:28:29
昊鉑 S600 預(yù)售發(fā)布,20 萬就有四驅(qū)和雙腔空懸了

昊鉑 S600 預(yù)售發(fā)布,20 萬就有四驅(qū)和雙腔空懸了

愛范兒
2026-05-18 17:44:29
安帥遭吐槽!巴西最好中鋒落選世界杯,34歲內(nèi)馬爾憑什么鎖定名額

安帥遭吐槽!巴西最好中鋒落選世界杯,34歲內(nèi)馬爾憑什么鎖定名額

聽我說球
2026-05-19 09:18:49
迄今為止,天安門城樓上只掛過12個(gè)人畫像,其中一人僅掛了1天

迄今為止,天安門城樓上只掛過12個(gè)人畫像,其中一人僅掛了1天

文史達(dá)觀
2025-05-08 12:39:14
許家印當(dāng)年視察沈陽時(shí)奢靡到什么地步了?

許家印當(dāng)年視察沈陽時(shí)奢靡到什么地步了?

維納斯的眼淚
2026-05-18 12:22:27
正常人可以偶爾偷吃一顆偉哥嗎?有什么副作用?本文為你講出實(shí)情

正常人可以偶爾偷吃一顆偉哥嗎?有什么副作用?本文為你講出實(shí)情

健康科普365
2026-05-09 21:05:04
2026-05-19 20:08:49
機(jī)器之心Pro incentive-icons
機(jī)器之心Pro
專業(yè)的人工智能媒體
13036文章數(shù) 142651關(guān)注度
往期回顧 全部

科技要聞

馬斯克敗訴,法院判他起訴OpenAI太晚了

頭條要聞

菲總統(tǒng)稱不希望卷入任何與臺(tái)灣有關(guān)的戰(zhàn)爭 外交部回應(yīng)

頭條要聞

菲總統(tǒng)稱不希望卷入任何與臺(tái)灣有關(guān)的戰(zhàn)爭 外交部回應(yīng)

體育要聞

文班亞馬:沒拿到MVP,就證明自己是MVP

娛樂要聞

姚晨刪博難平眾怒,為什么她還能蹦噠

財(cái)經(jīng)要聞

從賣流量到賣Token,運(yùn)營商算力生意破局

汽車要聞

配置全家桶 全新海獅05這次升級全在點(diǎn)上

態(tài)度原創(chuàng)

親子
本地
數(shù)碼
公開課
軍事航空

親子要聞

小兒抽動(dòng)癥 并不是絕癥 家長們不要慌

本地新聞

別搜晉江小說了,去看真的晉江

數(shù)碼要聞

叫板Intel、AMD!NVIDIA首款自研CPU交付:CUDA之父上門送貨

公開課

李玫瑾:為什么性格比能力更重要?

軍事要聞

特朗普暫緩打擊伊朗 稱系應(yīng)中東三國請求

無障礙瀏覽 進(jìn)入關(guān)懷版