亚洲中文字幕乱码亚洲-蜜桃成熟视频在线观看-免费中文字幕视频在线-中国五十路熟妇洗澡视频-亚洲av伊人啪啪c-国产精品成人一区二区-国产自拍视频一区在线观看-成人一区不卡二区三区四区-亚洲情精品中文字幕99在线

網易首頁 > 網易號 > 正文 申請入駐

VL-LN Bench:模擬「邊走邊問找具體目標」的真實導航場景

0
分享至



本工作由上海人工智能實驗室、中國科學技術大學、浙江大學、香港大學 的研究者們共同完成。


https://mp.weixin.qq.com/s/Sbac5L2fUbnF2TBBW8O1xg?click_id=48



  • 論文標題:VL-LN Bench: Towards Long-horizon Goal-oriented Navigation with Active Dialogs
  • 項目主頁:https://0309hws.github.io/VL-LN.github.io/
  • ArXiv 論文:https://arxiv.org/abs/2512.22342
  • Hugging Face 數(shù)據集: https://huggingface.co/datasets/InternRobotics/VL-LN-Bench
  • Hugging Face 模型:https://huggingface.co/InternRobotics/VL-LN-Bench-basemodel
  • GitHub 代碼庫:https://github.com/InternRobotics/VL-LN

交互式實例導航任務

(Interactive Instance Goal Navigation, IIGN)

如果將一臺在視覺語言導航(VLN)任務中表現(xiàn)優(yōu)異的機器人直接搬進家庭場景,往往會遇到不少實際問題。

首先是使用門檻偏高:傳統(tǒng) VLN 需要用戶給出又長又精確的路線式指令,例如 “從門口直走三步,看到門右轉,再往前……”,這會顯著增加溝通成本,降低日常使用體驗。

相比之下,人們更期待一種更自然的交互方式,比如只用隨口一句 “找到我的背包” 即可。這樣的設定更接近目標物體導航(ObjectNav)任務,但它也存在明顯不足:機器人只會找到場景內任意一個背包交差,而無法定位用戶真正需要的書包,這顯然無法滿足需求。

正因為真實場景里用戶的表達常常簡短且含糊,而機器人又必須把目標精確落實到某一個具體實例上,交互式實例導航才顯得格外關鍵。機器人既不能指望用戶一開始就把所有信息交代清楚,也不能用 “找到同類就算完成” 的方式草草應付;相反,它應在探索過程中主動提問、逐步澄清歧義,像人一樣把 “到底是哪一個” 問明白,再高效準確地完成用戶的需求。



交互式實例導航示例:用戶要求機器人找到場景中某一張凳子(綠框),但存在大量相似干擾項(紅框),因此機器人需在探索中結合觀察主動提問,逐步縮小候選范圍,直到鎖定目標。

構建 VL-LN 基準:

面向 IIGN 任務的自動化數(shù)據收集及評測

語言交互是人們日常交互最常見的形式之一,具身智能體要更好地融入人類生活也需要具有進行這種高效的信息交流形式的能力。不同于傳統(tǒng) VLN 僅僅聚焦 “導航動作(Navigation)執(zhí)行得好不好”,VL-LN 還關注機器人能否在導航過程中與人類進行高效的語言交互(Language+Navigation)來提升任務的成功率與效率。

為此,VL-LN 面向交互式實例導航任務構建了一套自動化數(shù)據收集管線,并依托 InternVLA-N1 標準化模型訓練評測

自動化數(shù)據收集管線



交互式實例導航數(shù)據收集流程

數(shù)據收集包含三個步驟,作者首先整理了場景元數(shù)據,進而生成能用于在線采樣的序列(episode)數(shù)據,最后在規(guī)則驅動的交互機制下批量采集交互導航訓練軌跡(trajectory),具體內容包括:

場景元數(shù)據處理:基于 MMScan 對 MP3D 場景的標注信息,將按房間分散的物體信息整合成全屋級的元數(shù)據,主要包括兩個字典:目標實例字典(instance dictionary,存儲每個物體的空間關系、屬性等基本信息)和區(qū)域字典(region dictionary,存儲房間的位置、物體等信息)

序列生成:每個有效序列由起始位姿、導航指令、目標實例的可停止視點三個主要信息組成。針對每一個目標實例作者均提供兩個版本的導航指令。一種導航指令只有目標實例的類別(Partial instruction,用于交互式實例導航任務,必須靠對話消歧),另一種導航指令是能在場景內唯一鎖定目標實例的完整描述(Full instruction,可用于評測訓練非交互的任務)。可停止視點(view point)指機器人在導航過程中可以合法停止并判定 “已找到目標” 的一組視點位置。

交互導航軌跡采集:該階段主要采用一個集成了基于邊界點的探索算法(Frontier-Based Exploration)與目標實例分割器的智能體。在數(shù)據采集過程中,智能體除探索未知區(qū)域外,還會按規(guī)則主動提出三類問題:屬性(目標實例長什么樣?)、路線(如何到達目標?)和目標消歧(是否為眼前的實例?),從而生成相應的交互式導航軌跡。

通過該流程,作者構建了大規(guī)模交互式實例導航數(shù)據以支撐模型訓練。下圖給出了數(shù)據的總體統(tǒng)計。作為首個大規(guī)模交互式實例導航數(shù)據集,其主要優(yōu)勢在于:

  • 規(guī)模:40k導航序列,相比現(xiàn)有交互導航數(shù)據集(約7k)提升一個量級
  • 多樣性:覆蓋150+物體類別與3類問答(屬性 / 位置 / 消歧),自由組合形成豐富訓練樣本;
  • 難度覆蓋:包含長時程軌跡(steps > 300)與多輪對話樣本(dialog turns > 5),覆蓋復雜困難場景。



第一行分別展示了每條軌跡的路徑步數(shù)、對話輪數(shù)和每輪對話長度的頻率直方圖;第二行展示了問題類型與目標類型的統(tǒng)計結果,以及對話中高頻詞的詞云圖。

NPC 支撐的自動化在線評測基準

為了評測智能體完成交互式實例導航(IIGN)的能力,并與非交互式實例導航(IGN)進行對比,VL-LN 基準提供了可用于測試兩類任務的測試集。針對交互式實例導航的自動化評測,VL-LN 還實現(xiàn)了一個由 GPT-4o 驅動的 NPC,它能夠回答智能體在導航過程中提出的問題。此外,為了評估智能體提問效率,VL-LN 定義新的指標 MSP(Mean Success Progress),用于衡量主動對話帶來的增益。

從結果到原因:

交互式實例導航的能力與挑戰(zhàn)

通過使用不同的數(shù)據對 Qwen2.5-VL-7B-Instruct 進行微調,作者訓練了三個模型。具體訓練所使用的數(shù)據如下:

  • VLLN-O (object):VLN + ObjectNav 軌跡數(shù)據
  • VLLN-I (instance):VLN + ObjectNav + IGN 軌跡數(shù)據
  • VLLN-D (dialog):VLN + ObjectNav + IIGN 軌跡數(shù)據(論文的核心模型)

評測同時覆蓋兩類任務:

  • IIGN(交互式實例導航):允許提問(對話輪數(shù)限制在 5 輪)
  • IGN(實例導航):不允許對話,但提供足以唯一鎖定目標實例的全量指令

實驗結果如下表所示



為了進一步確定模型在交互式實例導航任務上的性能和瓶頸,研究團隊對實驗結果進行系統(tǒng)性復盤,并將實驗結論總結如下:



VL-LN Bench 錯誤類型分布



不同對話輪次上限下的 IIGN 性能

對話消歧在任務存在歧義時顯著提升成功率:在 IIGN 與 IGN 上,具備提問能力的 VLLN-D 成功率均高于僅會探索的 VLLN-I,成功率分別提升6.0%2.6%。在對話輪次上限消融中,隨著上限由0增至5,VLLN-D 的 SR 由15.4%提升至20.2%。

物體 — 圖像對齊是核心瓶頸:無論在 IIGN 還是 IGN 任務中,約 70% 的失敗都源于目標未被成功檢測,說明性能瓶頸主要不在導航策略,而在于目標實例與圖像觀測之間的對齊能力。

相較于全量信息設置,問答機制帶來的信息增益仍然有限:VLLN-D 在 IIGN 上的成功率為 20.2%,低于其在無法提問、但具備全量信息的 IGN 上的 21.8%,說明對當前模型而言,對話帶來的增益仍弱于信息補全帶來的增益。

與人類仍有顯著差距:論文設置人類 IIGN 測試(一人負責提問與探索,另一人負責回答),結果顯示人類平均僅需2輪對話即可達到93%成功率,表明當前模型與人類水平仍存在巨大差距。

結語

VL-LN Bench 是一個面向長時程交互式實例導航(IIGN)任務的高質量、高挑戰(zhàn)且體系完備的評測基準,可系統(tǒng)評估智能體在 3D 環(huán)境中的長程探索、實例級目標識別與對話消歧能力。

與此同時,基準配套自動化數(shù)據采集管線與 NPC 評測機制,為交互式導航能力的訓練與評估提供了一條可規(guī)?;?、可復現(xiàn)的標準化路徑。評測結果清晰表明:引入主動對話能夠顯著提升智能體在 IIGN 與 IGN 任務中的整體表現(xiàn),但同時也揭示了當前方法在實例級感知對齊與高信息增益提問策略等關鍵環(huán)節(jié)上仍存在明顯短板,為未來面向空間智能體的 “會走” 到 “會邊走邊問” 的技術演進提供了研究方向與啟發(fā)。

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
女子高空拋撒百萬港幣后續(xù):正面照曝光,原因公開,親屬曝出內情

女子高空拋撒百萬港幣后續(xù):正面照曝光,原因公開,親屬曝出內情

解鎖世界風云
2026-04-15 20:34:10
特朗普稱有能力在“一小時內”摧毀伊朗的橋梁和發(fā)電廠

特朗普稱有能力在“一小時內”摧毀伊朗的橋梁和發(fā)電廠

新華社
2026-04-15 20:15:07
麥當娜:與保鏢的性愛視頻,被保鏢拍賣后,她的反應讓人稱贊

麥當娜:與保鏢的性愛視頻,被保鏢拍賣后,她的反應讓人稱贊

七阿姨愛八卦
2026-04-15 17:23:47
南通一客運站掛出招租橫幅!一代人的擠車記憶,真的落幕了?

南通一客運站掛出招租橫幅!一代人的擠車記憶,真的落幕了?

好通網
2026-04-15 08:46:44
江西男子徐平安去世,年僅24歲,愛健身一身肌肉,確診后不到一年

江西男子徐平安去世,年僅24歲,愛健身一身肌肉,確診后不到一年

社會日日鮮
2026-04-15 05:53:10
企業(yè)增值稅的設計:虧損了也要交稅

企業(yè)增值稅的設計:虧損了也要交稅

生命可以承受之輕
2026-04-15 06:48:23
兩岸命運掌握在自己手上!鄭麗文喊話賴清德:為和平大業(yè)愿意溝通

兩岸命運掌握在自己手上!鄭麗文喊話賴清德:為和平大業(yè)愿意溝通

海峽導報社
2026-04-15 17:04:04
采訪了100個娶了小三的男人,他們幾乎都說了同一句話,讓人恍然

采訪了100個娶了小三的男人,他們幾乎都說了同一句話,讓人恍然

千秋文化
2026-04-15 20:18:32
A股迎重磅新政:三十年來首次延長交易時長,牛市要來了

A股迎重磅新政:三十年來首次延長交易時長,牛市要來了

人生錄
2026-04-15 16:18:11
王哲林20+16上海險勝廣州豪取20連勝 徐昕10+15伯頓36+10

王哲林20+16上海險勝廣州豪取20連勝 徐昕10+15伯頓36+10

醉臥浮生
2026-04-15 21:22:42
張子強團伙中,唯一聽了李嘉誠建議買28套豪宅的青年,后來如何了

張子強團伙中,唯一聽了李嘉誠建議買28套豪宅的青年,后來如何了

深度報
2026-04-14 22:45:47
臭氣熏天,記者現(xiàn)場“yue”個不停!網友:很久沒看到這么有“活人感”的報道,隔著屏幕都能感受到

臭氣熏天,記者現(xiàn)場“yue”個不停!網友:很久沒看到這么有“活人感”的報道,隔著屏幕都能感受到

深圳晚報
2026-04-15 14:53:52
泰國征兵再出“美女”奇葩名場面!有人盛裝亮相美成天仙,有人為逃避吃成200斤?

泰國征兵再出“美女”奇葩名場面!有人盛裝亮相美成天仙,有人為逃避吃成200斤?

英國報姐
2026-04-14 21:12:12
反轉!巴西部長強行封殺比亞迪,盧拉深夜震怒:立刻卷鋪蓋走人!

反轉!巴西部長強行封殺比亞迪,盧拉深夜震怒:立刻卷鋪蓋走人!

共工之錨
2026-04-15 00:31:36
張雪峰去世不到一個月,員工宣布離職,低價挖客戶,賬號已私密

張雪峰去世不到一個月,員工宣布離職,低價挖客戶,賬號已私密

180視角
2026-04-15 17:52:51
上萬美軍封鎖下,多艘貨船成功通過霍爾木茲海峽,美軍稱已完全切斷伊朗海上進出口貿易;美國為何在此時打出“封鎖牌”?伊朗如何反擊?

上萬美軍封鎖下,多艘貨船成功通過霍爾木茲海峽,美軍稱已完全切斷伊朗海上進出口貿易;美國為何在此時打出“封鎖牌”?伊朗如何反擊?

每日經濟新聞
2026-04-15 10:59:49
王博被驅逐!三大核心缺席廣廈惜敗山西 布朗空砍41分

王博被驅逐!三大核心缺席廣廈惜敗山西 布朗空砍41分

醉臥浮生
2026-04-15 21:51:38
不想訪華了?特朗普召回美駐華大使,貝森特揚言:中國“不可靠”

不想訪華了?特朗普召回美駐華大使,貝森特揚言:中國“不可靠”

影孖看世界
2026-04-15 22:29:46
何潤東瞿穎內衣廣告爆了!網友:太頂了!

何潤東瞿穎內衣廣告爆了!網友:太頂了!

品牌頭版
2026-04-15 20:29:41
女子利用天氣預報頻繁購買飛機延誤險,5年買中900多次,獲賠近300萬,被抓時:我符合保險理賠要求

女子利用天氣預報頻繁購買飛機延誤險,5年買中900多次,獲賠近300萬,被抓時:我符合保險理賠要求

譚老師地理大課堂
2026-04-15 20:11:42
2026-04-15 23:35:00
機器之心Pro incentive-icons
機器之心Pro
專業(yè)的人工智能媒體
12772文章數(shù) 142628關注度
往期回顧 全部

科技要聞

ChatGPT十億用戶又怎樣?Anthropic直接貼臉

頭條要聞

豫劇團下鄉(xiāng)演出臺下觀眾痛哭流涕:觀眾超千人一半落淚

頭條要聞

豫劇團下鄉(xiāng)演出臺下觀眾痛哭流涕:觀眾超千人一半落淚

體育要聞

三球準絕殺戴大金鏈:轟30+10自我救贖

娛樂要聞

謝娜現(xiàn)身環(huán)球影城,牽手女兒溫馨有愛

財經要聞

業(yè)績失速的Lululemon:"健康"人設崩塌?

汽車要聞

空間絲毫不用妥協(xié) 小鵬GX首發(fā)評測

態(tài)度原創(chuàng)

游戲
手機
家居
旅游
數(shù)碼

任天堂第一方獨占IGN 7分:無法導入、分享也是抽象

手機要聞

消息稱年底多家旗艦機只有Pro Max級別機型才能用上滿血SoC

家居要聞

簡而不減 暖居之道

旅游要聞

美翻了!成都植物園100余種月季迎來盛花期

數(shù)碼要聞

補足有線,羅技推出Alto Keys琥珀K98M / K98S Plus機械鍵盤

無障礙瀏覽 進入關懷版