網易首頁 > 網易號 > 正文 申請入駐

智能體卷王誕生!干活自動配結項報告,1.5張截圖就把事說清了

0
分享至

Youtu-Agent團隊 投稿
量子位 | 公眾號 QbitAI

在學校里做實驗的時候,老師如何確定我們做了實驗并且達到了預期效果呢?——最常見的做法是讓學生寫一份實驗報告交上來。

現在,AI智能體拿到一個任務以后如何檢驗執行的效果有沒有達到預期呢?我們也可以讓AI在執行任務的同時主動提交一份證據鏈報告,邊做邊收集任務完成的證據,自我檢查是否符合預期,不符合就繼續做。



在LLM/VLM驅動的智能體(Agent)的強化學習(RL)研究中,一直面臨一個巨大的挑戰:

你交給智能體一個任務,它干完了,但你不知道完成度如何。



為了確認它是否真的準確完成了任務,我們不得不建立龐大的“監督系統”來復核它的每一步操作。這種“被動驗證”往往需要:

  1. 手工設計的復雜校驗機制(比如:完全匹配的輸出內容);
  2. 強大的軌跡級驗證方法(比如:LLM/VLM-as-a-Judge眾投決策)。

這兩種常見的先完成任務(task completion)再校驗軌跡(outcome verification)的機制有以下缺點:

  1. 效率較低,人工設計的準則依賴預先編寫好的評估腳本,難以簡單泛化到新的任務(比如新的APP);
  2. 軌跡帶噪且上下文冗長,將整條軌跡送給LLM/VLM來評判很容易被無關的環境信息干擾,降低評分的可靠性;
  3. 依賴持續可觀測環境的反饋信息,部分操作往往因為環境變化
  4. (如頁面刷新、操作過期)而導致驗證失敗。

針對以上問題,我們提出了一種簡單的RL訓練方法,讓智能體自己成為“質檢員”,在盡可能減少校驗器(Verifier)審核壓力的同時,讓智能體學會主動分解子目標并且留痕存證。

什么是SmartSnap?

SmartSnap的核心思想是將GUI智能體從“被動的執行者”轉變為“主動的自證者”。

簡單來說,智能體在完成任務的同時,還會主動收集、篩選并提交一份“證據快照集”。

這份證據就像是任務的“結項報告”,讓驗證者只需看一眼快照,就能確認任務是否成功。



三大核心突破:從“執行”到“自證”

1. 角色升級:雙重使命的“自證代理”

傳統的智能體只負責“做(Execute)”,而SmartSnap提出了“自證智能體”(Self-Verifying Agent),賦予了它“自我驗證(Verify)”的第二使命。

它在操作過程中會像人類一樣思考:“為了證明我已經改好了設置,我需要把對開關狀態截圖并作為證據提交。”

2. “3C原則”:高效率的證據美學

為了避免給驗證者造成信息過載,SmartSnap提出了證據策展的3C原則

  • 完整性(Completeness)
  • 證據必須足以證明任務已閉環。
  • 簡潔性(Conciseness)
  • 不要冗長的視頻,只要最關鍵的幾張“定格”瞬間。
  • 創造性(Creativity)
  • 為了拿到證據,智能體甚至會主動執行“額外操作”。例如,訂完票后主動跳回訂單頁截圖。

3. 強化學習驅動:GRPO+內在獎勵反饋

我們利用GRPO算法對智能體進行了訓練。通過精心設計的獎勵機制(Intrinsic Reward Shaping),引導智能體在保證任務成功率的同時,不斷提升證據的質量,盡可能減少獎勵黑客行為(reward hacking)。

戰績顯赫:小模型也不錯

SmartSnap的表現令人驚艷,它在AndroidLab等復雜的任務上提升顯著:



  • 性能飛躍
  • 在不同規模的模型上,均實現了顯著的性能提升(最高提升達26.08%)。
  • 以小博大
  • 經過SmartSnap訓練的中等參數模型(如Qwen3-32B),在自證能力的加持下,其表現甚至持平DeepSeek-V3/Qwen3-235B等開源大模型

通過感性分析,我們還觀察到以下特點:

  • 舉證效率
  • 平均每個任務只需提交1.5張快照證據,極大地降低了后端的驗證成本。
  • 高效交互
  • 智能體在訓練過程中由于擬合少量的訓練集而變得游刃有余,交互輪數不斷減少。
  • 知識欠缺
  • 在部分APP上,我們觀察到智能體存在反復、沒有顯著增益的表現,其領域知識的欠缺導致無法收斂到有效的解決方案(比如地圖APP的各項復雜路徑規劃任務)。這表明模型需要依賴更多知識注入來指導探索。

為什么這簡化了智能體RL訓練的準備工作?

在手機端、OS端這類環境的操作中,由于其時效性特點,傳統的外部驗證器很難精準捕捉瞬時的成功信號。

SmartSnap就像是給智能體配上了一臺取證相機。它不再需要事先對環境所有狀態有一個預期的變化感知來撰寫校驗腳本,或者讓裁判員模型盯著全程軌跡來仔細推敲,而是讓智能體自己邊做邊收集必要的證據。

這允許我們基于合成的任務輕松拓展其訓練場景,并針對有限的證據鏈來判斷成功與否,讓RL訓練更加便捷。

面向未來

SmartSnap的出現,標志著GUI智能體正從“蠻力執行”走向“認知協同”。這種主動尋找證據的能力,不僅提升了AI的可靠性,更為未來大規模、低成本的AI部署鋪平了道路。

未來的AI,不僅要“能干”,更要“可信”。

論文標題:

SmartSnap: Proactive Evidence Seeking for Self-Verifying Agents
論文地址:

https://arxiv.org/abs/2512.22322
代碼地址:

https://github.com/TencentYoutuResearch/SmartSnap

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
6歲男孩為躲母親毆打,離家出走22年,長大后才得知母親悲慘人生

6歲男孩為躲母親毆打,離家出走22年,長大后才得知母親悲慘人生

哄動一時啊
2026-04-19 14:38:19
1歲父親入獄,從小父母離婚,馬頔娶到李純,賺大了!

1歲父親入獄,從小父母離婚,馬頔娶到李純,賺大了!

一盅情懷
2026-04-18 08:23:45
“天生的壞種,典型的倀鬼”,小學生地鐵站一個動作,被全網討伐

“天生的壞種,典型的倀鬼”,小學生地鐵站一個動作,被全網討伐

妍妍教育日記
2026-04-16 09:10:09
老板兒子考一本,保安隨888,保安女兒考上985,老板回禮讓人傻眼

老板兒子考一本,保安隨888,保安女兒考上985,老板回禮讓人傻眼

凱裕說故事
2025-07-31 16:12:44
特朗普剛說“萬斯不去談判”,最新消息:萬斯要去!特朗普表態:我也可能去伊斯蘭堡

特朗普剛說“萬斯不去談判”,最新消息:萬斯要去!特朗普表態:我也可能去伊斯蘭堡

魯中晨報
2026-04-20 07:24:16
美國終于開始害怕?比稀土更致命王牌出手了,萬斯:中國要冷靜

美國終于開始害怕?比稀土更致命王牌出手了,萬斯:中國要冷靜

混沌錄
2026-04-10 22:53:19
讓人揪心的事終究來了?央行定調,5月后房產、存款或將迎來調整

讓人揪心的事終究來了?央行定調,5月后房產、存款或將迎來調整

復轉這些年
2026-04-19 23:17:41
西伯利亞:吃不完的鹿肉,收不完的糧;砍不完的森林,挖不完的礦

西伯利亞:吃不完的鹿肉,收不完的糧;砍不完的森林,挖不完的礦

小莜讀史
2026-04-17 20:53:45
中國堅決拒絕談判,光刻機封鎖引發全球緊張局勢

中國堅決拒絕談判,光刻機封鎖引發全球緊張局勢

普陀動物世界
2026-04-20 18:18:17
呂燕曬母子同框合照,嘆混血帥兒已高自己一大截,14歲小鮑像爸爸

呂燕曬母子同框合照,嘆混血帥兒已高自己一大截,14歲小鮑像爸爸

娛珈歪歪魚
2026-04-20 11:43:15
被豆包害慘了的大學生們!網友:豆包就是愚蠢且勤勞的老實人

被豆包害慘了的大學生們!網友:豆包就是愚蠢且勤勞的老實人

夜深愛雜談
2025-12-02 20:51:10
資治通鑒:說服別人做某事,很難;說服別人不做某事,很容易!

資治通鑒:說服別人做某事,很難;說服別人不做某事,很容易!

子霄讀史
2024-10-28 13:24:51
有期徒刑十一年!AB套路貸詐騙案害人不淺!

有期徒刑十一年!AB套路貸詐騙案害人不淺!

上觀新聞
2026-04-20 18:38:02
無緣對陣湖人?杜蘭特傷情曝光,令人沮喪,原因找到了,火箭表態

無緣對陣湖人?杜蘭特傷情曝光,令人沮喪,原因找到了,火箭表態

萌蘭聊個球
2026-04-20 08:46:07
2026新一澳門今晚最新內部精選資料精準大全

2026新一澳門今晚最新內部精選資料精準大全

金友科技
2026-04-20 14:48:08
“國營媒體是謊言工廠”,這位總理上臺就宣布關閉

“國營媒體是謊言工廠”,這位總理上臺就宣布關閉

法經社
2026-04-19 12:34:54
71.5%!歷史性暴跌,以貸養貸的泡沫崩了

71.5%!歷史性暴跌,以貸養貸的泡沫崩了

月滿大江流
2026-04-16 13:54:38
烏克蘭瀕臨金融崩潰!保加利亞前總統勝選,直接掐斷烏續命援助!

烏克蘭瀕臨金融崩潰!保加利亞前總統勝選,直接掐斷烏續命援助!

斯德哥爾摩的帕金森
2026-04-20 23:27:15
A股:2.5億股民,今晚可能要興奮得睡不著覺了,你知道為什么嗎?

A股:2.5億股民,今晚可能要興奮得睡不著覺了,你知道為什么嗎?

夜深愛雜談
2026-04-20 19:09:36
朝鮮男人煙不離手,金正恩抽什么牌子的香煙?一包煙的價格是多少

朝鮮男人煙不離手,金正恩抽什么牌子的香煙?一包煙的價格是多少

番外行
2026-04-16 08:25:40
2026-04-21 01:43:00
量子位 incentive-icons
量子位
追蹤人工智能動態
12502文章數 176457關注度
往期回顧 全部

科技要聞

HUAWEI Pura X Max發布 售價10999元起

頭條要聞

19歲女孩挪用自家1700萬當"榜一大姐" 親爹帶女兒自首

頭條要聞

19歲女孩挪用自家1700萬當"榜一大姐" 親爹帶女兒自首

體育要聞

阿森納已拼盡全力,但你早干嘛去了...

娛樂要聞

《八千里路云和月》田家泰暗殺

財經要聞

利潤暴跌7成,字節到底在做什么

汽車要聞

把天門山搬進廠?開仰望U8沖上45度坡的那刻 我腿軟了

態度原創

數碼
本地
藝術
公開課
軍事航空

數碼要聞

REDMI 顯示器 G Pro 27U 2026輕體驗:電競利器 桌面上的“小鋼炮”

本地新聞

12噸巧克力有難,全網化身超級偵探添亂

藝術要聞

沙特官宣:全球最大單體建筑,延期十年!網友:又是畫餅?

公開課

李玫瑾:為什么性格比能力更重要?

軍事要聞

特朗普:美艦向伊朗貨船開火炸出個洞

無障礙瀏覽 進入關懷版