无主之地2配置高吗|看真人裸体BBBBB|秋草莓丝瓜黄瓜榴莲色多多|真人強奷112分钟|精品一卡2卡3卡四卡新区|日本成人深夜苍井空|八十年代动画片

網易首頁 > 網易號 > 正文 申請入駐

花了1000倍的token,效果卻沒有更好:AI Agent隱性賬單長什么樣

0
分享至



如今的 AI Agent 正在大規模落地,其中應用最廣且最受關注的當數 Claude Code,Codex,Cursor 這類 coding agent。過去的一年里,這類 coding agent 產品迭代迅速,在一年內將在 swe-bench- verified 的準確率提高到了 78%+。

然而,相比簡單的代碼推理或者和代碼相關的聊天,coding agent 的 token 消耗也極為顯著。在使用這種 coding agent 的過程中,最常聽到的抱怨也是:“為什么它解決問題這么啰嗦”,“為什么要這么長篇大論”,以及 “為什么我的 credits 這么快又用完了?”

這些抱怨的背后暴露出當前 coding agent 的幾大問題:

1. 不透明: coding agent 消耗 token 的習慣不清晰,行為模式以及不同模型之間的差異不透明;

2. 不保底:在任務執行前難以知道任務成功與否,但不論是否成功,都要支付相應開銷;

3. 不可預測:人類估計的問題難度真的和實際的 token 消耗匹配嗎?agent 能否自己判斷問題會消耗多少 token 呢?

針對這些問題,來自密歇根大學、斯坦福大學等單位的研究者,使用開源的 OpenHands agent 框架,分析了 8 個 frontier 模型在 swe-bench-verified 上的軌跡,第一次給出了一份系統性的解答。



  • 論文標題:HowDoAIAgentsSpendYourMoney? AnalyzingandPre dicting Token Consumption in Agentic Coding Tasks
  • arXiv 論文:https://arxiv.org/pdf/2604.22750
  • 項目網站:https://longjubai.github.io/agent_token_consumption/

Agentic Coding 有多貴?

論文首先比較了和 coding 相關的 3 種任務:代碼推理(和代碼相關的單論對話推理任務),代碼問答對話(關于代碼問題的多輪對話聊天),以及 swe-bench 上的 agentic 代碼任務。結果發現,agentic coding 任務在平均輸出輸入 token 比,平均總 token 消耗,以及平均金錢消耗,均指數級高于其他兩種任務。

這源自于 agentic coding 任務的多輪交互和巨大而復雜的上下文管理:巨量的代碼查詢,文件輸出都會被加入到對話歷史中,導致消耗持續增加,并且 agent 會不斷把歷史上下文、工具輸出反復喂給模型,導致輸入輸出比高達 154:1。這意味著 agentic coding 任務的成本結構與我們所熟悉的對話和推理任務有顯著的不同。



Agentic Coding 的開銷隨機性高,

且花的越多不一定做得越好

論文統計了 swe-bench-verified 中 500 個問題的平均 token 消耗,并將消耗從小到大排序。從圖中可以發現,最貴的任務可能比最便宜的任務多消耗約 700 萬 token,并且越貴的任務 token 消耗的標準差也越大。

對同一任務的重復運行來說,通過計算最貴的一次運行和最便宜的一次運行的差異,結果發現即使是同一任務,最貴的運行仍可能比最便宜的運行貴 2 兩倍左右。

進一步分析 token 消耗多少與準確率的關系,論文發現更多的消耗并不能保證更高的準確率。

對于不同任務來說,論文根據平均 token 消耗的數量進行分組,并統計每組任務的準確率,結果發現 token 消耗更多的任務往往準確率較低。

對于同一個任務的不同運行來說,將 4 次運行按照 token 消耗排序,分成四個開銷等級,然后統計每一個開銷等級的準確率。結果發現:平均所有模型來看,最高的準確率并不出現在開銷最高的時候,而是出現在較低開銷時。當開銷最低時,任務運行的準確率最低,當提高開銷稍微提高時,準確率達到最高,繼續增加開銷,當開銷第二高和最高時,準確率不增反減 ——更多的資源消耗并沒有帶來更高的任務成功率。





為了探索高開銷失敗背后的原因,論文檢查并分析了 agent 解決問題軌跡中的兩類行為:閱讀文件以及修改文件。結果發現:開銷更大的運行軌跡中,重復修改和重復查看同一文件的次數也明顯更多,這表明更多的 token 消耗其實伴隨了很多來來回回的 “折騰”,而不是高效的推理,嘗試,和檢查。簡單來說,一味簡單地堆 token 并不能顯著帶來更好的效果。





哪些模型貴,哪些模型?。?/p>

不同模型之間的 token 效率差異極大

以上的分析是基于所測試的 8 個模型的整體表現特點,在此基礎上,論文對每個模型進行了具體的分析,并比較了他們使用 token 的效率。

文章測試的八個模型包括 OpenAI 的 GPT-5 和 GPT-5.2,Anthropic 的 Claude Sonnet-3.7、Claude Sonnet-4 和 Claude Sonnet-4.5,Google 的 Gemini-3-Pro Preview,Moonshot AI 的 Kimi-K2,以及阿里巴巴的 Qwen3-Coder-480B。這八個模型覆蓋了五家不同的公司,同時包含閉源 API 模型(GPT、Claude、Gemini 系列)和開源模型(Kimi-K2、Qwen3-Coder-480B)。其中 Claude Sonnet 有三個版本、GPT 有兩個版本,這樣既包含了跨公司的橫向對比,也有同一家族內不同代際的縱向對比。

通過觀察不同模型的 token 消耗與任務準確率的關系,發現不同模型間的差異是系統性的,不是因為任務難度不同, 而是模型自身的行為習慣。例如 GPT-5 以及 GPT-5.2 可以以較低的 token 成本達到不錯的準確率,但 Kimi-K2 在成本較高的同時準確率卻并沒有很高。在同樣的 500 個任務下,Kimi-K2 和 Claude Sonnet-4.5 比 GPT-5 多消耗約 150 萬 token。





論文進一步選出了兩個任務子集:所有模型都成功的任務和左右模型都失敗的任務,并再次統計不同模型的 token 消耗。結果發現模型的 token 消耗排序基本不變,并且所有模型在失敗任務子集上的 token 消耗都多于成功子集,不同模型從失敗子集到成功子集的 token 消耗增量也各不相同。

是否有辦法對任務的 token 消耗

進行提前預測?

人類專家對任務難度的判斷與 agent 實際 token 消耗并不完全吻合

當了解了 agentic coding 的開銷后,下一個問題便是:在執行任務之前,是否有辦法根據要執行的任務來預測開銷?

文章首先分析人類專家所理解的任務難度是否可以作為預測 agent token 開銷的標準。在 swe-bench-verified 中,每一個任務都有人類專家所標記的任務難度,按照人類專家預期的完成時間分為三檔:“< 15 min”,“15 min - 1 hr”,“> 1 hr”。如果說人類消耗的時間就相當于 agent 消耗的 token,那么人類所估計的任務難度是否和 agent 的 token 開銷是吻合的呢?



論文將不同任務根據 token 開銷進行排序,并計算它與人類標注難度的相關性。結果發現 Kendall tau = 0.32,表明人類專家對任務難度的判斷和 Agent 實際消耗的 token 之間只有很弱的相關性。

其中 6.7% 的 "簡單" 任務比平均 "困難" 任務還貴,11.1% 的 "困難" 任務比平均 "簡單" 任務還便宜 —— 更說明了人類程序員和 AI Agent 對任務的 "復雜度認知" 是不同的維度。

Agent 自己是否可以對任務的 token 消耗做出預測?

既然人類預測的任務難度和 agent 的實際任務消耗有所差異,那么是否可以讓 agent 自己來預測自己的消耗?

論文緊接著對 agent 的自預測進行了嘗試:在這部分實驗中 agent 所有的工具和 harness 的架構都得到了保留,只有在系統提示詞中將任務從之前的 “解決問題” 變成了 “預估開銷”,這樣一來,就可以最大程度的表流 agent 本身的特征和功能,并讓它得以使用同樣的工具對代碼庫進行多輪探索,測試和推理。



論文中用預測的開銷和實際開銷的相關性作為衡量預測準確率的指標,并同時統計了做預測所消耗的 token。結果顯示,模型作出的預測與實際的相關性最高只有 0.39(Claude Sonnet-4.5 的 output token),大多數模型都在 0.2-0.3 之間,且對 output token 的預測比 input token 更加準確。在成本方面,大部分模型作出預測所需要的成本都小于實際任務執行成本的一半,除了早期的 Claude Sonnet-3.7 和 4,一度超過真正 task 執行成本的兩倍。

文章進一步分析發現所有的模型都低估了任務的實際消耗,尤其對 input token 的低估特別嚴重。





因此,不管是人類專家還是 agent 自己,對 token 消耗預測目前只能作為粗粒度的信號,離精確的事前定價還有很大距離。

總結

文章通過對 coding agent 軌跡的分析,發現 Agent 的 token 消耗以 input token 為主導,且在不同問題之間以及同一問題的不同運行之間都存在很高的隨機性。不同模型的 token 效率差異顯著,且更多的 token 消耗并不能保證更高的正確率。在執行前成本預測方面,人類理解的任務難度與 Agent 的實際 token 消耗并不吻合,Agent 自身的預估也存在準確率較低和普遍低估的問題。未來潛在的研究方向包括更高效的 Agent 設計,以及更好的開銷預測與管理方法。

作者介紹:

本文第一作者 Longju Bai 是密歇根大學一年級博士生,通訊作者 Jiaxin Pei 現為斯坦福大學博士后研究員,即將入職得克薩斯大學奧斯汀分校擔任助理教授。合作者包括來自斯坦福大學的 Zhemin Huang 和 Erik Brynjolfsson,來自 All Hands AI 的 Xingyao Wang,來自 Google DeepMind 的 Jiao Sun,來自密歇根大學的 Rada Mihalcea,以及來自斯坦福大學和麻省理工學院的 Alex Pentland。

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
28億,肯德基也要被賣了

28億,肯德基也要被賣了

融資中國
2026-05-17 10:43:10
AI時代學生該怎么辦?北大教授喬曉春:AI將淘汰初、中級從業者,學生應深耕某一領域成為專家

AI時代學生該怎么辦?北大教授喬曉春:AI將淘汰初、中級從業者,學生應深耕某一領域成為專家

極目新聞
2026-05-17 20:46:22
續航1218公里+10分鐘充80%!比亞迪固態電池獲認證,充電寶要下崗

續航1218公里+10分鐘充80%!比亞迪固態電池獲認證,充電寶要下崗

西莫的藝術宮殿
2026-05-17 16:51:14
中考真要取消了?這幾個城市已悄悄試點,家長再不看就晚了!

中考真要取消了?這幾個城市已悄悄試點,家長再不看就晚了!

優墨出品
2026-05-18 05:20:17
過氣演員到底多可憐?從拒拍裸戲,到近乎全裸拍戲,太心酸

過氣演員到底多可憐?從拒拍裸戲,到近乎全裸拍戲,太心酸

悠悠說世界
2026-05-15 13:50:20
一瓢水潑掉20萬粉!白鹿綜藝失控全網炸鍋,陳赫10秒看酸全網

一瓢水潑掉20萬粉!白鹿綜藝失控全網炸鍋,陳赫10秒看酸全網

原夢叁生
2026-05-17 02:44:38
北京男籃VS上海隊G3,許利民找到贏球方法,懷特塞德為何不被重用

北京男籃VS上海隊G3,許利民找到贏球方法,懷特塞德為何不被重用

體育大學僧
2026-05-18 12:14:30
德轉列各國前鋒總身價排行:巴西26.1億第一,英格蘭23億第二

德轉列各國前鋒總身價排行:巴西26.1億第一,英格蘭23億第二

懂球帝
2026-05-17 20:04:42
張雪機車奪第4冠!升起的卻不是五星紅旗 張雪投100萬+下令德比斯

張雪機車奪第4冠!升起的卻不是五星紅旗 張雪投100萬+下令德比斯

念洲
2026-05-17 15:17:10
忠心員工捐髓救老板一命,老板康復后卻將她辭退,報應來得快

忠心員工捐髓救老板一命,老板康復后卻將她辭退,報應來得快

懸案解密檔案
2025-05-14 14:16:08
南通出現大蛇

南通出現大蛇

南通濠生活
2026-05-18 09:26:14
劉少奇在長征中經歷什么?看懂這件事,才明白他為何能成二號人物

劉少奇在長征中經歷什么?看懂這件事,才明白他為何能成二號人物

鶴羽說個事
2026-03-21 21:21:46
別猜了,他是不是Gay,看這幾點心里就有數了

別猜了,他是不是Gay,看這幾點心里就有數了

健身狂人
2026-05-18 12:07:39
人類連氫彈都能造,為什么卻造不出一粒米?

人類連氫彈都能造,為什么卻造不出一粒米?

半解智士
2026-04-10 17:40:34
驚天逆轉!中國臨時組合力克日本隊奪冠!

驚天逆轉!中國臨時組合力克日本隊奪冠!

環球網資訊
2026-05-17 17:05:09
大眾、豐田、奧迪、捷豹路虎、等車企宣布,多款燃油車大降價!

大眾、豐田、奧迪、捷豹路虎、等車企宣布,多款燃油車大降價!

娛樂圈的筆娛君
2026-05-17 16:19:51
哪有軟柿子,前女首富陳麗華去世1個月,遲重瑞的真實現狀曝光

哪有軟柿子,前女首富陳麗華去世1個月,遲重瑞的真實現狀曝光

閱微札記
2026-05-18 11:34:03
穆里尼奧力挺弗格森:瓜帥再偉大,也撼動不了曼聯教父的地位!

穆里尼奧力挺弗格森:瓜帥再偉大,也撼動不了曼聯教父的地位!

體育閑話說
2026-05-17 13:02:57
外號笑死個人!網友:只有起錯的名字,沒有起錯的外號

外號笑死個人!網友:只有起錯的名字,沒有起錯的外號

另子維愛讀史
2026-05-17 22:14:28
天降三重利好!中國U17決戰澳大利亞,這一次真的要爆冷沖決賽

天降三重利好!中國U17決戰澳大利亞,這一次真的要爆冷沖決賽

林子說事
2026-05-18 11:16:54
2026-05-18 13:28:49
機器之心Pro incentive-icons
機器之心Pro
專業的人工智能媒體
13019文章數 142650關注度
往期回顧 全部

科技要聞

國產大模型集體更新后能力有多強?

頭條要聞

牛彈琴:特朗普很焦慮 出訪回國后幾小時就召高官開會

頭條要聞

牛彈琴:特朗普很焦慮 出訪回國后幾小時就召高官開會

體育要聞

哈登晉級東決:第5次分區決賽第5次贏搶七

娛樂要聞

小S曬全家福懷念大S,爺爺奶奶最疼姐姐

財經要聞

前4月工業生產較快增長 失業率5.3%

汽車要聞

小米YU7 GT定檔5月21日19:00上市 跑車級轎跑SUV

態度原創

房產
數碼
手機
公開課
軍事航空

房產要聞

最新數據!??诙址績r,開始連漲!

數碼要聞

榮耀Earbuds耳夾式耳機Pro開售:佩戴不分左右,首發599元

手機要聞

vivo S60系列官宣全系標配3D超聲波指紋!同檔唯一 沾水秒解鎖

公開課

李玫瑾:為什么性格比能力更重要?

軍事要聞

黎以停火再延長 空襲卻未停止

無障礙瀏覽 進入關懷版