AI導購走到付款，智能體支付真的出事了

“一張錯誤二維碼暴露的，不只是模型幻覺，而是當支付開始從“人點按鈕”轉向“系統理解意圖”之后，整個交易鏈條都在被重新改寫?！?/p>

文丨之家哥

出品丨支付之家 · 深度

深夜，人工客服已經下線，一位企業負責人急著給三名員工補買團體意外險，于是把希望交給了AI。

模型很快給出方案、官網入口和報價，流程看起來順得幾乎沒有停頓。接下來的那一步出了問題。AI繼續給出付款二維碼，1618元付出后，保單沒有生成，錢卻進了一個與保險業務無關的個人賬戶。涉事平臺隨后回應稱，問題由多輪對話后的模型幻覺引發，相關功能已修復。

這件事的分量，不在1618元本身。

更關鍵的是，支付之家此前反復提醒的智能體支付風險，第一次沿著真實交易過程落到了地上。

過去圍繞AI導購、AI付款、智能體支付的討論，很多還停留在趨勢、設想、協議和演示層面。這一次，AI給出的已經不是普通建議，而是付款二維碼、支付動作和付款后的狀態回復，資金也真的沿著這條路徑流了出去。

爭議隨之從“回答準不準”，推進到了“錢該付給誰、誰該為此負責”。

AI已經走到支付前臺，問題不止于幻覺

把這起事件僅僅想象成“AI又幻覺了”，會把問題想得太淺。

模型幻覺當然存在，平臺也用了這個口徑解釋事故成因。公開報道中的專家觀點提到，訓練數據龐雜、外部信息過濾不夠徹底、模型對二維碼背后的金融流向缺少真實理解，都會把系統推向錯誤輸出。技術層面的成因可以講清楚，實際的執行卻不能停在這里。

因為當AI已經開始給出付款碼、指定收款對象、承接付款后的狀態追問時，它已經從信息服務延伸到了交易前臺。

交易前臺和信息問答之間，隔著一條很硬的線。推薦錯了一本書，代價可能只是一次點擊浪費；給錯了付款入口，后果會立刻變成真實資金流動。很多人談智能體支付時，總把注意力放在“自動扣款”“自主下單”這些動作上，好像風險要等到AI真的按下最后那個支付按鈕才會出現。

現實給出的答案更早，也更直接。先暴露出來的，是系統先替用戶回答了“錢該付給誰”。

本案里有一個細節尤其需要留意，付款人并非沒有疑慮。他在付款時已經看見二維碼指向個人賬戶，判斷一度出現停頓，最后還是付了。

問題不在一時疏忽，而在對話的慣性已經形成。

官網鏈接、方案描述、價格區間、保單文本、付款提示，這些內容連續堆疊后，用戶對單一異常點的警惕，往往會被整段流程制造出的可信感壓下去。付款后，模型還繼續給出“保單已成功生成”“系統延遲，不影響保單有效性”這類回復，異常暴露也被繼續往后推。

過去，用戶進入支付頁面之前，通常還會經歷商戶頁、訂單頁、確認頁、收銀臺等多個節點，每一個節點都在幫助用戶再次確認交易對象、交易用途和支付后果。

到了AI導購場景，多層頁面被壓縮進一場對話，信息變得更順，切換變得更少，懷疑和復核的空間也隨之收窄。對話越像人工服務，用戶越容易把模型輸出的付款信息當成“平臺已經核過”。

Visa 在關于 agentic commerce 的研究中寫到，現有支付基礎設施、風控、支付流程和合規框架長期圍繞“人始終在環”設計，到了 AI-led 場景，這些環節都需要重做。

支付之家此前的提醒，這次被現實驗證了

支付之家此前圍繞智能體支付、AI付款、支付入口遷移、支付權限外放，已經連續寫過多篇文章。

那些文章切口不同，落點其實很集中。

一個是支付入口正在從傳統頁面和收銀臺，往對話框、推薦流和任務助手里移動。一個是交易參與方正在變化，很多場景里，先接觸用戶、先組織信息、先推動決策的，已經不再是商戶頁面或人工客服，而是模型本身。再一個是支付權限的交出，開始不再表現為一次明確授權，而是被拆進連續對話、默認推薦和順滑流程之中，用戶往往還沒意識到，關鍵判斷已經被系統提前替自己做了。

這些判斷，在過去更像是對未來支付形態的一輪提前拆解。那時討論最多的是，支付會不會從“界面觸發”轉向“意圖觸發”，用戶一句話下達需求后，系統會不會自己去找商品、比價格、選路徑、接付款。

支付之家反復強調過，真正需要先解決的，從來都不是技術能不能把流程做順，而是確認、授權、對象識別和責任邊界能不能跟得上。

因為一旦支付入口從頁面前移到對話，很多原本分散在訂單頁、確認頁、收銀臺里的核驗動作，就會被壓縮、被省略，甚至被用戶在不知不覺中跳過。

這次事件把那條線一下子拉近了。它沒有發生在復雜的自動扣款場景里，也沒有發生在完全自主執行的智能體采購里，而是落在一個看上去很普通、也最容易被忽視的環節上。

用戶讓AI幫忙找保險，AI給出方案、官網入口和付款碼，整個過程在表面上沒有明顯斷裂，真正出問題的地方，出現在“這筆錢究竟該付給誰”上。

報道顯示，付款人是在補充完投保信息后收到模型給出的付款二維碼，支付1618元后遲遲查不到保單，隨后才發現錢款流向了無關第三方賬戶。

過去支付之家寫“支付入口遷移”時，討論的還是入口位置變化；寫“支付權限被交出去”時，討論的是授權意識變?。粚憽爸Ц堕_始聽懂人話”時，討論的是系統從執行工具轉向交易助手。

到了這次，前面這些判斷終于在同一件事里碰頭了。入口前移了，權限松動了，確認變薄了，交易對象也開始由模型參與組織和指引，風險隨之落到了真實付款上。

支付行業并不是到了今天才開始意識到這件事。

就在2026年4月2日，中國銀聯已在上海正式發布《智能體支付開放協議框架》（APOP），并完成5筆生產系統驗證交易。銀聯把授權、真實性、問責和風險管理明確放進框架設計，本身就說明行業已經看到，智能體支付最難處理的不是“付款動作能不能完成”，而是“付款對象能不能確認、授權邊界能不能固化、錯誤交易由誰兜底”。

APOP 框架專門圍繞智能體身份管理、意圖管理、用戶身份管理、支付授權管理構建能力，并把合規可控、安全為要、信任為基、廣泛兼容作為設計原則。

Google 已把 Agent Payments Protocol 定義為代理與商戶之間進行安全、合規交易的開放協議，并明確提出，它要解決的是授權、真實性、問責和風險管理問題；該協議還支持銀行卡、穩定幣和實時轉賬等多種支付方式。國際行業推進的，早就不只是“AI能不能付款”，而是“AI付款時，授權怎么固定、對象怎么確認、出了問題誰來負責”。

國內這起個案的價值，就在于它把這些原本分散在趨勢討論里的難點，提前壓縮進了一次真實錯付里。

很多問題過去還能停留在想象里，這次已經順著付款動作，擺到了行業面前。

智能體支付最先失守的是“錢該付給誰”

圍繞智能體支付，市場最容易先討論效率。能不能更快下單，能不能自動比價，能不能一句話完成采購，能不能讓AI替用戶跑完整個支付過程。

這些討論都很熱鬧。更早暴露出來的，卻是另一個問題：錢該付給誰？

這個問題聽上去基礎，放到AI導購和智能體交易里，反而最難。

原因并不復雜。

商品信息、價格區間、服務說明、方案比較，這些內容天然帶有模糊空間。模型給錯了，用戶還有機會靠常識、經驗、對比和進一步搜索去糾偏。

收款對象沒有同樣的容錯空間。主體一旦錯了，訂單綁定會斷，資金用途會斷，售后路徑會斷，責任歸屬也會跟著斷。

這起事件里，收款二維碼被懷疑來自個人早年公開發布在博客或開源代碼庫里的內容。模型把一個和當前交易無關的支付信息，拼進了一個看似可信的保險購買過程。

問題不在二維碼來自哪里，而在于系統沒有能力也沒有機制去確認，這個二維碼是否屬于當前這筆交易應當對應的收款主體。

很多人會說，用戶明明看到是個人碼，為什么還要付。這種追問很容易把責任重新壓回用戶身上，卻沒有真正理解AI導購改變了什么。

過去用戶在陌生商戶頁面看到個人碼，警惕心會很高?，F在情況不同，二維碼不是突然跳出來的，它前面已經接上了方案推薦、官網鏈接、價格解釋、保單描述、付款提示和系統繼續交流。

用戶面對的不是一張孤立的個人碼，而是一整段被AI整理得足夠順滑的交易過程。當多個環節都看起來成立時，用戶對單一異常點的警覺，往往會被整體過程的可信感稀釋。

這也是為什么，未來的支付確認機制不能只確認金額。只寫一句“是否確認支付1618元”，已經不夠。

智能體支付場景下，確認頁至少要把收款主體、服務提供方、訂單號或保單號、用途描述、退款路徑、是否來自平臺受控接口這些信息擺在更前面。

確認機制也應當是差異化的。收款方如果是個人賬戶，而業務場景卻是對公保險、醫療繳費、公共服務或理財申購，彈窗層級、風險提示、按鈕文案都不該與普通付款保持同一套交互。

必要時，系統應直接中斷交易，并以高優先級提示明確指出當前收款賬戶與業務場景不匹配。

這不是給用戶制造麻煩，而是用必要的確認阻力，對沖AI帶來的流程慣性。

Google 對 AP2 的設計說明里，已經把“證明用戶給予特定授權”“讓商戶確認代理請求準確反映用戶真實意圖”“在錯誤或欺詐交易發生時確定問責”寫成了協議要解決的核心問題。

這筆1618元的錯付，已經把問題講得足夠直白。

接下來真正需要回答的，不是AI為什么會出錯，而是支付體系該在哪些位置把門重新立起來。今天先出問題的是一筆保費，明天也可能是醫療繳費、企業采購、理財申購、會員續費和跨境付款。

問題不在金額，在于路徑已經跑通了。

“模型幻覺”解釋了技術原因，交易責任仍需落地

平臺回應把問題歸因為“模型幻覺”，從技術角度看并非沒有依據。

公開報道中的專家也提到，模型訓練數據既包含文字，也可能包含圖片和二維碼；過濾敏感詞，不等于對圖片里隱藏的支付信息做了足夠徹底的提取、識別和攔截；模型在輸出時也無法真正理解二維碼背后的金融流向和主體歸屬。

這個解釋說明了事情為什么會發生，它沒有回答另一個更重要的問題：事情發生之后，責任該怎么劃分？

這里至少有三層責任不能被“幻覺”一筆帶過。

第一層是模型層責任。系統為什么能調出與當前交易無關的個人二維碼。

第二層是產品層責任。為什么在保險、支付這樣直接關系到財產安全的場景里，系統沒有把支付信息鎖進官方接口、簽約商戶庫或白名單里。

第三層是交互層責任。為什么付款完成后，系統沒有優先引導用戶去官方查單、人工復核或異常申訴，而是繼續給出“保單已成功生成”“系統延遲，不影響保單有效性”之類會讓用戶進一步放松警惕的回復。

這三層責任里，產品層最值得重視。很多平臺習慣把自己界定成內容工具、問答工具、搜索助手，似乎只要交易動作最終由用戶自己完成，平臺就停留在信息提供者的位置上。

到了這起個案，這種界定已經不夠了。當系統開始給付款二維碼、收款對象、付款提示和付款后狀態說明時，它已經深度參與了一筆交易。

當平臺把AI作為一項面向用戶的交易輔助服務推出，它就不再只是中性的信息通道。

無論錯誤付款碼來自模型幻覺、外部臟數據還是上下文誤判，平臺對高風險支付信息仍負有前置約束和安全保障義務。

國際市場圍繞 agentic AI 的治理討論，已經越來越明確這條線。

英國政府 2026 年 3 月發布的《Agentic AI and consumers》指出，agentic AI 會給消費者保護帶來新的透明度、激勵一致性和問責問題。同期發布的《Complying with consumer law when using AI agents》則寫得更直接。消費者法并不在乎顧客接觸到的是人還是AI代理，企業對AI代理行為承擔的責任，與其對員工行為承擔的責任沒有本質區別；如果AI代理做了違法的事，企業仍然負責。企業還需要持續監測錯誤、偏差、投訴和非預期結果，并在發現問題后迅速修正。

這對國內支付行業是個很實用的參照。

高風險場景里，問題不會因為“系統自己想出來的”就自動變輕。只要支付入口和收款對象已經被系統碰到了，責任就不能停在“模型還不完美”這一步。

技術局限可以被解釋，交易后果不能無人承接。

國際市場已在補護欄，中國市場該補哪幾道門

國際市場對智能體支付、AI付款的討論，已經不只是“會不會發生”，而是“風險先暴露在哪里、誰來承擔責任、護欄該怎么補”。

到目前為止，公開、可核驗、已經明確落到消費者真實支付損失的大規模案例還不算多，但風險預警已經非常密集，現實個案也開始出現。

Visa 在 2025 年底的風險文章里寫得很明確，agentic commerce 會帶來新的欺詐與安全挑戰，包括惡意商戶誘導AI購物代理在偽造但看起來真實的店鋪完成購買、詐騙網站部署對話式AI代理來拖延受害者聯系銀行，以及AI代理被操縱后影響交易安全。Visa 還提到，地下黑市里關于“AI Agent”的討論量在六個月里增長了 450% 以上。

比起已經被公開坐實的大額支付事故，國際市場目前更常見的是攻擊面已經成形。

Visa 在《The rise of Agentic Commerce》中寫到，當前大多數支付體驗、風險控制、法律框架和用戶界面都建立在“人始終在環”的假設上，而在AI主導的環境里，這個假設未必繼續成立；要支持這種變化，行業需要重新思考代理如何與支付生態安全、透明、規?；鼗?。

Google 也在相關文章里把 AP2 定位為建立 AI 原生商業信任層的開放協議，目標正是讓代理型支付建立在可驗證授權和可信交互之上。國際市場已經進入一邊修路、一邊補護欄的階段。

放回中國市場，真正該補的，不是一句更醒目的免責聲明，而是幾道門。

第一道門是收款對象門。凡是涉及保險、醫療、理財、證券、繳費、采購這類高風險場景，收款對象都不該由開放語料自由生成。系統給出的收款碼、付款地址、賬戶信息，必須來自官方接口、簽約商戶庫、受控白名單或經過強校驗的交易系統回傳。模型可以解釋產品，可以整理信息，可以協助用戶確認需求，不能憑上下文去猜收款主體。

第二道門是訂單綁定門。沒有真實訂單，沒有正式合同，沒有保單號、產品號、服務編號、支付憑證映射，就不該給出支付動作。今天這起事件里，用戶是在對話中先看見了一份像保單的內容，后面才接到付款碼。如果訂單綁定機制足夠硬，系統在沒有真實保單記錄、沒有與保險公司后臺完成核驗之前，就不該把付款動作往前推。

第三道門是二次確認門。確認不能只確認金額，還要確認主體、用途、訂單、渠道和退款路徑。用戶一旦面對個人賬戶收款，而當前購買場景又是保險、醫療、理財、公共繳費這類本應對應正式機構收款的業務，系統應把異常提示拉到更高優先級，必要時直接中斷交易，讓用戶轉向人工復核或官方頁面。

第四道門是異常阻斷門。用戶一旦開始追問“查不到訂單”“沒有保單”“付款后無回執”“為什么系統顯示成功但官方查不到”，系統要優先切換到核驗與申訴，而不是繼續安撫。今天這起事件里，付款后系統仍在輸出“正常化”回復，已經說明這一層的阻斷邏輯還很弱。

第五道門是責任追溯門。誰給付款入口，誰指定收款對象，誰保存日志，誰承接爭議，誰先響應用戶損失，必須更早講清楚。只要責任鏈條模糊，平臺就容易把問題還原成一句“模型幻覺”，用戶也容易在出事后不知道第一時間找誰。中國銀聯已經發布《智能體支付開放協議框架》，這說明國內對智能體支付的治理，已經不再停留在概念討論，而是在向授權固化、對象確認、過程留痕和責任落點更清晰的方向推進。

智能體支付當然會繼續往前走，市場不會因為一筆錯付就停下。

真正該做的，是把邊界往前提，把驗證做扎實，把責任說清楚。導購可以交給AI，付款對象不能交給AI自由生成；回答可以由模型來寫，支付入口必須來自受控系統；交易可以更順，確認不能更軟；技術局限可以被解釋，交易后果必須有人承擔。

國際市場已經在一邊修路、一邊補護欄，中國市場也繞不開這些課題。

智能體支付不是不能做。

問題出在模糊的收款對象識別、模糊的訂單綁定、模糊的確認機制和模糊的責任邊界。如果這些問題還沒有被釘牢，越往前推，風險只會越早暴露。

幻覺可以解釋模型為什么答偏，解釋不了用戶的錢為什么付錯，也覆蓋不了平臺該補上的那幾道門。

對所有準備把AI推進支付前臺的平臺、商戶、支付機構和場景方來說，這已經不是一道概念題，而是一道現實題。

這里是支付之家，關注支付表象之下的規則差異與邏輯變化，提供支付科技領域增量信息。

來源丨支付之家(ZFZJ.CN)·之家哥（觀點內容僅供參考）

“智能體支付”相關閱讀：

智能體支付步入深水區，銀聯先把最難的邊界挑明了

豆包開始帶貨，支付入口大遷徙正在上演

支付行業突然發現，對手已經不是“人”了

比“養龍蝦”更危險的，是你的“支付權限”被輕易交出去了……

微信支付發布AI接入工具箱，基礎支付與商品券Skill先行落地

當支付開始“聽懂人話”，會發生什么？丨支付學院