一張電影票的 Token 成本，換一場 10 萬字投標革命：商湯 Solution Agent 實戰全解析

作者｜ 王志宏

編輯｜李忠良

策劃｜AICon 全球人工智能開發與應用大會

在 AI 私有化浪潮席卷實體工業的今天，算力基礎設施的易用性已成為企業轉型的“入場券”。然而，一個冷酷的現實是：技術實現雖已日趨成熟，前端需求的“爆發”卻意外撞上了后端產研評估的“帶寬墻”。海量的非標需求、碎片化的評估反饋、以及高頻的跨部門消耗，正成為阻礙 AI 項目規模化落地的無形枷鎖。

為了打破這種“算力雖強，評估太累”的困局，商湯大裝置構建了全鏈路的解決方案智能體（Solution Agent）。這不只是一個簡單的文檔生成工具，更是一套從非結構化數據解析、供需匹配建模到多維合規審計的工業化流水線。

InfoQ 榮幸邀請到王志宏在AICon 全球人工智能開發與應用大會上分享了《從需求到投標：數據驅動的智能技術方案生成 Agent 實戰》，他將深度復盤這一方案的研發邏輯與技術硬核，探討如何利用 LazyLLM 框架實現低成本、高性能的 Agent 開發；如何通過子任務拆解策略攻克長文本生成的質量瓶頸；以及我們是如何用不到一張電影票的 Token 成本，換取一場售前評估與標書生成的效能革命。

以下是演講實錄（經 InfoQ 進行不改變原意的編輯整理）。

AI 私有化浪潮下的研發評估困境

隨著 AI 的快速發展，各行各業都在推進 AI 轉型，很多項目如果不涉及 AI，往往很難獲得預算和落地機會。因此，大量企業開始提出 AI 私有化需求。在這個過程中，我們的售前團隊需要在不同企業之間頻繁溝通，收集各類需求；而這些需求匯總到產研側后，就需要快速評估這些項目是否在我們的能力范圍內、是否可做，以及具體應該如何做。對產研來說，這帶來了很大的壓力。

當前的核心瓶頸，已經不再是技術能力是否足夠，而是我們是否有足夠的帶寬去評估這些項目。在這樣的情況下，研發節奏會受到明顯干擾。最開始大家還會比較耐心地參與評估，與非技術同學溝通，但隨著時間推移，這種耐心會逐漸下降，溝通質量和研發體驗也會受到影響。

從實際情況來看，評估環節主要面臨幾個問題：

首先，需求和產品相關的數據量都非常大，每個新需求都需要在很短時間內完成判斷和方案設計；其次，公司的知識是分散的，包括已有產品、過往案例以及技術能力，售前和銷售同學很難全面掌握，只能頻繁依賴研發；最后，在客戶溝通和投標過程中，涉及大量細節，進一步增加了協作成本。這些問題共同導致，售前和研發都承受較大壓力，評估效率和溝通質量也受到影響。

我們的解決思路是，通過一個 Agent 來幫助分析客戶需求，自動生成相對完整的解決方案，并進一步生成標書。

解決方案更多是面向內部的，當我們希望推進一個項目時，需要先在公司內部完成立項論證，證明這件事情能不能做、以及具體怎么做。在這個過程中，通常需要明確會選擇哪些產品進行組合、各個產品的能力覆蓋范圍如何、是否涉及定制開發，以及整體的成本情況，這些內容主要是用于支撐內部決策。

而標書則是面向客戶的交付材料。在標書中，很多內部細節是不會體現的，例如某些能力如果無法通過標準產品滿足、需要進行定制開發，這類信息一般不會直接寫入標書。

因此，我們的解決方案 Agent 主要聚焦兩個方向：一方面是生成解決方案，用于支持內部的立項與評估；另一方面是在此基礎上生成標書，

構建供需適配的自動化中樞

在構建“解決方案智能體”的過程中，首要任務是明確其底層的數據支撐體系，即整合現有的產品清單、核心技術能力、歷史成功案例及交付成果，并深度對接由招標文件或前期售前調研所獲取的客戶原始需求。

從產品經理的視角出發，該 Solution Agent 的核心定位是幫助售前項目經理、交付負責人及咨詢顧問等業務人員，通過自動化手段協助其精準評估需求，并產出高可靠性的解決方案與投標材料。需要明確的是，Agent 設計邊界聚焦于支撐項目立項、評審及投標等商務決策環節，而非生成可直接執行或編寫代碼的落地方案。

在核心功能模塊的設計層面，系統將聚焦于對客戶需求的精準洞察以及對自有產品矩陣的深度解析，對比分析實現供需雙向的適配性校驗，然后自動輸出詳盡的可行性評估報告，并最終生成解決方案與投標文件。

在整體方案設計上，首先通過提取產品說明書核心信息構建產品知識庫，并將用戶需求轉化為結構化的需求清單，其次進行供需匹配分析，隨后基于匹配結果生成解決方案與投標材料。最后，引入 AI 審核機制，根據評審意見對輸出內容進行重新修改。

產品和需求文檔分析

在關鍵技術實現上，系統首先需對 Word、PDF 及 Excel 等多格式的產品與需求文檔進行深度解析。針對資料特性的不同，采取差異化的權重處理策略：將 One-page 視為核心宏觀定義，功能清單作為概括性信息，而詳盡的圖文手冊則作為細粒度支撐。通過信息提取與維度對齊，系統對產品功能進行分級建模，將復雜的多級功能點轉化為結構化的數據描述，最終構建形成標準化的產品功能庫并入庫。

在技術實現層面，針對結構化較好的 Excel 資料，通過文本切片結合大模型提取，即可獲得理想效果，而 Word 或 PDF 等文檔因功能層級模糊、內容分散，需預先進行標題樹與節點分析以重構層級邏輯，從而確保功能抽取的準確性。在提取核心功能的同時，系統會同步抽取部署需求、國產化支持等元數據，實現功能的聚合。

隨后，我們對產品清單實施“先分類、后聚類”的策略，將產品劃分為 IaaS（算力與云管）、PaaS（模型管理與部署）及應用層（終端應用）三個維度，并針對品類繁雜的應用層進行層內聚類，最終構建起一套“分層 + 聚類”的標準化產品清單，為后續的需求精準對標提供核心支撐。

本方案的核心關鍵點包括：首先，必須強化產品手冊的目錄解析，以確保功能抽取的邏輯性并提升后續匹配的精準度；其次，應對產品實施“先分層、后聚類”的體系化分類；同時，需精準提取業務約束與元信息；最后，通過構建知識持久化管理機制，實現知識庫的高效復用。

在實驗場景下，處理一份約 50 頁的產品文檔需消耗約 30 萬 Token，處理耗時約 15 分鐘，資源與時間成本較高。

需求文檔的處理流程與產品文檔基本一致，但無需聚類，側重于直接解析。此外，基于內部實踐經驗，系統需針對項目周期、預算等關鍵要素對需求清單進行深度追問與澄清，以規避因信息缺失導致的后續迭代風險。通過在前期引入這種澄清機制，解決方案智能體能夠更精準地洞察需求，從而輸出更高質量的解決方案。

輸出展示層面如上圖所示，左側呈現需求解析結果，包含元數據及逐項提取的功能層級，以規避匹配過程中的層級錯位；右側展示基于 IaaS 層、MaaS 層及應用層的產品聚類方案，旨在為每類功能精準推薦最優產品。

為實現工程化落地與產品化復用，系統引入了完善的知識管理機制：產品數據被納入知識庫進行持久化管理，而用戶需求則通過臨時緩存處理，在保障數據隱私的同時，通過復用既有計算結果提升對重復需求的響應效率，最終形成“產品入庫、需求緩存”的高效數據管理模式。

在技術實現的代碼層面，我們選用了 lazyllm 框架以支持知識庫的產品文檔復用，該框架具備邏輯簡潔且直觀的優勢；通過其內置的 JSON extractor 結合提示詞引導，系統能夠精準提取所需的 JSON 字段，并配合自定義節點組完成數據入庫操作。

產品與需求的數據匹配和分析

基于已構建的產品知識庫，系統進入數據分析與匹配階段。首先根據產品分類與聚類邏輯，將需求清單拆解至對應的技術層級，并在各層級內部通過功能清單匹配進行量化評分，從而篩選出各層權重最高的最優候選產品。

這樣做的好處尤為明顯，那就是即便面對跨層級的復雜需求，系統也能通過極簡的產品組合實現全功能覆蓋，有效避免了因選擇過多零散產品而導致的方案冗余與架構碎裂化。

在匹配邏輯的關鍵點上，系統首先依據產品分類對需求進行維度切分，并逐層開展精準匹配以選定最優產品；同時，通過提取需求與產品元數據，系統能夠實現前置過濾機制，例如當產品無法滿足國產化等硬性約束需求時，該產品將在匹配階段被直接排除，從而確保候選方案的合規性。

此外，系統還結合能力清單進行定制化開發評估，量化產出研發周期與人力成本估算。根據實驗統計，單次完整匹配流程約消耗 50 萬 Token，耗時約 30 分鐘，其輸出成果直觀展示了產品的綜合評分摘要及詳細的功能匹配度分析清單。

在工程化層面，鑒于產品文檔具備動態增刪與實時更新的特性，系統未對多源文檔進行整體聚合，而是采用了基于優先級的順序匹配策略。在匹配過程中，系統會依據文檔權重進行逐級檢索：優先在高優先級文檔中確認功能滿足度，若未命中，則按序順延至低優先級文檔，直至完成功能對標。

數據驅動的智能生成

在智能生成維度，行業實踐證明單次生成長文本易導致數值偏差，進而質量失控。為此，我們進行了子問題的拆解，通過合并長文本的多級標題來構建獨立的子生成任務，并由獨立智能體驅動執行。

根據任務需求，智能體可靈活調用直接填充、RAG 檢索增強、聯網搜索，或利用具備自我規劃與代碼生成能力的復合型 Agent 進行深度處理，確保了產出結果的專業性與可靠性。

在智能生成的關鍵點中，系統首先利用 Planner 生成子問題，并通過工具集協同解決；針對長篇幅的技術方案，采取標題合并策略將大標題與子標題整合為單一子任務，遞歸調用生成器產出文段，并在精煉處理后完成文本回填。

在效率表現上，生成 10 萬字標書與 4 萬字解決方案分別約耗時 2.5 小時與 2 小時，耗時主要集中在子問題的生成與解決環節。盡管系統已引入并行處理策略，但整體生成周期仍較長。

在該場景下，我們復用前述通用生成能力，通過嚴格的邏輯組織確保方案與標書契合標準化模板要求，并堅持有據可依以保障數據真實性。同時，引入風格轉換機制使生成內容符合行業標準書面語范式。在工程實現上，為避免針對特定場景產生不可復用的冗余代碼，我們采取“通用能力構建結合場景化適配”策略。

如上圖在成果展示中，左邊是模板，右邊是生成內容，系統通過對標模板進行自動化內容填充。另外針對大模型原生輸出往往存在的信息冗余或非必要的社交辭令，系統會通過該機制結合上下文對內容進行去冗與重構，確保最終生成的語言組織嚴謹，且符合標書及解決方案的專業標準。

數據約束的文案校驗

在審核機制的設計上，系統將其劃分為基礎審核與場景審核兩大部分：前者涵蓋語法語義、錯別字、標點符號及上下文一致性，并包含通用能力支撐下的場景化合規審計；

為提升審核效能，系統利用節點樹將文本拆分為全文、段落、句子等多粒度節點，并依據審計類型靈活匹配。針對特定業務場景，系統重點加強了對“廢標項”的合規響應審查及功能點真實性的閉環校驗，嚴禁虛假應標。

在審核環節，系統遵循“非必要不使用大模型”的原則，針對字詞、語法及標點符號等基礎檢查，優先利用傳統工具以規避大模型在準確度及響應速度上的局限性，而將大模型的核心能力應用于上下文一致性、合規性及廢標項識別等復雜維度。針對 Pycorrector 庫在語法審核中誤報率較高的挑戰，系統引入了大模型復審機制，通過對初步檢索結果進行二次校驗與去偽，有效剔除了虛假錯誤項，最終確保產出高質量且精準的問題清單。

審核流程的關鍵點是系統首先通過構建多粒度的節點樹以支持差異化審計需求，并配合多維度并行審核策略提升處理效能；同時，在強化場景審核以確保內容準確性的基礎上，引入大模型復審機制以保障審核結果的可靠度。經實驗測算，針對 10 萬字規模的投標文件，全流程審核任務約需消耗 200 萬 Token，總耗時約 1.1 小時。

如上圖為輸出展示，審核展示的數據結構涵蓋了問題類型、描述、重要程度、原文定位及修改建議等。

以具體案例說明，當標書中出現“AI 龍頭企業”等違反《廣告法》的表述時，合規審查模塊將精準攔截該違規項，并提示將其修改為“支柱企業”或“政府重點扶持企業”等符合法律規范的描述，從而確保投標材料的合規嚴謹。

基于審核反饋的迭代優化

在校對改寫環節，系統首先對審核意見進行分類處理：針對附帶明確修改建議的意見，直接調用大模型潤色回填；對于復雜改寫需求，則復用生成邏輯，通過子問題拆解與迭代生成完成內容重構。

改寫完成后進入全文復核階段，利用大模型對文檔的層級結構、數據連貫性、引用一致性及過渡銜接進行統一優化。在最終復核階段，系統完全依托大模型能力對全文進行整體潤色，無需進行子任務分解。

其關鍵點在于：首先分類匯總審核意見，并針對不同類別匹配差異化的潤色與回填工作流；其次，深度復用生成工具鏈以閉環解決子問題；最后，通過全局復核確保文檔的邏輯一致性與敘述連貫性。性能方面，針對上述含有約 190 條審計意見的 10 萬字標書，該環節的 Token 消耗約為 150 萬，整體處理周期約為 0.8 小時。

如上圖在系統輸出界面中，左側展示審核意見，右側呈現對應的改寫內容，且所有修改項均通過標簽化形式進行標注，旨在工程化應用中支持用戶在前端界面自主選擇保留或放棄修改，從而有效規避了輸出純文本時人工比對原文與修改內容的繁瑣，并能及時糾正模型可能出現的錯誤。

綜上所述，全流程執行耗時約7 小時，Token 成本約為30 元，實現了顯著的降本增效。

相比以往每項需求均需高度依賴專家進行分析評估及售前人員手工編制長篇材料的傳統模式，本方案在生產效率上實現了質的飛躍，7 小時的處理周期支持無人值守自動化運行，僅需人工介入最終審核。

此外，針對專家資源有限及非專業人員產品認知差異導致的質量波動，該方案通過統一的自動化流程與多輪嚴謹的審核校對機制，確保了產出成果的高質量一致性與準確性。

復雜場景下的技術挑戰與破局

第一，針對當前非結構化文檔（如 PDF、Word 等）結構化提取準確率較低這一行業共性挑戰，推薦采用商湯研發的UNIPASS工具；該工具深度融合了內部實踐經驗，專門面向 RAG 場景及標書、產品文檔的信息提取需求，通過智能布局檢測技術實現高質量的內容解析與提取。

第二，在實操過程中，針對多功能覆蓋需求導致的產品匹配冗余問題，系統采用“分層 + 聚類”方式，在每一類產品中僅篩選最優項，有效避免了因產品選擇過多而導致的功能覆蓋碎片化。

第三，針對長文本生成效果受限的問題，系統通過模板切分與子任務智能拆解技術，將復雜模塊轉化為可控的生成單元。此外，方案引入了寫作智能體，通過“目錄驅動”與“上下文增強”相結合的機制，在動態調整目錄的同時實時同步上下文信息。

第四，在審核環節，針對上文歷史案例與下文技術方案不匹配導致審核準確率下降的問題，系統通過解析全局目錄樹結構來識別段落相關性，從而過濾無關信息的干擾。同時，引入元信息定位機制，精準標注各片段在全文中的層級與位置。

在模型審核過程中，系統會綜合參考資料、目標文本、目錄結構及定位數據，輸出更具針對性的審核意見。此外，通過強化段落一致性復審，進一步確保了審核過程免受非相關章節的誤導。

問題 5：在智能體（Agent）開發領域，商湯自研的LazyLLM應用開發框架致力于實現低成本與高性能的平衡，有效解決了私有化過程中常見的復雜選型與環境適配痛點。它深度對齊了線上云端模型與線下本地模型的使用方式，并兼容多種主流推理框架，使開發者僅需調整極少量配置即可完成模型遷移。

其次，系統支持高性能文檔存儲與向量存儲的集成，允許開發者根據不同項目的需求靈活切換技術選型；例如，在面對多樣化的客戶要求時，可實現從 Milvus 到 ChromaDB、OceanBase，或從 Elasticsearch 到 Open Search 的便捷遷移。通過解耦特定產品綁定，該方案確保在實際開發與工程落地過程中，無需修改核心業務代碼，僅通過調整配置項即可實現技術棧的平滑切換。

此外，系統具備復雜應用的一鍵部署能力。針對包含數據庫、文檔管理及大模型、嵌入模型、重排序模型等組件的 RAG 系統，開發者只需定義數據流 Pipeline，內置的服務發現模塊即可自動識別并啟動所有關聯服務，并通過輕量級網關實現鏈路串聯；同時，系統支持接入 K8S 配置以利用其原生網關，從而實現工業級落地。

最后在數據處理層面，系統支持高度靈活的切分與解析策略定制，例如集成內置的 JSON Rxtractor 以替代傳統 RAG 中單一的關鍵詞或 QA 抽取模式，僅需十余行代碼即可在保持簡潔性的同時，實現核心組件的高度定制；同時，系統深度優化了錯誤定位機制，能夠精確反饋函數參數及代碼行級的異常信息。該框架以工業落地為核心，不僅適用于 POC 快速驗證，更已全面應用于公有云服務的算法開發，并在高并發架構與橫向擴展性能上經過了大規模生產環境的深度驗證。

從工具到生態的閉環藍圖

展望未來，我們將持續優化系統性能與生成效果，并深度結合客戶反饋迭代場景化模型，構建從業務復盤到算法進化的持續反饋閉環。在發展戰略上，我們將并行推進開源化與產品化：目前LazyLLM框架已正式開源，我們將對解決方案 Agent 進行工程化與標準化重構，并逐步開源其核心技術。同時，為提供端到端的應用體驗，該 Agent 將深度集成至商湯大裝置“萬象”產品體系中。

嘉賓介紹：

王志宏，商湯科技大裝置研發總監，曾擔任商湯自研的 AI 訓練框架 SenseParrots 的研發負責人，目前負責商湯的私有化 AI 項目交付，并主導開源項目 LazyLLM 的技術研發與生態建設。深耕 AI 領域多年，具備豐富的 RAG 和 Agent 的實踐經驗，推動數十家企業實現 AI 應用落地。

會議推薦

世界模型的下一個突破在哪？Agent 從 Demo 到工程化還差什么？安全與可信這道坎怎么過？研發體系不重構，還能撐多久？

AICon 上海站 2026，4 大核心專題等你來：世界模型與多模態智能突破、Agent 架構與工程化實踐、Agent 安全與可信治理、企業級研發體系重構。14 個專題全面開放征稿。

誠摯邀請你登臺分享實戰經驗。AICon 2026，期待與你同行。