大模型下半場，拼的是“上下文分層設計”。

出品 | AI 科技大本營（ID：rgznai100）

最近幾年的 AI 潮，全世界的開發者對大模型的了解每年都在逐漸加深，一個貫穿始終的問題也演變得越來越具體，也越來越無法回避：大模型很強，可它到底什么時候才能真正“替我們把事情做完”？

從單輪問答到如今的智能體（Agent）時代，軟件開發的底層范式正在經歷一次無聲的重構。開發者的關注點，正快速從單純的“如何寫好提示詞”，升級到如何進行硬核的“系統工程設計”——我們需要對 Token 進行分配與分層上下文管理，需要用可復用的 Skills 連接真實業務，更需要設計精密的運行 Loop。

6 月 13 日，由 CSDN 與 AMD 聯合主辦的 “AI 開發者沙龍·智能體工坊” 順利舉行。活動圍繞 Agent 時代下的開發范式變遷，聚焦 Token、本地部署、上下文工程、智能體框架、典型應用場景與工程化落地等核心議題，邀請來自 OceanBase、DeerFlow、AMD 的技術專家展開系統分享，并通過實踐工坊帶領開發者進一步走向上手實戰。

堅持“領先半步”，AI 原生的研發升級絕不是買兩個工具那么簡單

自 1999 年成立以來，CSDN 已經積累了 5300 萬開發者，成長為全球第二大開發者社區。在 2026 年 AI 大時代下，如何賦能開發者和企業的智能化升級？

CSDN 總編孟迎霞表示，在每一個技術躍遷的節點，CSDN 始終堅持做“領先半步”的同行者。“如果領先太多，技術離實際工作太遠，就很難真正帶來幫助；但如果能領先半步，就能告訴大家業界正在發生什么，未來走向哪里。抬頭看天的過程，對技術人來說至關重要。”

這也是 CSDN 為什么持續投入線下活動、技術報告、專家訪談和研究型內容的重要原因。圍繞 AI 大時代下的新變化，孟迎霞分享了 CSDN 這幾年在開發者生態上的幾個關鍵動作：

• 持續夯實開發者社區基礎，圍繞博客、問答、搜索、創作等場景構建內容與知識服務能力；

• 與 AtomGit 共同打造開源代碼及人工智能社區，支持優秀項目成長與生態連接；

• 通過《新程序員》、各類技術報告、視頻欄目和直播節目，持續輸出前沿判斷

• 成立“奇點智能研究院”，面向技術管理者與企業智能化升級需求，提供更深層次的研究、連接與咨詢服務。

• 2026 年 5 月，CSDN 推出TaoToken 全球大模型 Token 聚合平臺，以一套 API 打通 150+ 主流大模型，高性價比，計費靈活且成本可控，可為個人開發者與企業團隊提供高性價比、穩定的 AI 模型調用服務。

今天，“人人都是程序員，行行都將智能化，萬物皆可編程”正在成為現實，CSDN 也正從內容平臺全面升級為開發者生產力平臺。為此，奇點智能研究院于今年 4 月正式發布了《AISMM 2026 AI原生軟件研發成熟度模型白皮書》。孟迎霞指出：“一個企業研發團隊要真正完成 AI 原生化升級，并不是買幾個工具那么簡單。”這是一項涉及基礎設施、知識工程、組織人才和安全治理等多維度的系統工程，白皮書正是旨在為企業軟件研發的 AI 原生化演進提供一套可量化的坐標系。

應用開發的底層是“Token 分配的藝術”

作為大模型應用最基礎的處理機制，Token 常被直觀理解為“一個字”或“一個詞”。OceanBase 技術專家湯慶指出，模型本質上無法直接處理自然語言，而是通過 BPE（Byte Pair Encoding）等子詞切分算法將文本轉化為數字序列。大模型的底層，是在已有上下文基礎上，通過概率建模持續預測下一個最可能出現的 Token。

由此，湯慶提出了一個核心論斷：“大模型應用，本質上是 Token 分配的藝術。”不管是傳統的提示詞工程（Prompt Engineering），還是最新的上下文工程（Context Engineering）和循環工程（Loop Engineering），本質上都在解決同一個問題——如何在有限的窗口里，把最關鍵的信息在最合適的位置給到模型。

針對長上下文中極易被忽略的“中心衰減”問題，湯慶提出，未來大模型應用需要一個“可檢索、可溯源、可演進”的上下文系統（Context Seek）。該系統將上下文分層管理（原始信息 L0、摘要信息 L1、抽取的知識 Skills L2），并創造性地引入了“做夢機制”：在系統空閑時讓其對現有上下文進行發散推演，利用置信度衰減體系自我強化與糾偏，最終將零散的上下文沉淀為高價值、可復用的個性化 Skills。

真正的 Agent 工程都是在泥坑里踩出來的

“智能體并不只是一個‘更會聊天’的模型，而是一個以目標為導向的系統。”DeerFlow 核心貢獻者姜寧指出，Agent 與單體 LLM 的核心區別在于其具備 ReAct 循環（Reason 思考、Act 執行、Observe 觀察），這決定了 Agent 能否穩定地把任務持續推進下去。

在 DeerFlow 從 1.0 深度研究（Deep Research）走向 2.0 通用 Super Agent 的演進中，“Skills（能力包）”成為了一個至關重要的能力解耦層。姜寧表示：“大模型負責推理，而 Skills 負責連接具體的業務世界。”通過加載不同的 Skills，Agent 可以動態在數據分析、內容創作、代碼處理等任務間切換。

同時，姜寧深入剖析了智能體工程實現中的關鍵痛點：Memory 的長期偏好積累、Sandbox 的隔離環境、以及通過中間結果落盤進行 Context 長度和 Token 消耗的管理。他強調：“很多坑，比如 Tool Result 過長、上下文爆炸、調用失敗如何善后、高并發如何觀測、長鏈路如何容錯，這些都不是在 PPT 里能學會的，而是在真實項目里一點一點在泥坑里踩出來的。”深度參與開源、在真實場景中試錯，正是開發者成長最快的路徑。

本地部署才是高頻 Agent 的成本唯一解

在真實工作流中，Agent 的長期落地必須算清楚“算力與成本”這筆硬賬。AMD ROCm 軟件與方案架構師 Charles Yang認為：“一個精心設計的 Loop，有時候甚至比模型本身更重要。”模型只是大腦，而負責上下文管理和 Loop 調度的 Runtime，才決定了系統運行的穩定性。

他橫向對比了當前最火熱的兩大 Agent 路線：常駐多通道協作的 OpenClaw，與強調長期記憶、可自進化的 Hermes。雖然工具生態極大地解放了生產力，但隨著使用頻次上升，高頻 Agent 正成為一個極其費錢的 Token 耗能黑洞。由于長系統提示詞、海量工具調用日志以及多輪循環重試，Agent 運行的推理成本會呈幾何級放大。

基于此，“本地部署正在從‘隱私保護’的附加項，轉變為長期運行 Agent 的‘成本唯一解’。”Charles Yang 介紹，依托 AMD Radeon AI PC 的全棧生態，其統一內存架構（CPU、GPU、NPU 共享大容量顯存）能有效消除傳統跨總線搬運數據的性能瓶頸，非常契合 Agent 需要一邊做模型推理、一邊高頻調度工具與文件的序貫決策場景。配合 ROCm 全棧軟件協同，本地部署正在成為開發者低成本、零門檻玩轉 Agent 的剛性選擇。

智能體工坊實操：基于 Radeon Cloud，親手跑通一個本地 Agent

隨著主題分享結束，活動現場也從“聽”轉向“做”，進入本次“智能體工坊”的核心環節。

前半場關于 Token、上下文工程、ReAct、Skills、Memory、Tools、本地部署的分享，為后續實操搭建起了一條比較完整的理解路徑：先理解模型如何處理信息，再理解 Agent 如何組織任務、調用工具、保留狀態，最后再進入實際環境，體驗一套智能體系統如何被搭建和運行。

進入 Workshop 后，現場氛圍也隨之切換。Charles Yang 在臺上講解逐步轉入具體操作，臺下不少開發者一邊跟隨步驟配置環境，一邊對照前面分享中提到的模型、上下文、工具鏈和運行機制，現場交流明顯增多。有人邊聽邊記，有人直接打開電腦同步操作，也有人圍繞部署細節、調用流程和運行結果與身邊同伴低聲討論。

對于到場參與者而言，前半場建立的是認知框架，后半場則把這些概念進一步落到實際操作中。

在動手過程中，Token、上下文、運行時、工具調用這些原本相對抽象的概念，也隨著環境配置、任務執行和系統運行過程變得更加具體。開發者不再只是“聽到”一個 Agent 的工作方式，而是開始在實際操作里感受它如何被搭起來、如何運行、又會在哪些環節產生差異。

結語

隨著 AI 應用持續從問答走向執行，開發者對智能體系統的關注點，也正在從模型能力逐步擴展到系統能力、工程能力與運行能力。如何把模型接入真實工作流，如何讓智能體具備持續運行和迭代能力，正在成為越來越多開發者關心的話題。

此次活動通過主題分享與 Workshop 結合的形式，為開發者提供了一個從理解 Agent 到體驗 Agent 的交流場景。未來，圍繞 AI 原生開發、智能體工程與開發者生態的討論，也將持續深入展開。

CSDN 6 月寵粉福利｜開發者“神裝”補給站

200 小時 GPU 算力免費領

瑞幸咖啡/肯德基早餐/下午茶等能量套餐任選其一

入群還可每月定期抽取旗艦顯卡、AI PC 等極客神裝

領取地址：https://s.csdn.cn/4nPsOp

開發者“神裝”補給站｜CSDN 6 月寵粉專屬福利

不論你是想跑通最新的本地 LLM，還是想實測一套 Agent 自動化工作流，算力與補給，我們都為你備齊了！

立領三重進階大禮：

200 小時云端算力券免費領

瑞幸咖啡/肯德基早餐/下午茶任選其一

掃碼即刻領取，今日額度有限，手慢無！

領取地址：https://s.csdn.cn/4nPsOp