整理 | 夢依丹

出品 | CSDN（ID：CSDNnews）

你花了數(shù)千萬美金買回最頂級的 H100 集群，指望它們跑出驚人的 Agent 響應(yīng)速度。但現(xiàn)實(shí)是：每塊價值 4 萬美金的算力怪獸，大部分時間竟都在閑置，只為了等那該死的磁盤 I/O。

在 ASPLOS 2026 上，Eunomia-BPF 團(tuán)隊(duì)對 144 個 SWE-bench 任務(wù)的全鏈路 Profiling 揭露了一個被忽視的真相：

在復(fù)雜 Agent 任務(wù)中，大家死磕的大模型推理僅占耗時的 30%-40%。剩下的 60%-70%，全被虛耗在了操作系統(tǒng)的執(zhí)行環(huán)節(jié)——環(huán)境初始化、文件讀寫、多步驟切換帶來的系統(tǒng)級開銷。

論文地址： https://os-for-agent.github.io/papers/AgenticOS_2026_paper_10.pdf

Profiling 數(shù)據(jù)進(jìn)一步揭示了“算力自相矛盾”的尷尬現(xiàn)狀：

Agent 運(yùn)行時，平均 CPU 利用率甚至不到 12.8%，處于嚴(yán)重的“出工不出力”狀態(tài)；但在執(zhí)行復(fù)雜指令（如安裝環(huán)境、跑測試）的瞬間，內(nèi)存和網(wǎng)絡(luò)帶寬的峰值消耗能飆升至平均值的 15 倍以上。

這種“極低均值”與“極高瞬時脈沖”的劇烈撕裂，證明了傳統(tǒng)的靜態(tài)資源分配模式在 Agent 時代已經(jīng)失效。

Agent 的性能瓶頸則是在執(zhí)行任務(wù)時，基礎(chǔ)設(shè)施層的“手腳”配合，而非推理速度。

面對這場架構(gòu)級的范式轉(zhuǎn)移，由 CSDN 與奇點(diǎn)智能研究院聯(lián)合主辦的 「2026 奇點(diǎn)智能技術(shù)大會」，特別設(shè)立了「AI Infra 基礎(chǔ)設(shè)施與運(yùn)維」專題，邀請了來自 NVIDIA、華為、智源、無問芯穹、清程極智、啟元實(shí)驗(yàn)室、昆侖芯、清微智能等 8 位一線“基建專家”，為大家?guī)?Agent 時代的基建實(shí)戰(zhàn)。

既然人腦無法實(shí)時響應(yīng) Agent 這種毫秒級的資源跳變，那就用 Agent 來管理集群。

無問芯穹技術(shù)副總裁吳保東將帶來《基于 Agentic Infra 的 AIOps 智能體系統(tǒng)》。他將拆解如何利用專項(xiàng)智能體實(shí)現(xiàn)跨集群的感知與自動治理，將平均故障修復(fù)時間（MTTR）降低 90% 以上，讓運(yùn)維從“被動響應(yīng)”轉(zhuǎn)向“主動進(jìn)化”。

清程極智副總裁何萬青帶來《Agentic AI Infra：以智能體為中心的八卦爐智能軟件棧》，深度探討如何構(gòu)建一套真正適配長程 Agent 任務(wù)流、而非單純適配模型推理的底層架構(gòu)。

針對“大模型推理僅占 30%”的尷尬現(xiàn)狀，我們需要在剩下的 70% 里硬搶效率，為此我們邀請到：

昆侖芯推理框架架構(gòu)師馬陽，他將復(fù)盤《大規(guī)模 LLM 推理優(yōu)化》，分享支撐文心一言背后，如何解決顯存墻與帶寬墻、實(shí)現(xiàn)極致吞吐的真實(shí)心得。

華為研發(fā)工程師、OmnInfer 負(fù)責(zé)人何斌將帶來《Omni-infer 性能極致優(yōu)化實(shí)踐》，從底層指令集到上層算子融合，演示如何通過硬核手段榨干每一比特的算力紅利。

不同芯片、不同軟件棧導(dǎo)致的適配成本高昂，是每一個開發(fā)者最頭疼的阻礙。

北京智源 AI 框架研發(fā)負(fù)責(zé)人敖玉龍將分享《基于 FlagOS 技術(shù)棧的大模型框架多芯片統(tǒng)一高效插件體系》他將演示如何以低侵入方式，將統(tǒng)一算子接入 Megatron-LM、vLLM 等主流框架，讓同一套代碼在不同國產(chǎn)芯片上零成本遷徙，實(shí)現(xiàn)“一次開發(fā)，多芯運(yùn)行”。

啟元實(shí)驗(yàn)室數(shù)據(jù)智能團(tuán)隊(duì)負(fù)責(zé)人馬少楠則聚焦“九源智能基礎(chǔ)軟件棧”，分享《面向大模型時代的軟硬協(xié)同計算架構(gòu)與數(shù)智融合實(shí)踐》通過統(tǒng)一加速平臺屏蔽異構(gòu)芯片差異，打通從底層數(shù)據(jù)處理、知識庫構(gòu)建到智能化分析的全鏈路技術(shù)脈絡(luò)。

AI 時代的 Infra 不再是簡單的硬件堆砌，而是一個復(fù)雜的軟件定義系統(tǒng)。

NVIDIA 產(chǎn)品管理高級總監(jiān) Han Vanholder將帶來全球視角的《開源 AI 工廠軟件：NVIDIA 云合作伙伴如何構(gòu)建與規(guī)模化運(yùn)營 GPU 基礎(chǔ)設(shè)施》。他將介紹 NVIDIA 如何通過 NCX（NVIDIA Cloud Accelerator） 將大規(guī)模運(yùn)營經(jīng)驗(yàn)轉(zhuǎn)化為可部署的模塊化組件，幫助云廠商構(gòu)建真正的生產(chǎn)級 AI 基礎(chǔ)設(shè)施。

清微智能技術(shù)專家樓群芳將探討《可重構(gòu)計算超節(jié)點(diǎn)的理論探索和實(shí)踐》。她將解析如何通過硬件可重構(gòu)性與智能資源動態(tài)編排，構(gòu)建像“變形金剛”一樣能動態(tài)適應(yīng)多變算法需求的智能計算系統(tǒng)。

此外，沐曦高級副總裁孫國梁也將現(xiàn)身專題圓桌，與多位技術(shù)決策者共同探討國產(chǎn)算力在智能體時代的生態(tài)突圍之路。

本場專題聽眾收益：

這是一場屬于 Infra 架構(gòu)師與集群負(fù)責(zé)人的“全景實(shí)戰(zhàn)復(fù)盤”。你將帶走的不僅是幾頁 PPT，而是一套應(yīng)對 2026 版算力焦慮的系統(tǒng)解法：

• 掌握適配標(biāo)準(zhǔn)：了解如何通過插件化體系實(shí)現(xiàn)多芯片的高效運(yùn)行；

• 獲取壓榨心法：學(xué)習(xí)在大廠國民級業(yè)務(wù)中驗(yàn)證過的推理加速策略；

• 對齊全球趨勢：看清 NVIDIA 與國內(nèi)頂尖實(shí)驗(yàn)室對“AI 工廠”與“可重構(gòu)計算”的最新定義。

4 月 17-18 日，上海。

來現(xiàn)場，和最懂底層工程的一線專家們一起，給你的 AI 系統(tǒng)換上一套“強(qiáng)壯的底盤”。

席位有限，立即掃碼鎖定早鳥票，搶占 2026 AI 基建紅利！