F5攜手NVIDIA提升AI工廠經濟效益，賦能加速AI推理

　　基于NVIDIA BlueField DPU加速的 F5 BIG-IP Next for Kubernetes 實現更高Token吞吐、更低單Token成本，并支持安全的多租戶AI基礎設施，助力智能體時代下的AI工廠轉型。

　　西雅圖-全球領先的應用交付和API安全解決方案提供商F5(NASDAQ: FFIV)日前宣布，進一步擴展與NVIDIA的深度合作，旨在加速并優化AI推理基礎設施。

　　此次升級整合了F5 BIG-IP Next for Kubernetes與 NVIDIA BlueField-3 DPU，構建出具備智能化與遙測感知能力的基礎設施層。在提升GPU利用率的同時，該解決方案能夠顯著提升GPU利用率及Token吞吐量、降低時延，并支持在大規模環境下構建安全的多租戶AI平臺。

　　在AI系統中，Token是衡量AI輸出的基本單位，即在推理過程中生成和處理的詞語、符號或數據片段。Token產出的規模與速度，直接決定了用戶體驗、基礎設施效率以及單加速器的收益能力。

　　隨著企業與GPU即服務(GPUaaS)提供商加速推動AI商業化，并從實驗階段邁向規�；瘎撌�，基礎設施效率正成為關鍵衡量指標。當前，行業衡量標準正從單純的GPU部署規模，轉向更精細化的Token經濟指標，包括Token吞吐量、首個Token時間(TTFT)、單Token成本以及單GPU收入等。F5與NVIDIA的聯合解決方案，正是圍繞這些核心指標進行優化設計，助力客戶實現AI投資回報最大化。

通過智能化 AI 基礎設施優化 Token 經濟性

　　從以應用為中心的推理轉向由智能體驅動的AI工作流，迫切需要新的架構設計，以提升token吞吐效率并降低成本。F5 BIG-IP Next for Kubernetes現已深度集成NVIDIA NIM 統計數據、Dynamo運行時信號以及GPU遙測信息，實現在推理執行前即可進行感知推理狀態的流量調度決策。通過實時將工作負載匹配至最合適的加速器資源，該解決方案在提升持續利用率的同時，有效降低推理時延與重復計算。

　　F5首席產品官Kunal Anand表示，“AI基礎設施已不再只是獲取GPU資源或擴大部署規模，而是演進為如何最大化單塊加速器所產生的經濟價值。通過與NVIDIA的合作，我們助力AI工廠將Token產出轉化為可量化的業務指標。BIG-IP Next for Kubernetes提供所需的智能調度與治理能力，幫助企業提升GPU產出效率、降低單Token成本，并更自信地擴展共享型AI平臺。”

經驗證的基礎設施效率提升：結構性躍遷

　　性能數據充分印證了這一點。在The Tolly Group的驗證測試中，基于NVIDIA BlueField-3 DPU加速的F5 BIG-IP Next for Kubernetes，實現了最高達40%的Token吞吐提升、首個Token時間加快61%，以及整體請求時延降低34%。

　　這并非漸進式優化，而是架構層面的效率躍遷。通過將網絡處理、TLS/加密、AI感知負載均衡及流量管理等任務卸載至NVIDIA BlueField-3 DPU，BIG-IP Next for Kubernetes能夠有效釋放主機CPU資源，并讓GPU專注于其核心職責，即在大規模場景下執行持續、高吞吐的AI推理計算。這一架構實現了GPU利用率顯著提升、排隊延遲減少，以及Token產出能力增強，從而在固定基礎設施規模下實現更低的單Token成本。更為關鍵的是，這一系列性能提升無需對模型本身進行任何修改，可直接應用于現有AI工廠基礎設施。對于在Token經濟學賽道展開競爭的企業及NeoCloud服務提供商而言，這意味著從限制AI產出的基礎設施，邁向加速AI產出的關鍵轉變。

　　NVIDIA網絡業務高級副總裁Kevin Deierling表示，“NVIDIA加速計算基礎設施與F5具備AI的應用交付與安全平臺相結合，能夠顯著提升AI工廠的Token 經濟效益，并在無需修改模型的前提下，實現可擴展且具備成本效率的推理能力。F5與NVIDIA正攜手助力企業以更高效、更經濟的方式擴展AI工廠推理能力�！�

面向智能體驅動AI與多租戶平臺構建

　　現代AI工作負載正日益呈現出智能體驅動、持久化與上下文感知。這類新型負載對流量調度提出了更高要求，傳統負載均衡已難以勝任。F5 BIG-IP Next for Kubernetes增強版現已支持以下核心能力：

　　·面向智能體AI工作流的推理感知路由。

　　·集成NVIDIA DOCA Platform Framework(DPF)，簡化NVIDIA BlueField DPU的部署與全生命周期管理。

　　·基于EVPN-VXLAN與動態VRF的網絡級多租戶隔離能力。

　　·在Kubernetes AI環境中內建安全能力、Token治理與可觀測性。

　　這些能力賦能企業與NeoCloud服務提供商能夠在共享 GPU 基礎設施的同時，實現跨業務單元或外部客戶的安全隔離，在保障性能隔離性的前提下，維持可預測的服務水平。

面向AI工廠經濟學的控制平面

　　F5與NVIDIA為企業提供經過驗證的工具與最佳實踐，助力優化推理架構�；谏鲜瞿芰ι�，F5 BIG-IP Next for Kubernetes正在演進為AI工廠經濟學的戰略級控制平面，實現治理Token消耗、優化流量路徑，并最大限度地提升基礎設施的投資回報率(ROI)。

　　基于此，企業無需再通過過度資源預留來彌補效率損耗，而是能夠從現有已部署GPU資源中釋放更高的經濟價值。由此帶來一系列關鍵業務收益，包括：單GPU收入提升、運維成本降低，并能構建起支撐持續增長的可擴展AI服務。通過深度融合NVIDIA的基礎設施遙測與DPU加速能力，以及F5在流量智能與安全領域的核心優勢，雙方正助力企業將AI工廠從計算資源平臺轉化為高效、可變現的業務平臺，從而為智能體時代做好充分準備。

附加資源

· 博客文章：AI工廠需要智能化基礎設施：The Tolly Group最新測試結果深度解析
·技術報告：The Tolly Group獨立測試報告：F5 BIG-IP Next for Kubernetes性能驗證全記錄