編輯 | 澤南
本周三,OpenAI 與博通合作,推出了自己的首款芯片:Jalape?o。
![]()
OpenAI CEO 山姆?奧特曼(Sam Altman)與博通 CEO 陳福陽(Tan Hock Eeng)共同展示新芯片的晶圓。
這些芯片將由博通(Broadcom)制造,用于 OpenAI 的人工智能推理負載,其中包括在 ChatGPT、Codex 等應用中驅動 AI 模型。
OpenAI 總裁 Greg Brockman 強調,Jalape?o 創下了極快的九個月流片記錄,這很大程度上歸功于 OpenAI 內部 AI 模型在整個設計流程中的深度參與。這種用 AI 加速底層硬件研發的速度讓 OpenAI 內部團隊也感到驚訝。
Jalape?o(意為墨西哥胡椒)是一個專為現代 LLM 推理,從零開始設計的全新方案,并非基于早期 AI 工作負載改造的通用加速器。它參考了 OpenAI 日常運行的系統,加速的任務包括 ChatGPT、Codex、API 以及未來的智能體產品,同時也面向當前及未來業界的 LLM 應用。OpenAI 的目標是將當今領先的 AI 加速器的性能和吞吐量與接近最快專用推理系統的延遲相結合,從而使 Jalape?o 適合大規模交互式 LLM 產品。
該芯片的性能仍未公布,但 OpenAI 稱,早期測試表明,Jalape?o 的每瓦性能將顯著優于目前最先進的技術。該公司預計將在未來幾個月內發布一份詳細的性能技術報告。
在 Jalape?o 上,新架構減少了數據傳輸,并平衡了計算、內存和網絡資源,從而使實際利用率更接近理論峰值性能。博通的芯片實現和網絡技術,包括 Tomahawk 網絡芯片,助力了該平臺實現大規模量產,天弘(Celestica)則負責系統集成、主板和機架。
如今 AI 的算力需求越來越大,各家公司對于芯片的需求也日益迫切,Brockman 表示 OpenAI「無法獲得足夠快的算力」,博通首席執行官陳福陽也支持這一觀點,稱該公司六家客戶的計算需求「簡直是永無止境」。
陳福陽表示,「這遠遠超出了我們能解決的范圍……而且這不僅僅是 2026 年或 2027 年的問題,我們在 2028 年也看到了同樣甚至更高的需求。」
Jalape?o 是 OpenAI 構建其模型和產品背后「完整技術棧」計劃中的重要一步。OpenAI 表示,通過自行設計更多技術棧,其可以更高效地提供更多智能,并不斷推動先進 AI 走向更廣泛的應用。
自 OpenAI 在 2022 年開啟生成式 AI 熱潮以來,該公司一直是英偉達 GPU 的最大買家之一。日益昂貴的圖形處理器是構建 AI 模型和運行大型工作負載的關鍵基礎設施。但 OpenAI 的需求呈爆炸式增長,因此需要其他專用型芯片提供動力。
今年早些時候,OpenAI 與亞馬遜達成了一項協議。其中包括使用其 Trainium 人工智能芯片的網絡服務。OpenAI 也與英偉達的競爭對手 AMD 簽署了協議,還與 AI 芯片制造商 Cerebras 展開了合作。
經過 18 個月的合作,OpenAI 和博通公開宣布計劃將在今年晚些時候開始開發和部署 OpenAI 設計的芯片機架,最終目標是造出總計達到 10 吉瓦能耗規模的算力集群。
Jalape?o 是一款專用集成電路(ASIC),其靈活性不如英偉達的 GPU,但價格也更低,并且可以針對特定的 AI 任務進行定制化設計。
OpenAI 將這款芯片稱為「智能處理器」,并將其描述為他們正在構建的平臺中的第一個人工智能加速器,旨在使先進的 AI 更快、更可靠,并讓更多人更容易獲得。
OpenAI 與博通表示,他們的目標是在 2026 年底前初步部署 Jalape?o 芯片,并在未來幾年內擴大部署規模。
參考內容:
https://openai.com/index/openai-broadcom-jalapeno-inference-chip/
https://www.cnbc.com/2026/06/24/openai-and-broadcom-reveal-jalapeno-first-ai-chip-in-partnership.html
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.