新的內(nèi)存擴(kuò)展技術(shù)使PC能在本地運(yùn)行更大的智能模型，同時(shí)降低內(nèi)存需求。

群聯(lián)電子表示，其新的內(nèi)存擴(kuò)展技術(shù)能讓一臺僅有16GB內(nèi)存的PC運(yùn)行260億參數(shù)的語言模型，從而可能讓更先進(jìn)的智能軟件在本地運(yùn)行，而無需嚴(yán)重依賴云基礎(chǔ)設(shè)施。

該公司在臺北舉行的Computex 2026上發(fā)布了這項(xiàng)名為aiDAPTIV的技術(shù)，這是與英特爾合作的一部分。該系統(tǒng)結(jié)合了英特爾酷睿Ultra系列3處理器與群聯(lián)基于存儲(chǔ)設(shè)備的內(nèi)存擴(kuò)展平臺，以支持消費(fèi)級PC上更大的模型和更長時(shí)間運(yùn)行的工作負(fù)載。

隨著智能應(yīng)用變得越來越強(qiáng)大，它們需要越來越多的內(nèi)存來處理更大的模型、維護(hù)會(huì)話歷史并執(zhí)行多步驟任務(wù)。許多當(dāng)前的PC缺少足夠的DRAM來高效運(yùn)行這些工作負(fù)載，迫使用戶依賴基于云的服務(wù)。

群聯(lián)表示，aiDAPTIV通過將工作內(nèi)存從傳統(tǒng)DRAM擴(kuò)展到高性能NAND閃存存儲(chǔ)，來解決這一限制。該技術(shù)使用公司稱為Pascari aiDAPTIV Cache Memory的組件，為本地工作負(fù)載提供額外的內(nèi)存資源。

打破內(nèi)存限制

據(jù)群聯(lián)稱，內(nèi)部測試顯示，啟用aiDAPTIV時(shí)，一個(gè)260億參數(shù)的模型可以在配備16GB DRAM的系統(tǒng)上運(yùn)行。而在相同的測試條件下，如果不使用該技術(shù)，同樣的工作負(fù)載需要32GB DRAM。

該公司表示，該平臺還支持KV緩存重用等運(yùn)行時(shí)功能，這有助于保留來自先前交互的信息，并減少重復(fù)處理相同數(shù)據(jù)的需求。

與英特爾的合作重點(diǎn)是在搭載酷睿Ultra處理器的英特爾AI PC平臺上啟用aiDAPTIV。兩家公司還在致力于支持英特爾的OpenVINO工具套件，并正在評估優(yōu)化的負(fù)載，以便未來進(jìn)行性能演示。

“AI PC正在演變?yōu)檫\(yùn)行更復(fù)雜本地AI工作負(fù)載的平臺，這些工作負(fù)載包括智能體應(yīng)用和更大的MoE模型，它們對內(nèi)存容量和響應(yīng)速度提出了越來越高的要求，”群聯(lián)電子首席執(zhí)行官兼創(chuàng)始人潘健成（KS Pua）表示。

“通過與英特爾的合作，aiDAPTIV有助于擴(kuò)展英特爾AI PC平臺上可供AI工作負(fù)載使用的必要內(nèi)存，讓OEM、開發(fā)者和最終用戶能夠在本地運(yùn)行更強(qiáng)大的AI應(yīng)用，同時(shí)保持隱私和基礎(chǔ)設(shè)施效率。”

本地模型擴(kuò)展

在Computex上，兩家公司演示了一個(gè)本地聊天界面，運(yùn)行著一個(gè)通常超出可用系統(tǒng)內(nèi)存的混合專家模型。群聯(lián)還展示了一個(gè)基于開源智能體框架OpenClaw構(gòu)建的混合大語言模型路由系統(tǒng)。

該演示允許更大的模型在本地運(yùn)行，僅在更復(fù)雜的請求需要額外處理時(shí)才使用云資源。

英特爾表示，內(nèi)存仍然是在客戶端硬件上運(yùn)行先進(jìn)模型的主要障礙之一。

“越來越多的用戶和企業(yè)希望在本地運(yùn)行AI——更快、更私密，且無需將所有數(shù)據(jù)發(fā)送到云端的成本，”英特爾客戶端計(jì)算事業(yè)部高級副總裁兼總經(jīng)理Jim Johnson表示。

“我們與群聯(lián)的合作使英特爾AI PC平臺能夠以更簡單的內(nèi)存配置支持更大的本地AI工作負(fù)載，這樣客戶就能以更低的總成本將自身數(shù)據(jù)轉(zhuǎn)化為有用的應(yīng)用和真實(shí)的商業(yè)價(jià)值。”

這一消息是在臺北Computex 2026上宣布的。

如果朋友們喜歡，敬請關(guān)注“知新了了”！