近期的科技圈被端側(cè) AI 產(chǎn)品密集刷屏：阿里推出起售價 1899 元的夸克 AI 眼鏡，字節(jié)跳動聯(lián)合努比亞發(fā)布豆包 AI 手機助手，華為的 “智能憨憨” 陪聊機器人上線即售罄。這些產(chǎn)品的集中亮相，標(biāo)志著人工智能正從云端的算力軍備競賽，轉(zhuǎn)向終端設(shè)備的實際落地 —— 端側(cè) AI 的時代，已然到來。

要清晰認(rèn)知端側(cè) AI，首先需要明確其核心定義。

端側(cè) AI，全稱 “終端側(cè)人工智能”，指的是將 AI 算法、模型直接部署在手機、眼鏡、機器人、智能手表等終端設(shè)備本地，讓計算過程在設(shè)備內(nèi)部完成的技術(shù)形態(tài)。簡單來說，就是 AI 的 “推理、決策環(huán)節(jié)” 不用再依賴遠(yuǎn)程服務(wù)器，而是在我們觸手可及的設(shè)備上實時運行：比如手機本地識別照片內(nèi)容、AI 眼鏡離線翻譯外文路牌、智能手表在無網(wǎng)時分析心率數(shù)據(jù)，這些都屬于端側(cè) AI 的應(yīng)用范疇。其核心特征是 “計算本地化”，數(shù)據(jù)無需上傳至外部網(wǎng)絡(luò)，計算結(jié)果也能在設(shè)備端即時反饋。

與之相對的，是我們更為熟悉的云端 AI—— 將 AI 模型和算力集中在遠(yuǎn)程的云端服務(wù)器（如谷歌云、阿里云的大型數(shù)據(jù)中心），終端設(shè)備僅負(fù)責(zé) “發(fā)送請求” 和 “接收結(jié)果”。比如早期的語音助手需要聯(lián)網(wǎng)才能識別指令、在線圖像生成工具需要上傳需求至云端服務(wù)器才能生成圖片，背后依賴的都是云端 AI。

（云端AI/端側(cè)AI）

一、從“被動調(diào)用” 到 “主動服務(wù)”：端側(cè) AI 的產(chǎn)品體驗變革

端側(cè)AI 與云端 AI 的核心差異，最終轉(zhuǎn)化為終端產(chǎn)品的體驗升級。從近期發(fā)布的端側(cè) AI 產(chǎn)品中，這種 “計算本地化” 帶來的變革尤為明顯，手機與可穿戴設(shè)備等終端設(shè)備不再是簡單搭載AI 功能，而是讓智能真正融入設(shè)備的使用邏輯，實現(xiàn)從 “被動調(diào)用” 到 “主動服務(wù)” 的轉(zhuǎn)變。

字節(jié)跳動推出的豆包 AI 手機助手，是端側(cè) AI 在手機場景的典型代表。與傳統(tǒng)手機 AI 相比，其核心突破在于系統(tǒng)級的底層整合—— 它并非簡單的 App 調(diào)用，而是直接嵌入操作系統(tǒng)底層，能夠跨越應(yīng)用壁壘執(zhí)行復(fù)雜指令鏈。比如用戶只需說出 “對比各大平臺的肯德基套餐價格并下單最低價選項”，助手就能自動完成跨淘寶、京東、美團的比價，甚至直接生成訂單；而傳統(tǒng)手機 AI（如早期的語音助手）僅能完成單一功能的云端調(diào)用，比如設(shè)置鬧鐘、查詢天氣，既無法處理跨應(yīng)用的復(fù)雜任務(wù)，也需要依賴網(wǎng)絡(luò)實現(xiàn)數(shù)據(jù)交互。

阿里的夸克AI 眼鏡則將端側(cè) AI 與可穿戴場景深度綁定，采用雙芯片架構(gòu)將千問大模型直接部署在眼鏡本地：不僅能實現(xiàn)語音查詢、實時翻譯等基礎(chǔ)功能，還針對 “戶外嘈雜環(huán)境” 做了專屬優(yōu)化 —— 通過 5 麥克風(fēng)陣列和骨傳導(dǎo)拾音技術(shù)，即便在地鐵、商場等喧鬧場景，也能精準(zhǔn)捕捉用戶語音指令，避免了傳統(tǒng)云端語音交互因網(wǎng)絡(luò)波動或環(huán)境噪音導(dǎo)致的體驗卡頓。

華為的“智能憨憨” 陪聊機器人則更進一步，搭載小藝大模型 4.0 的端側(cè)版本：通過本地的情感感知算法，能根據(jù)用戶的語音語調(diào)判斷情緒（比如識別出用戶 “低落語氣” 時主動安慰）；同時借助長期記憶系統(tǒng)，記錄日常對話中的個性化需求（比如記住用戶“不喜歡辛辣食物”，推薦餐廳時自動規(guī)避），讓 AI 從 “功能工具” 升級為 “情感陪伴載體”，真正落地了端側(cè)場景的個性化智能。

（字節(jié)跳動豆包 AI 手機助手/阿里夸克AI 眼鏡/華為“智能憨憨” 陪聊機器人）

二、需求牽引：用戶對“安全 + 實時” 的智能體驗訴求

端側(cè)AI 爆發(fā)并非偶然，隨著 AI 與生活的綁定日益緊密，用戶對智能體驗的訴求已從 “有無” 升級為 “優(yōu)劣”，兩大核心需求成為端側(cè) AI 崛起的直接推力。

隱私保護需求日益強烈。云端AI 的 “數(shù)據(jù)上傳” 模式暗藏風(fēng)險：使用云端語音助手時，日常對話需傳輸至遠(yuǎn)程服務(wù)器；用云端健康 App 時，心率、血糖等敏感數(shù)據(jù)需存儲在第三方平臺 —— 這種 “數(shù)據(jù)離身” 的模式，讓用戶對 “數(shù)據(jù)控制權(quán)” 的重視度顯著提升。而端側(cè) AI 的 “本地處理” 模式從根源上解決了這一問題：數(shù)據(jù)全程在設(shè)備內(nèi)流轉(zhuǎn)，既不上傳云端也不被第三方獲取，尤其契合健康管理、私人助理等敏感場景的需求。

實時交互需求則推動端側(cè)AI 的場景落地。在AR 眼鏡翻譯路牌、車載 AI 控制車輛、工業(yè)質(zhì)檢識別缺陷等場景中，“延遲” 直接決定體驗價值甚至安全：若 AR 眼鏡翻譯需等待 2 秒響應(yīng)，用戶已走過路牌；若車載 AI 執(zhí)行指令有 1 秒延遲，可能引發(fā)駕駛風(fēng)險 —— 端側(cè) AI 的毫秒級響應(yīng)恰好擊中這一痛點，讓實時交互場景的智能體驗從 “可用” 變?yōu)?“好用”。

三、技術(shù)突破：破解端側(cè)AI 的 “算力與功耗” 困局

端側(cè)AI 的落地，離不開底層技術(shù)突破破解長期困局 —— 核心是模型輕量化與端側(cè)芯片升級兩大技術(shù)，共同解決了 “終端算力不足、功耗過高” 的行業(yè)難題，讓大模型能真正 “走進” 終端設(shè)備。

模型輕量化技術(shù)是端側(cè)AI 的 “瘦身鑰匙”。早期大模型（如 GPT-3）參數(shù)規(guī)模達(dá)千億級，占用存儲空間超 100GB，根本無法在手機、眼鏡等終端設(shè)備上運行。而 “剪枝、蒸餾、量化” 三大技術(shù)的成熟，實現(xiàn)了大模型的 “瘦身提質(zhì)”：剪枝技術(shù)剔除模型中冗余的參數(shù)節(jié)點，減少算力消耗；蒸餾技術(shù)讓小模型通過學(xué)習(xí)大模型的推理邏輯，保留核心能力；量化技術(shù)將 32 位精度的參數(shù)壓縮為 8 位，大幅降低存儲占用 —— 最終使千億級模型可被壓縮至十億級，同時保持 90% 以上的核心推理能力，為端側(cè)部署掃清了 “體積障礙”。

端側(cè)AI 芯片升級則為輕量化模型提供了 “算力引擎”。輕量化模型需要匹配的本地算力載體，而專用端側(cè)芯片的迭代恰好補上了這一短板：這類芯片針對端側(cè)場景做了專屬架構(gòu)優(yōu)化，在控制功耗的同時提升算力密度 —— 比如能在 5W 以內(nèi)的低功耗下，滿足實時視覺識別、語音交互所需的算力支撐；即便在 40 克級的超輕量可穿戴設(shè)備中，也能承載多模態(tài) AI 功能的流暢運行。這種 “低功耗、高適配” 的特性，讓端側(cè) AI 從 “理論可能” 變?yōu)?“實用可行”，不再受限于終端設(shè)備的體積與續(xù)航。

四、未來演進：破解終端“體積 - 算力 - 功耗” 矛盾

隨著端側(cè)設(shè)備向“更微型化、交互多模態(tài)” 演進（比如重量低于 30 克的超輕量 AR 眼鏡、集成健康監(jiān)測的智能耳釘），傳統(tǒng)單芯片的 “一體集成” 模式必然遇到瓶頸：既要壓縮體積適配微型終端，又要提升算力支撐視覺、語音、生物傳感的協(xié)同處理，還要控制功耗避免頻繁充電 —— 這種 “體積 - 算力 - 功耗” 的三重矛盾，靠單一芯片的性能升級已難以破解，需要通過更靈活的異構(gòu)集成思路突破。

而 Chiplet（芯粒）技術(shù)正是關(guān)鍵路徑：它通過“模塊化整合” 思路，將計算、存儲、接口等不同功能的芯片裸片集成在一起，既能縮小芯片體積，又能提升算力密度，完美平衡了微型終端的 “體積限制” 與 “算力需求”，無疑將為端側(cè) AI 的下一步發(fā)展掃清硬件障礙。

未來，隨著“體積 - 算力 - 功耗” 矛盾的破解，更多微型化、場景化的端側(cè)設(shè)備將涌現(xiàn)，承載更細(xì)分的端側(cè)AI 功能，讓健康管理、工業(yè)生產(chǎn)、日常出行等領(lǐng)域迎來“小設(shè)備承載大智慧” 的變革。這場從云端到終端的智能革命，正在重新定義人與科技的距離。當(dāng) AI 不再需要 “云端賦能”，而是能在身邊的每一個小設(shè)備中自主響應(yīng)需求，我們才算真正進入了 “智能無處不在” 的時代 —— 而這一切，才剛剛拉開序幕。

< 奇普樂 · 往期文章 >