廣東
follow us
AING硬跡
讓大參數模型在消費級硬件上直接運行。
近日，端側智能基礎設施公司萬格智元宣布連續完成天使輪及天使+輪兩輪融資，由五源資本、峰瑞資本聯合參投，累計融資金額達數千萬元人民幣，源合資本擔任獨家財務顧問。
這家2025年成立的初創公司，由清華大學計算機系00后在讀博士王冠博領銜，團隊僅約20人，近90%為00后，核心成員來自清華、北大及字節跳動、OpenAI、亞馬遜全球AI研發部門。
王冠博的主要研究方向是“端智能”，他的博士課題就是如何讓AI擺脫對云端算力的依賴、跑在手機和電腦里。他累計發表了近十篇頂會頂刊論文，為阿里、美團等企業打造過個性化算法服務，在學術界和產業界之間反復穿梭。
在端側場景，消費級設備的內存天花板通常在32GB左右，實際可用于模型推理的空間往往只有8-10GB。這意味著，傳統方案只能在本地部署約4B參數的“小模型”，能力嚴重受限。
萬格智元的核心產品是一套端側算力引擎cPilot與智能平臺Amis的組合方案，其戰略定位非常明確：不做端側小模型，只做端側大模型。cPilot是一個介于底層硬件和上層軟件之間的中間層，通過自研的動態稀疏化算法等技術突破，大幅壓縮模型的運行時內存占用。
萬格智元構建了從算法到硬件的“技術全棧深度優化”架構，通過自研非GPU輕量化推理架構、算子優化與流式并行模塊調度，將模型推理進行協同拆分與均衡，讓大參數模型在消費級硬件上直接運行。
目前其技術成果可實現：在純CPU條件下，僅需約4.7GB內存即可運行一個35B參數的模型，推理速度提升約30倍，端側推理速度至少快了12倍，部署成本從萬元級降至千元級
商業模式上，萬格智元呈現“B端先行、C端跟進”的節奏。
B端層面，公司已與多家頭部硬件廠商達成合作，為AI mini PC、AI PC、AI NAS等產品預裝端側算力引擎及本地部署方案，預計今年將有數萬臺設備預裝出貨，2026年預期營收超千萬元。
C端層面，Amis平臺提供一鍵部署模型、聚合API的能力，通過端云調度實現“大部分簡單任務本地完成（0 Token消耗），僅10%-20%任務上云”的混合架構，極大壓縮用戶使用成本。
當下，一方面是云端大模型的價格戰激烈，各家降價背后，是Token需求爆發與供給過剩的雙重擠壓。
另一方面，端側硬件能力正在快速進化。國產NPU等下一代芯片的成熟，可能帶來芯片側的一次大變革。
王冠博判斷，“現在還沒有到特別適合做硬件的階段”，因為芯片技術尚未收斂，過早定型反而會增加迭代成本。但通過與B端硬件廠商的合作，也是率先搶占生態位的另一種路徑。
AING硬跡
AING，取自“AI+ING”的縮寫，中文諧音“硬跡”，寓意著“人工智能正當其時”，致力于追尋硬科技發展的足跡，不斷探索人工智能與智能硬件的深度融合。
未來，AING硬跡將不斷發布AI大模型技術、AI產業生態、AI硬件產品等行業資訊、發展趨勢與市場動態，我們相信大多數硬件都值得用AI重做一遍，AING硬跡期望與AI大模型廠商、與AI硬件廠商共同成長，迎接AI時代的來臨。
人工智能正當時
一起追尋AI+硬件的足跡
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
