作者 | 張子怡

編輯 | 袁斯來

AI硬件賽道，似乎一夜之間跨入新世界。

上一個(gè)月，投資人還在打聽硬件大廠高P創(chuàng)始人，這一個(gè)月，他們已經(jīng)開始尋覓“下一個(gè)Mac mini”。

狂歡的起點(diǎn)，來自開源智能體框架OpenClaw（圈子里稱為：龍蝦）。從搶購大內(nèi)存的Mac mini到各類軟硬大廠的聯(lián)名主機(jī)，F(xiàn)OMO恐懼癥席卷著所有人。承載AI的硬件，如今成了不可錯(cuò)失的入口。

此前更多在極客圈子里風(fēng)行的Agent Box忽然被推到前臺(tái)。簡單說，Agent Box就是?臺(tái)面向個(gè)人用戶的AI專用設(shè)備，其存在的唯?目的是在本地運(yùn)行大模型和自主代理。

市面上已經(jīng)有數(shù)家推出Agent Box的公司，包括Pamir、Violoop、Tiiny等等。Pamir估值超過2500萬美元，而Tiiny AI推出的首款產(chǎn)品Tiiny AI Pocket Lab，在Kickstarter上眾籌金額已達(dá)280萬美金。有行業(yè)人士預(yù)計(jì)其最終眾籌金額可能會(huì)超400萬美金。

Tiiny AI Pocket Lab重量約300克，尺寸約一部手機(jī)大小，早鳥眾籌價(jià)為1399美元，支持一鍵部署大模型（最高支持120B）不依賴云端、服務(wù)器或高端GPU，也不產(chǎn)生額外的Token消耗費(fèi)用。

Tiiny AI無疑踩中風(fēng)口，畢竟用戶只需要花單次硬件的錢，便能無限量地使用“龍蝦”。

不過，Tiiny AI副總裁兼商業(yè)化負(fù)責(zé)人Eco Lee在采訪中曾反復(fù)強(qiáng)調(diào)：Tiiny AI Pocket Lab不是專門為Open claw設(shè)計(jì)，它是為個(gè)人設(shè)計(jì)的AI基礎(chǔ)設(shè)施設(shè)備。

這聽起來很迷人，甚至有些難以置信。人們必須展開新的想象，agent原生意味著什么，要實(shí)現(xiàn)什么？當(dāng)制約我們使用AI的只剩下高昂的Token費(fèi)用，我們又如何沖破這一限制？

Tiiny AI嘗試給出一個(gè)答案。

01 何謂Agent Box

在理解Tiiny AI之前，需要厘清一個(gè)新的產(chǎn)品概念——到底什么是Agent Box（智能體盒子）？

在過去一年里，為了在本地運(yùn)行開源大模型，人們們嘗試過各種方案：有人用淘汰的舊電腦，有人搶購頂配的Mac mini。

這筆硬投入相當(dāng)高昂。倘若用戶想在本地端運(yùn)行超過120B的大模型，購買PC電腦要湊近80GB的顯存，整機(jī)成本超過5萬元；即便選擇蘋果的Mac Studio（選配96GB統(tǒng)一內(nèi)存版），也要花費(fèi)超過2萬元。

“你是否愿意買臺(tái)電腦，只用來跑大模型？現(xiàn)在很多幾萬元的AI電腦，一旦啟動(dòng)本地大模型的時(shí)候，內(nèi)存與算力就被過度占用，你甚至連一個(gè)網(wǎng)頁都打不開。更別提打游戲或者看視頻?！盓co說到。

除了設(shè)備本身開銷之外，隨著Token價(jià)格水漲船高，高昂的持續(xù)使用成本，也讓“本地化部署”成為行業(yè)剛需。

因此，在Tiiny AI的產(chǎn)品構(gòu)想里，其產(chǎn)品必須是臺(tái)專門的AI設(shè)備，能夠支持本地大模型和智能體7×24小時(shí)后臺(tái)運(yùn)行。其設(shè)計(jì)邏輯并非替代用戶的個(gè)人電腦，而是作為外接獨(dú)立設(shè)備，供手機(jī)、PC、平板或機(jī)器人等終端設(shè)備接入調(diào)用。系統(tǒng)默認(rèn)將用戶數(shù)據(jù)、憑證和工作流保存在本地，敏感操作無需上傳云端，除非明確要求調(diào)用更強(qiáng)的云端模型。

在軟件生態(tài)方面，設(shè)備將內(nèi)置Agent Store，目前已適配OpenAI OSS、Qwen、GLM 等50余款開源大模型，以及 OpenClaw、n8n 等超百款智能體開發(fā)工具。

為構(gòu)建豐富的端側(cè)生態(tài)，Tiiny AI計(jì)劃于今年7月推出模型格式轉(zhuǎn)換工具，除了Tiiny官方支持的SOTA開源模型外，用戶也可自行從Hugging Face等開源社區(qū)下載、轉(zhuǎn)換并導(dǎo)入其他開源模型和用戶自己的微調(diào)模型，并能上傳分享給其他Tiiny用戶。

“我經(jīng)常給用戶打個(gè)比方，云端的大模型就像瓶裝礦泉水，好喝也要喝，但普通用戶有大量高頻、重復(fù)、貼近個(gè)人習(xí)慣、又不需要頂級(jí)智力的AI需求，就像用礦泉水洗手洗澡就太奢侈了。Tiiny的存在就像屬于用戶的‘AI水龍頭’，你可以隨意使用、token邊際成本為0。”Eco告訴硬氪。

在Eco看來，云端大模型專注處理高智力、高精度、關(guān)鍵性任務(wù)，本地大模型則聚焦日常高頻、個(gè)性化、帶用戶長期記憶的持續(xù)交互場景——這種“端云協(xié)同”模式，正是Tiiny AI，也是Agent Box最核心的價(jià)值所在。

在期待、掌聲與紛至沓來的投資人邀約中，Tiiny AI難免要面對質(zhì)疑。它必須回答的第一個(gè)問題，就是以并不昂貴的售價(jià)，如何實(shí)現(xiàn)前沿的產(chǎn)品理念，以及120B的參數(shù)模型？

02 是玩具還是工具

在海外reddit論壇上，對Tiiny AI Pocket Lab的評價(jià)兩極分化。有人說這只會(huì)是玩具，甚至有人通過宣傳照逆向工程了Tiiny AI的產(chǎn)品，認(rèn)為其所宣稱的功能很難真正實(shí)現(xiàn)。

他們質(zhì)疑的點(diǎn)在于，Tiiny AI并未公布其所用的SoC（系統(tǒng)芯片）品牌，也沒有使用高端的GPU，卻能在本地運(yùn)行120B的大模型。

這令人覺得不可思議。

“我們是一家AI Infra公司，核心是通過系統(tǒng)性底層優(yōu)化，把有限硬件的每一分算力與資源，全部聚焦于LLM推理與Agent運(yùn)行，這與其他做硬件的思路有本質(zhì)不同?！盓co表示。

Tiiny AI Pocket Lab里使用的芯片是一顆SoC外加一顆dNPU，并通過Tiiny AI最核心的技術(shù)PowerInfer來實(shí)現(xiàn)媲美Nvidia、AMD等高端GPU芯片的本地模型推理能力。

PowerInfer是用于端側(cè)的異構(gòu)算力推理加速技術(shù)，Tiiny AI團(tuán)隊(duì)通過大量的數(shù)據(jù)測算和語料訓(xùn)練發(fā)現(xiàn)，大模型推理過程中，參數(shù)激活模式分為兩類：“熱激活參數(shù)”（每次與模型交互都會(huì)調(diào)用的核心參數(shù)，約占20%）和“冷激活參數(shù)”（僅在用戶問到醫(yī)學(xué)、法律等特定領(lǐng)域問題時(shí)激活，約占80%）。這種冷熱激活的特性，恰好適合在端側(cè)異構(gòu)算力架構(gòu)下優(yōu)化分配。團(tuán)隊(duì)開源過PowerInfer的示例：用單個(gè)NVIDIA RTX 4090 GPU，運(yùn)行參數(shù)量175B的大模型，速度能達(dá)到傳統(tǒng)方案的11倍。

這些都屬于AI Infra層面的技術(shù)積累。從芯片層到Agent調(diào)度層，再到模型訓(xùn)練層，都需要深厚的knowhow支撐。

在具體的落地場景中，Tiinny AI團(tuán)隊(duì)從Kickstarter的留言區(qū)中發(fā)現(xiàn)，其用戶主要是使用如OpenClaw一類開源應(yīng)用的普通用戶、對數(shù)據(jù)隱私有剛需的專業(yè)人士和AI極客。即使在斷網(wǎng)的離線環(huán)境下，該設(shè)備依然可以運(yùn)行多步推理、Agent工作流、內(nèi)容生成以及針對敏感數(shù)據(jù)的安全計(jì)算?！吧倒鲜健钡拈_箱即用、0token費(fèi)的24/7 Agent和完全的自主控制權(quán)是這些人選擇Tiiny的核心理由。

并且，該設(shè)備在系統(tǒng)內(nèi)引入了長期記憶功能。用戶的交互偏好、歷史文件與對話記錄，均能通過加密形式直接存儲(chǔ)在本地硬件中。

“隱私是Agent Box的加分項(xiàng)，但核心在于本地模型的部署，它能夠結(jié)合你的長期記憶主動(dòng)做事情，這件事最重要?！盓co告訴硬氪。

Tiiny AI的產(chǎn)品預(yù)計(jì)在2026年8月交付。需要注意，Tiiny是AI Agent出身的團(tuán)隊(duì)，其最終產(chǎn)品呈現(xiàn)仍然是硬件。他們有合作供應(yīng)商，但也需要應(yīng)對量產(chǎn)中的突發(fā)情況。

硬件生產(chǎn)有太多需要趟過的河流，考驗(yàn)團(tuán)隊(duì)的并非融資，而是真正兌現(xiàn)誘人的承諾：在一個(gè)300克的盒子上，實(shí)現(xiàn)本地算力自由、不受Token價(jià)格束縛、完全私密。