當(dāng)下人工智能的發(fā)展使得AI相關(guān)的應(yīng)用已經(jīng)不再是企業(yè)的專屬需求，因?yàn)閭€(gè)人對(duì)于AI的需求也是同樣需要關(guān)注的。而也正是基于不少用戶對(duì)于AI本地部署的需求，專注大模型推理優(yōu)化的趨境科技發(fā)布了靈啟Spark，一個(gè)可以讓你個(gè)人專屬的的超級(jí)AI Lab，可以幫助個(gè)人和企業(yè)實(shí)現(xiàn)低成本落地去輕松使用AI大模型，關(guān)鍵是開機(jī)即用還能支持多模型并行推理說到趨境科技，這是一家致力于打通大模型部署“最后一公里”的前沿科技公司，其技術(shù)團(tuán)隊(duì)來自清華大學(xué)計(jì)算機(jī)系高性能計(jì)算所，擁有十余年的高性能計(jì)算、分布式存儲(chǔ)、AI計(jì)算引擎優(yōu)化等領(lǐng)域經(jīng)驗(yàn)，目前主營業(yè)務(wù)是專注大模型推理的優(yōu)化，助力企業(yè)低成本使用AI大模型。這次趨境·靈啟Spark的發(fā)布，更多的則是面向個(gè)人桌面端場景下用戶AI需求，妥妥的一個(gè)迷你體積的桌面級(jí)AI實(shí)驗(yàn)室。

目前市面上各種的云端API 相關(guān)的AI產(chǎn)品，每次使用需要較高成本的同時(shí)，還得接受數(shù)據(jù)上云的不確定，本地部署自然成為更為理性的解決方案。趨境·靈啟Spark已經(jīng)不是一個(gè)簡單定位的AI主機(jī)，而是一套工程化答案，用戶入手之后直接就能實(shí)現(xiàn)一次性的交付，并保證工程級(jí)別的穩(wěn)定性，開箱就用真就十分方便。

設(shè)備內(nèi)置智譜 GLM-4.5-Air 106B 大模型和趨境科技的自研大模型推理引擎，UI交互方便易用，而且開機(jī)無需耗時(shí)配置就能直接使用，根本無需調(diào)參，開機(jī)即可進(jìn)入高效創(chuàng)作狀態(tài)。

真正的實(shí)現(xiàn)從“能跑”到“跑得穩(wěn)”確實(shí)意義重大，趨境·靈啟Spark工程級(jí)運(yùn)維設(shè)計(jì)在真實(shí)業(yè)務(wù)場景中表現(xiàn)出色，其內(nèi)置的智能運(yùn)維與預(yù)警機(jī)制，可在運(yùn)行前與運(yùn)行中，直接提前識(shí)別顯存溢出風(fēng)險(xiǎn)并規(guī)避推理異常，從而設(shè)備可以保障長時(shí)間任務(wù)的連續(xù)運(yùn)行，這也使它不再是“實(shí)驗(yàn)室玩具”，而是可直接進(jìn)生產(chǎn)系統(tǒng)的 AI 基礎(chǔ)設(shè)施。

趨境·靈啟Spark這迷你的體積狀態(tài)下還有著出色的性能，其單并發(fā)推理速度：30 tokens/s，預(yù)填速度：2100 tokens/s，甚至支持 100K 超長上下文，其運(yùn)行模型精度為趨境支持的官方量化nvFP4精度，與原精度相比誤差不超過 0.1%，性能相當(dāng)夸張，二者也是趨境在模型壓縮、推理調(diào)度與異構(gòu)計(jì)算上的長期的核心技術(shù)積累。

內(nèi)置的完整開發(fā)生態(tài)，直接涵蓋了從模型定制到智能應(yīng)用的完整的鏈路，自帶的趨境·智問智能辦公助手提供本地知識(shí)庫和AI的對(duì)話內(nèi)容，可以直接管理私密的科研資料，甚至無需編寫代碼就能實(shí)現(xiàn)對(duì)32B及以下模型的可視化微調(diào)，而我覺得最為剛需的還是其內(nèi)置的PandaWiki知識(shí)庫搭建系統(tǒng)，可以實(shí)現(xiàn)讓咱的知識(shí)管理和內(nèi)容生產(chǎn)全面的速度提升。

而且值得注意的是，趨境·靈啟Spark不是一個(gè)單一模型，而是完整 AI 應(yīng)用底座，在 GLM-4.5-Air 之外，它還支持Embedding/Rerank/VL（視覺語言）模型等等；

多實(shí)例并行推理的能力保證了這款設(shè)備可以直接支撐本地知識(shí)庫/RAG系統(tǒng)以及一個(gè)多模態(tài)AI助手，后期想象空間巨大，不知道你們覺得這么一款體積小巧、功能出色的個(gè)人專屬的超級(jí)AI Lab的趨境·靈啟Spark是否足夠讓人期待呢？