網易首頁 > 網易號 > 正文 申請入駐

實測,本地大模型控制臺:本地部署、數據集管理、訓練+微調,一站式搞定,Windows 也支持

0
分享至

  Unsltoh 剛剛放出的 Studio 有點東西

  大模型的下載、運行、訓練、導出、數據集處理都串起來到了統一入

  還有個示例:Qwen3.5-4B 搜索了 20 多個網站,引用了其來源,并找到了最佳答案!

  通過 Unsloth Studio 僅用 4GB RAM 本地運行, 4B 模型通過在思考過程中直接執行工具調用+網絡搜索實現

  簡介

  一句話說,Unsloth Studio 是 Unsloth 剛推出的一個本地 Web UI,用來統一做模型運行、數據處理、訓練和導出。

  下圖是官方 README 給出的主界面截圖,整體就是一個很典型的本地 AI 控制臺:

  
Unsloth Studio 主界面

  模型支持:本地運行 GGUF 和 safetensors 格式的模型,支持文本、視覺、TTS、Embedding 等多種模型類型。

  平臺兼容:支持 Windows、Mac、Linux 系統。

  訓練與微調:提供數據集整理與生成、訓練過程可視化、模型對比(Model Arena)功能,并可使用 AI 助手對音頻、視覺、LLM 進行微調,支持導出 GGUF 和 safetensors 模型

  數據工具:提供數據設計、合成數據生成、快速并行數據準備及嵌入微調工具。

  交互界面:聊天界面集成自動修復、工具調用、Python & Bash 代碼執行、網絡搜索、以及圖像與文檔輸入功能。支持 SVG 渲染

  這類產品最怕的一點就是攤子鋪得很大,最后每一塊都只做了個皮毛

  但 Unsloth Studio 現在給我的感覺是,方向對了,而且它抓的幾個點很懂實際用戶:

  你可以直接搜模型、跑模型

  你可以上傳 PDF、CSV、JSON、DOCX 這些文件

  你可以把訓練后的模型繼續導出到 llama.cpp、vLLM、Ollama 這些棧里

  它甚至把 Tool Calling、Web Search、代碼執行也放進了 Studio Chat

  對于“我既想本地跑一下,又想繼續微調一下,再順手導出來接現有系統”的用戶,這套思路很順。

  功能亮點

  我把我覺得最值得關注的幾個點拎出來

  1. 本地跑大模型,入口更統一了

  官方文檔里提到,它支持搜索和運行 GGUF、safetensors 模型,也支持圖片、文檔、音頻、代碼文件上傳。

  把“本地模型桌面化”,風格上很像把本地模型管理、聊天、參數調節整合到了一起:

  
Unsloth Studio 運行模型界面 2. 它把 Tool Calling 和代碼執行也塞進來了

  這一點我挺喜歡

  很多本地 UI 做到聊天就停了,能跑工具、能執行 Bash 和 Python 的并不多。

  Unsloth Studio 在文檔里明確寫了支持代碼執行、Web Search,以及所謂的 self-healing tool calling。

  這個方向一旦成熟,對本地 Agent 會非常有意思

  3. Data Recipes 很像它的隱藏大招

  官方一直在強調 Data Recipes

  簡單理解,就是你把 PDF、CSV、JSON 這些資料丟進去,它幫你轉成可用的數據集,走的是圖節點工作流,底層是 NVIDIA Nemo Data Designer

  如果它后續穩定下來,這個價值其實不小

  因為大量微調項目最麻煩的環節,往往在前面那堆數據整理

  官方截圖如下:

  
Unsloth Studio Data Recipes 4. 訓練過程可視化和導出能力也做進去了

  這兩塊我覺得挺實用:

  Observability:實時看訓練 loss、gradient norm、GPU 使用率

  Export / Save models:導出 GGUF、16-bit safetensors,繼續接 llama.cpp、vLLM、Ollama

  這就很像一個真正圍繞“訓練閉環”做的產品,而不是單純套了一層聊天殼子

  
Unsloth Studio Observability 安裝

  官方現在給的安裝方式非常直接,MacOS、Linux、WSL:

  curl -fsSL https://raw.githubusercontent.com/unslothai/unsloth/main/install.sh | sh

  它做了下面幾件事:

  檢查系統依賴,比如cmakegit

  自動安裝uv

  創建名為unsloth_studio的虛擬環境

  執行uv pip install unsloth --torch-backend=auto

  最后再跑unsloth studio setup

  Windows Powershell

  

  安裝完成后,啟動命令如下:

  

  source unsloth_studio/bin/activate
unsloth studio -H 0.0.0.0 -p 8888

  瀏覽器打開:

  http://localhost:8888

  首次啟動會要求你創建密碼,然后進入一個 onboarding 向導,選擇模型、數據集和一些基礎配置

  



安裝體驗

  這條一鍵命令確實省心,但首裝并不算快

  我這邊日志里,依賴解析就花了大約 2 分鐘,隨后開始下載和安裝torchtransformerspyarrowtokenizersdiffusersunsloth等包。

  你如果看到終端一段時間沒有明顯新輸出,不用太慌,大概率還在后臺繼續拉依賴。

  我這次在本機實測時,一鍵安裝腳本跑了 35 分鐘,進程依然停留在uv pip install unsloth --torch-backend=auto這一步。

  官方文檔里也專門提醒了首裝可能需要 5 到 10 分鐘,原因是后面還會涉及llama.cpp相關構建。

  這一點我很建議大家有點耐心,別看到安靜了就順手Ctrl + C。但如果你本地也卡到半小時以上,我建議你去看一下網絡、鏡像源、磁盤空間,以及uv的下載緩存。

  一個需要注意的小細節

  官方文檔目前有一點口徑差異

  在介紹頁的 3 月 18 日更新說明里,官方寫了 MacOS 和 CPU 已經啟用了 Data Recipes;

  但安裝頁和系統要求頁里,又依然寫著 Mac 和 CPU 當前主要支持 Chat,訓練部分還要再等等。

  所以更穩妥的理解方式是:

  Windows、Linux、WSL 是當前主戰場

  NVIDIA GPU 用戶可以把訓練能力作為重點來看

  Mac 用戶當前先把它當成本地聊天和工作流入口

  適合誰

  如果你屬于下面這幾類用戶,我覺得 Unsloth Studio 很值得盯一下:

  想本地跑模型,又不想一直在命令行里切來切去

  已經在玩 GGUF、Ollama、llama.cpp、vLLM,想找一個統一入口

  想從“跑模型”繼續往“做數據、做訓練、做導出”再走一步

  想研究本地 Agent、Tool Calling、代碼執行這類能力

  如果你只是想要一個極致穩定、只負責聊天的本地工具,那它當前這個 Beta 狀態還需要你多一點耐心。

  總結

  Unsloth Studio 最吸引我的地方,在于它試圖把本地 AI 這條鏈路真正串起來,單點功能反而不是我最看重的部分。

  從聊天,到數據準備,到訓練,到可視化,到導出,這條路徑如果真被它打通,那它就很有機會成為本地 AI 工作臺里的重要玩家。

  制作不易,如果這篇文章覺得對你有用,可否點個關注。給我個三連擊:點贊、轉發和在看。若可以再給我加個,謝謝你看我的文章,我們下篇再見!

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
老兵借廁所被拒后續!官方公布處理結果,保安被開除,老兵回應

老兵借廁所被拒后續!官方公布處理結果,保安被開除,老兵回應

180視角
2026-04-22 01:03:20
斯諾克賽程:決出首席8強,肖國棟或被墨菲淘汰,趙心童PK丁俊暉

斯諾克賽程:決出首席8強,肖國棟或被墨菲淘汰,趙心童PK丁俊暉

劉姚堯的文字城堡
2026-04-24 08:57:36
大反撲!騎士落后10分強勢追平:奇兵單節轟12分,哈登6中1低迷

大反撲!騎士落后10分強勢追平:奇兵單節轟12分,哈登6中1低迷

體壇小李
2026-04-24 09:26:39
女子被保安扇臉后續:確診耳膜穿孔,當地人曝內情,更多惡行被扒

女子被保安扇臉后續:確診耳膜穿孔,當地人曝內情,更多惡行被扒

奇思妙想草葉君
2026-04-23 23:52:54
4月23日俄烏最新:久加諾夫對普京的10次警告

4月23日俄烏最新:久加諾夫對普京的10次警告

西樓飲月
2026-04-23 20:49:09
羅德里:再這么多比賽我踢不到32歲,歐洲杯奪冠后我筋疲力盡

羅德里:再這么多比賽我踢不到32歲,歐洲杯奪冠后我筋疲力盡

懂球帝
2026-04-24 01:27:07
柬埔寨重大項目啟動!中國電信全力參建!

柬埔寨重大項目啟動!中國電信全力參建!

運營商段子手
2026-04-24 00:05:31
庫明加爆發!老鷹109-108尼克斯,約翰遜24+10+8,麥科勒姆23+5+2

庫明加爆發!老鷹109-108尼克斯,約翰遜24+10+8,麥科勒姆23+5+2

小徐講八卦
2026-04-24 10:20:35
太狂了!蘇州商場廣告牌“首先GDP第一,其次比賽第一”走紅網絡

太狂了!蘇州商場廣告牌“首先GDP第一,其次比賽第一”走紅網絡

火山詩話
2026-04-24 08:48:26
校慶我捐700萬被安排在角落,我愣了3秒,校長道:不坐就走不差你

校慶我捐700萬被安排在角落,我愣了3秒,校長道:不坐就走不差你

吃貨的分享
2026-04-22 20:30:21
英國泰晤士高等教育2026年亞洲大學排名公布:清華、北大分列第一、二,香港8所高校全部躋身前一百名

英國泰晤士高等教育2026年亞洲大學排名公布:清華、北大分列第一、二,香港8所高校全部躋身前一百名

極目新聞
2026-04-24 07:30:32
人社部、財政部通知:支持大學畢業生“回爐”讀技校

人社部、財政部通知:支持大學畢業生“回爐”讀技校

深度報
2026-04-23 22:43:47
女子被保安扇耳光后續!知情者曝內情,保安身份被扒,學校回應

女子被保安扇耳光后續!知情者曝內情,保安身份被扒,學校回應

180視角
2026-04-23 12:56:07
男子被扒光一事,引起公憤了!

男子被扒光一事,引起公憤了!

胖胖說他不胖
2026-04-24 09:00:22
別把寄生于系統的繁榮當財富!亞馬遜雨林減少80萬平方公里,只因一個錯誤決策

別把寄生于系統的繁榮當財富!亞馬遜雨林減少80萬平方公里,只因一個錯誤決策

三言四拍
2026-04-24 08:22:31
各科醫生最想跟你說的大實話,很有用!收藏好常看看

各科醫生最想跟你說的大實話,很有用!收藏好常看看

華人星光
2026-04-23 12:00:20
鷹王24+10+8麥科勒姆絕殺,唐斯帶不動2大鐵匠,老鷹力克尼克斯

鷹王24+10+8麥科勒姆絕殺,唐斯帶不動2大鐵匠,老鷹力克尼克斯

釘釘陌上花開
2026-04-24 09:49:46
內蒙古一老板開1.6萬月薪招人放3000只羊,包吃住,有Wi-Fi,有專人送物資,全年無休,回應:更適合夫妻檔,一望無際的大草原常年見不到人

內蒙古一老板開1.6萬月薪招人放3000只羊,包吃住,有Wi-Fi,有專人送物資,全年無休,回應:更適合夫妻檔,一望無際的大草原常年見不到人

瀟湘晨報
2026-04-23 22:14:14
俄副外長:俄方獲邀以最高級別參加美國G20峰會

俄副外長:俄方獲邀以最高級別參加美國G20峰會

財聯社
2026-04-23 11:20:05
庫克反思其15年CEO任期:蘋果地圖發布是“首個重大錯誤”,Apple Watch是最引以為豪的作品

庫克反思其15年CEO任期:蘋果地圖發布是“首個重大錯誤”,Apple Watch是最引以為豪的作品

魯中晨報
2026-04-23 13:16:04
2026-04-24 10:44:49
Ai學習的老章 incentive-icons
Ai學習的老章
Ai學習的老章
3348文章數 11139關注度
往期回顧 全部

科技要聞

凌晨突發!GPT-5.5正式上線:跑分更猛

頭條要聞

受AI沖擊"霸總"回家種地:比拍戲難 今年基本回不了本

頭條要聞

受AI沖擊"霸總"回家種地:比拍戲難 今年基本回不了本

體育要聞

給文班剃頭的馬刺DJ,成為NBA最佳第六人

娛樂要聞

王思聰被綠!戀愛期間女友被金主包養

財經要聞

19家企業要"鋁代銅",格力偏不

汽車要聞

全景iDrive 續航近800km 新款寶馬7系/i7亮相

態度原創

手機
親子
數碼
藝術
公開課

手機要聞

蘋果更新推出Invites 1.8,支持iMessage直接分享邀請函

親子要聞

語出驚人的萌娃

數碼要聞

曝英特爾下代Z970芯片組將承接當前B860大部分市場定位

藝術要聞

罕見曝光!毛澤東 36 幅經典對聯,每一幅都是絕品!

公開課

李玫瑾:為什么性格比能力更重要?

無障礙瀏覽 進入關懷版