北京
一個31B參數的大塊頭，原始權重文件輕松超過60GB，想在云端把它喚醒，沒一塊NVIDIA Blackwell 6000多半撐不住。今天要說的這套流程，就是怎么把Gemma 4安安穩穩塞進Google Cloud Run的GPU實例，再給它配一組好使的MCP工具，讓運維、部署、壓測都能在終端里順手搞定。
整個項目的本質，其實是個干臟活累活的助手——讓Gemma 4模型住在帶GPU的Cloud Run上，專職處理容器鏡像打包、模型上線，外加性能監控和壓力測試。類似之前用Gemma-SRE自建vLLM基礎設施的玩法，只不過這次工具鏈更輕巧，操作更集中在命令行。
遙控器叫Antigravity CLI，是Gemini CLI的繼任者。把它裝在終端里，就成了一個隨時待命的編碼搭檔。啟動前記得先連上你自己的Google Cloud項目或賬號，敲一句‘agy’，界面就拉起來了。詳細的安裝說明在入門指南里都有，克隆官方示例倉庫就能開跑。
環境這一關不算復雜：先把‘gemma4-tips’倉庫從GitHub拉下來，跑一遍內部的init.sh。它會自動識別你用的哪種Shell，一口氣把PROJECT_ID這類必須的變量填好。萬一會話超時，或需要重新驗權，不用重頭來，執行set_env.sh就能原地恢復環境，省掉反復翻文檔的煩躁。
接下來就是搭一條MCP通路。策略蠻直白——先在本機用Python搓一個最小MCP服務器，傳輸方式選最簡單的stdio，也就是標準輸入輸出，別急著上花哨協議。然后在本機環境里用Antigravity CLI連這個服務器，能正常握上手，就說明從終端工具到模型管理的“電話線”已經通了。
這里MCP標準庫給的好處在哪呢：不管你底層用的stdio、HTTP還是其他傳輸通道，寫出來的工具代碼都是一模一樣。也就是說，先在本地用最簡單的通道驗證邏輯，將來想切到網絡傳輸，上層實現完全不用動。對一開始只想快速跑通的人來說，這種抽象相當解渴。
走到這一步，一個從環境變量到MCP工具的閉環就成型了：本地服務器接受Antigravity CLI指令，再代理對遠端31B模型的操作。后面不管是查GPU占用還是跑推理壓測，只需要在命令行敲對應的工具名，背后的大模型就會老實干活。更多的MCP開發樣例和文檔，官方倉庫里的README已經備好，順著‘gemma4-tips’倉庫摸下去就能找到。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
