Ollama 上的 Muse Glimmer:一臺 GPU 上始終線上的本地代理
Meta 的 30B Apache 2.0 代理模型 — 工具使用、願景、故障恢復 — 以及它對工作站上的私有 AI 意味著什麼
Meta 的Muse Glimmer是一款 30B 開放模型,專為始終線上的本地代理(工具使用、長時間任務、故障恢復、視覺)而調整,並且它在 Apache 2.0 下的Ollama上提供,用於單個 GPU 或 Apple Silicon。這是 Workstation 的業務。長文中的規格、工作臺、方法和生產清單。
底線。雲前沿 API 仍然在峰值最佳化和託管 SLA 方面獲勝。 Muse Glimmer 更改了私有、始終線上代理的預設值:帶有感知編碼器的精煉 30B 模型,適合消費者/工作站硬體(約 18GB 重量,128K 上下文)、許可的 Apache 2.0,並透過
ollama launch連線到 Claude Code、OpenCode、Hermes Agent 和 OpenClaw。隱私、氣隙和可預測的單位成本成為產品功能,而不是研究專案。發貨內容(商業術語)
- 始終線上的本地代理:旨在持續完成多步驟作業,而無需將每個令牌往返至超大規模器。
- 工具規則:跨長工作流程的模式精確函式呼叫 - 演示聊天機器人與提交票據、編輯程式碼或查詢 MCP 工具的代理之間的區別。
- 故障恢復:當工具出錯或返回無意義資訊時,模型會進行診斷並重試,而不是凍結執行。
- 多模式:螢幕截圖、圖表和文件與文字一起顯示 — 對於操作控制檯、發票和 UI 自動化非常有用。
- 可控工作量:為硬票據提高推理強度,為延遲敏感路徑降低推理強度。
- 許可證:Apache 2.0 — 比許多帶有 SaaS 剝離的“開放重量”卡更乾淨的商業故事。
為什麼主機板和中小企業應該關注
- 資料駐留:客戶 PII、原始碼和財務文件可以保留在工作站或私有 VPC 上。
- 單位經濟性:推理成本變成硬體攤銷 + 電力,而不是隨著代理迴圈而激增的每個代幣發票。
- 連續性:離線或降級網路站點(工廠、診所、現場團隊)保持代理執行。
- 採購透明度:與不透明的重量轉儲相比,Apache 2.0 + Ollama 分配降低了法律和運營摩擦。
而不是取代雲
的地方保持封閉的 API(或叢集上更大的開放式 MoE),用於峰值關鍵路徑、品牌敏感一代以及需要供應商支援 SLA 的工作負載。 Muse Glimmer 是混合路由器中強大的本地/專用通道— 無需一夜之間拆除 Bedrock 或 Anthropic。將其與我們的代理安全簡介中的評估、HITL 和控制元件配對。
Workstation 建議
- 中小企業/Mac 商店:從 Apple Silicon 上的
ollama run muse-glimmer:30b-mlx開始(或單箇中/高階 GPU 工作站上的標準 18GB 標籤)。 - 開發團隊:線架與
ollama launch claude --model muse-glimmer(或 OpenCode / Hermes / OpenClaw)並衡量您的黃金任務 - 不僅僅是 Meta 的排行榜。 - Enterprises:帶有 Review Bot + GitOps 的試點氣隙代理吊艙;保持雲故障轉移以防溢位。
全面技術重寫 — 架構、Ollama 標籤、基準矩陣與 Gemma4-31B / Qwen3.6-27B、元評估方法和生產清單:長文。由Workstation釋出。