在談論本地大型語言模型(LLM)時,多數人第一時間想到的仍然是 Ollama 。 它解決了「我能不能在自己電腦上跑模型」這件事。 但 osaurus 問的,是下一個問題: 如果 LLM 不是一個外掛工具,而是 macOS 的原生能力,會發生什麼事? 定位先行:osaurus 不是「另一個 Ollama」 https://github.com/dinoki-ai/osaurus osaurus(by dinoki-ai)從一開始就沒有打算與 Ollama 正面競爭「模型數量」或「跨平台」。 它的定位非常清楚: 只為 macOS 只為 Apple Silicon 只為「低延遲、本地、可控」的 AI 系統整合 這不是妥協,而是戰略選擇。 當多數本地 LLM 解決方案仍停留在「能跑模型」的層次時, osaurus 直接跳到下一層 —— AI 作為作業系統能力的延伸 。 為什麼它快?因為它根本不是同一個技術路線 1. 極致輕量,不是口號 二進制檔案約 8MB 無 Docker、無虛擬化層 Swift 原生開發,直接貼近系統 對比 Ollama 的體量與依賴,osaurus 幾乎是「裸跑」。 2. MLX + Apple Silicon,是硬體與軟體的正交解 osaurus 使用 Apple 的 MLX 框架,這不是單純的效能優化,而是架構選擇。 結果是什麼? 在 M3 Max 上,實測回應速度比 Ollama 快約 30% 記憶體使用更穩定 模型載入後的系統壓力顯著降低 這種快,不是 benchmark 的快,而是「你會感覺到它在你手上」。 真正的分水嶺:MCP(Model Context Protocol) 如果只談效能,osaurus 仍然只是「更快的本地 LLM」。 但 MCP 才是它的真正殺手鐧 。 MCP 解決的不是推理,而是「行動」 透過 MCP,osaurus 可以: 成為 Cursor、Claude Desktop、VS Code 的後端 讓 AI 直接存取本地系統能力 行事曆 郵件 Git 倉庫 Terminal macOS 原生 App 甚至 GUI 操作(Accessibility API)...
熱血,是一輩子的事! Answer is there, dig it.