用 Mac mini 當本地 AI 伺服器:低耗電、全離線
技 iLab學校技術長進階技術・終端機・系統維修・依官方資訊整理開始前
門市最常碰到的一種客人,是已經有一台 Mac mini、平常只拿來當下載機或偶爾接螢幕用,結果發現它八成的時間都在閒置。如果你也是這樣,又剛好對本地 AI 有點興趣,這台機器其實是現成的答案。
Apple Silicon 的 Mac mini 待機時耗電低到你會懷疑它是不是真的開著,幾乎沒有風扇聲,體積又小到能塞進電視櫃或書架角落。再加上統一記憶體的架構,跑 LLM 的效率比同價位 PC 好上不少。把它擺著 24 小時常開,當一台全家或小團隊共用的本地 AI 伺服器,再適合不過。資料全部留在自家網路、沒有月費、也不用擔心對話內容被送上雲端,這是它最香的地方。
老實說,這篇假設你已經把單機那關搞定了。如果還沒,請先去看 在 Apple Silicon Mac 跑本地 LLM,確認這台 Mac mini 自己能跑得動模型,再回來做底下這步「開放給其他裝置」。順序反了會卡在連不上,白繞一圈。
把 Ollama 從「只給自己用」改成「整個區網都能用」
Ollama 預設只聽本機,也就是只有 Mac mini 自己連得到。要讓同網路的其他手機、平板、筆電也能呼叫它,得告訴它去監聽所有網路介面。開終端機打這行,然後把 Ollama 重新啟動:
# 讓 Ollama 監聽所有網路介面
launchctl setenv OLLAMA_HOST "0.0.0.0"
# 重新啟動 Ollama 後生效
重點是那個 0.0.0.0,意思是「任何介面我都收」。沒重啟的話設定不會吃進去,這是最常見的卡關點,記得一定要重開一次。
查一下這台 Mac mini 的區網 IP
其他裝置要連,得知道它在你家網路裡的門牌號碼。系統設定 → 網路 → 詳細資訊,裡面會看到一組像 192.168.1.50 的位址,抄下來。順帶一提,建議到路由器把這個 IP 綁成固定的(保留位址),不然 Mac mini 重開機後 IP 可能跳掉,到時候其他裝置又連不到,你還得重查一次。
在手機、平板上指過去就好
回到 iPhone、iPad 或另一台 Mac 上你慣用的 AI 客戶端,把伺服器位址填成那台 mini 的 IP 加上 Ollama 的埠:
http://192.168.1.50:11434
把 IP 換成你剛抄下來的那組就行。連上之後,全家或整個團隊就是共用這一台私有 AI,各自的裝置都不用再裝模型、也不用各自繳雲端訂閱。實際用下來,一台稍有記憶體的 Mac mini 應付家裡幾個人輪流問、或小團隊日常文書類的需求,是綽綽有餘的。
弄到這裡,你已經有一台全家共用、不花月費的本地 AI 了。如果想再往前一步,讓它不只是回答問題、還能實際讀檔案、查資料、動手操作工具,下一關是 MCP 與 AI Agent。
至於該配多大記憶體的 Mac mini 才跑得順、值不值得為了這個用途升級,這種「我家情況到底要哪一台」的問題沒有標準答案。不確定的話,到 選機小幫手 講一下你家有幾個人用、想跑多大的模型,或直接來 iLab 門市,我們幫你算給你看。
操作步驟
跟著做,點一下打勾常見問題
為什麼用 Mac mini 而不是 PC?
Apple Silicon Mac mini 待機耗電極低、幾乎無聲、體積小,統一記憶體跑 LLM 效率高,很適合 24 小時常開的家用/小團隊伺服器。
團隊多人能一起用嗎?
可以。把 Ollama 設為對區網開放後,同網路的裝置都能呼叫它的 API,等於團隊共用一台私有 AI,不必各自付雲端費用,資料也不外流。