導語摘要： 比 Mac mini M5 vs M4 的本機 AI，別先比行銷投影片上的 Neural Engine TOPS。對 MLX / Ollama / llama.cpp 一類推理，解碼吞吐幾乎隨統一記憶體頻寬線性爬升；換頁到磁碟會讓任何代數優勢歸零。公開口徑裡，基礎款 M4 約 120 GB/s，同檔 M5 約 153 GB/s（約 +27%）。到 2026 年 8 月，可立刻到手、可穩定跑通棧的，仍是 Mac mini M4——在 vmzig 用 SSH/VNC 租獨占裸金屬，先把模型與測法釘死，再決定要不要等下一台。
記憶體頻寬
本機 LLM
速度實測
遠端 Mac
1 本機 AI 對比裡三個常踩的坑
1. 把 NPU 峰值當成 LLM 速度：Neural Engine 更利好 Apple Intelligence / Core ML 小模型。Ollama、MLX 上的 7B–13B 量化模型，主要吃 Metal GPU 與記憶體頻寬，不是投影片上的 TOPS。
2. 忽略統一記憶體容量：16GB 機器塞進 13B Q4 再加索引與瀏覽器，立刻換頁。再快的 M5 也救不了 thrashing；多數團隊本機 AI 的地板是 24GB。
3. 用不公平測法拉開代數差距：不同量化、上下文、batch、是否預熱、是否與 Xcode 搶記憶體，都會扭曲 tok/s。沒有固定提示詞與日誌協議，「實測」只是行銷。
2 對比矩陣：頻寬、容量與本機 AI 影響
下表用公開規格與團隊常見體感量級對比——重點看瓶頸落在哪，而不是後綴「4」或「5」。
| 維度 | Mac mini M4 | Mac mini M5（同檔預估） | 本機 AI 影響 | 速判 |
|---|---|---|---|---|
| 記憶體頻寬 | ~120 GB/s | ~153 GB/s（約 +27%） | 解碼吞吐天花板 | 頻寬優先於代數名 |
| 統一記憶體 | 16/24/32GB 常見 | 同檔位為主 | 能否塞進模型 | 容量 > 邊際算力 |
| Neural Engine | ~38 TOPS 級 | 更高 TOPS + GPU 側加速 | 系統 AI / Core ML | 別當 LLM 主指標 |
| 生態成熟度 | MLX/Ollama 現成 | 早期相容風險 | 上線可靠性 | 先可交付再追新 |
| 可獲得性（2026-08） | 可租可買 | Mini 交期仍看庫存/傳聞 | 開工時間 | 空窗用 M4 過渡 |
速判：繼續用 M4
日常 7B–13B RAG、Agent、CI：M4 24GB 通常能到預估 M5 同檔吞吐的八九成，且工具鏈已穩。到購買頁開節點即可。
速判：再等 M5
必須本機硬扛 32B+ 量化、且預算覆蓋 32GB/64GB 與確定交期——否則先租頻寬與隔離，別空等。
3 場景速配：誰該等、誰該先跑
| 你的情況 | 建議 | 原因 |
|---|---|---|
| 7B–13B 互動式 RAG | 租 M4 24GB | 頻寬夠用，容量決定體感 |
| 多 Agent + 索引並行 | 租獨占 M4 | 隔離比代數更能減抖動 |
| 只比 Apple Intelligence | 可等 M5 | NPU/系統 AI 收益更明顯 |
| Windows 團隊要 Mac LLM | SSH/VNC 租 M4 | 別囤未確認 Mini |
| 必須固定資產採購 | 先租後買 | 審批常慢於首波庫存 |
4 五步做可重現的速度實測
- 1 固定模型與量化：同一倉庫、同一 Q4/Q5 權重、同一上下文長度；禁止一邊 GGUF 一邊 MLX 卻宣稱「代數差」。
- 2 鎖定提示與採樣：固定 system/user 提示、temperature=0、記錄 prefill 與 decode 分段 tok/s，至少跑 5 次取中位數。
- 3 隔離背景噪音：關掉無關容器與 Xcode 模擬器；記錄可用統一記憶體與是否出現換頁。
- 4 在獨占節點上跑：本機筆電與共享 CI 會污染結果。在 purchase.html 租 Mac mini M4 · 24GB · 512GB，經 SSH 重現同一腳本。
- 5 寫清升級門檻：只有當 M5 Mini 可下單、記憶體檔位匹配，且同協議吞吐提升值得溢價時再換代；先在 定價頁 對齊區域與成本。
5 可引用資訊
- ✓頻寬決定解碼：本機 LLM 生成階段反覆掃權重，統一記憶體頻寬是 tok/s 的一階約束。
- ✓公開頻寬差約 27%：同檔 M4 ~120 GB/s vs M5 ~153 GB/s；實際體感還受量化、上下文與是否換頁影響。
- ✓容量經常先於代數：16GB 換頁會抹平代數紅利；24GB 是多數團隊本機 AI 實用地板。
- ✓先交付再追新：可重現測法 + 立刻可用的 M4 節點，比空等未確認 Mini 更能縮短上線。
6 常見問題
M5 的 Neural Engine 會不會讓 Ollama 快一倍？
通常不會。系統 AI 與部分 Core ML 路徑更吃 NPU；主流本機 LLM 仍受 GPU/頻寬與記憶體容量約束，同檔提升更接近頻寬增幅量級。
為什麼不直接買 M4 Pro 比基礎 M5？
若目標是更大模型或更高 decode，Pro 檔頻寬躍升往往大於基礎代數差。先用可租節點驗證工作負載，再決定買哪一檔。
vmzig 適合做對比實測嗎？
適合。獨占實體 Mac mini、SSH/VNC、可固定規格，方便你按同一協議對比本機與雲端節點，再決定採購。