1 Drei Fallen bei lokalen KI-Chip-Vergleichen
1. NPU-Peaks als LLM-Speed: Die Neural Engine hilft Apple Intelligence und vielen Core-ML-Pfaden. Quantisierte 7B–13B-Modelle auf Ollama/MLX belasten vor allem Metal-GPU und Speicherbandbreite, nicht Broschüren-TOPS.
2. Unified-Memory-Kapazität ignorieren: Eine 16-GB-Box mit 13B Q4 plus Indexen und Browser thrash. Ein schnelleres M5 repariert kein Swapping; 24 GB ist die praktische Untergrenze für die meisten Teams.
3. Lücken mit unfairen Benches aufblasen: Andere Quants, Kontexte, Batch-Größen, Warm-up oder Xcode-Konkurrenz verzerren tok/s. Ohne festes Prompt- und Log-Protokoll sind „Speedtests“ Marketing.
2 Matrix: Bandbreite, Kapazität, lokale-KI-Wirkung
Nutzen Sie öffentliche Specs und Team-Erfahrung—finden Sie den Engpass, nicht das Suffix „4“ oder „5“.
| Dimension | Mac mini M4 | Mac mini M5 (Peer-Schätzung) | Lokale-KI-Wirkung | Urteil |
|---|---|---|---|---|
| Speicherbandbreite | ~120 GB/s | ~153 GB/s (~+27%) | Decode-Durchsatz-Decke | Bandbreite > Label |
| Unified Memory | Häufig 16/24/32 GB | Gleiche Tiers erwartet | Ob das Modell passt | Kapazität > marginales Compute |
| Neural Engine | ~38 TOPS-Klasse | Höhere TOPS + GPU-Beschleuniger | System-AI / Core ML | Nicht die Haupt-LLM-KPI |
| Stack-Reife | MLX/Ollama bereit | Frühes Kompatibilitätsrisiko | Lieferzuverlässigkeit | Zuerst liefern, später jagen |
| Verfügbarkeit (Aug 2026) | Kaufen oder mieten | Mini-Lieferung noch Lager/Gerücht | Zeit bis zum ersten Lauf | Mit M4 überbrücken |
Schnellurteil: bei M4 bleiben
Tägliche 7B–13B-RAG, Agents, CI: M4 24 GB erreicht oft ~80–90% des projizierten Peer-M5-Durchsatzes mit reifer Toolchain. Öffnen Sie einen Node auf der Kaufseite.
Schnellurteil: auf M5 warten
Nur wenn Sie 32B+ quantisiert lokal hosten müssen, 32/64 GB finanzieren und ein festes Lieferdatum haben—sonst Bandbreite und Isolation mieten statt warten.
3 Szenarien: wer wartet, wer liefert
| Ihre Lage | Empfehlung | Warum |
|---|---|---|
| Interaktives 7B–13B-RAG | M4 24 GB mieten | Bandbreite reicht; Kapazität entscheidet das Gefühl |
| Multi-Agent + Indexing | Dediziertes M4 mieten | Isolation senkt Jitter mehr als der Generationssprung |
| Nur Apple Intelligence | Kann auf M5 warten | NPU-/System-AI-Gewinne klarer |
| Windows-Team, Mac-LLM | SSH/VNC M4 mieten | Keine unbestätigten Minis lagern |
| Muss als Anlage kaufen | Zuerst mieten, dann kaufen | Freigaben dauern oft länger als Erstbestände |
4 Fünf Schritte zu einem reproduzierbaren Speedtest
- 1 Modell und Quant fixieren: Gleiches Repo, gleiche Q4/Q5-Gewichte, gleiche Kontextlänge—niemals GGUF und MLX mischen und „Generationslücke“ nennen.
- 2 Prompts und Sampling fixieren: Feste System-/User-Prompts, temperature=0, Prefill- vs. Decode-tok/s loggen, Median aus mindestens fünf Läufen.
- 3 Hintergrundrauschen isolieren: Unnötige Container und Simulatoren stoppen; freien Unified Memory und Swapping notieren.
- 4 Auf dediziertem Node laufen: Laptops und shared CI verschmutzen Ergebnisse. Auf der Kaufseite Mac mini M4 · 24 GB · 512 GB mieten und dasselbe Skript per SSH wiederholen.
- 5 Upgrade-Gate schreiben: Nur wechseln, wenn ein M5-Mini bestellbar ist, Memory-Tier passt und gleicher Protokoll-Durchsatz den Aufpreis rechtfertigt—zuerst Regionen auf der Preisseite vergleichen.
5 Zitierbare Fakten
- ✓Bandbreite begrenzt Decode: Lokale LLM-Generierung liest Gewichte pro Token erneut; Unified-Memory-Bandbreite ist die tok/s-Hauptrestriktion.
- ✓~27% öffentliche Bandbreitendifferenz: Peer-M4 ~120 GB/s vs. M5 ~153 GB/s; Gefühl hängt weiter von Quant, Kontext und Swapping ab.
- ✓Kapazität schlägt oft die Generation: 16-GB-Thrashing löscht Chip-Gewinne; 24 GB ist die praktische lokale-KI-Untergrenze für die meisten Teams.
- ✓Liefern vor Jagen: Reproduzierbares Protokoll plus sofort verfügbarer M4-Node verkürzt Time-to-Prod mehr als Warten auf einen unbestätigten Mini.
6 FAQ
Verdoppelt die M5-Neural-Engine Ollama?
Meist nein. System-AI und manche Core-ML-Pfade lieben die NPU; Mainstream-lokale LLMs bleiben GPU-/bandbreiten- und RAM-begrenzt—Peer-Gewinne folgen eher der Bandbreite als TOPS.
Warum nicht M4 Pro statt Basis-M5 kaufen?
Brauchen Sie größere Modelle oder höheres Decode, schlagen Pro-Bandbreitensprünge oft den Basis-Generationssprung. Workload zuerst auf mietbarem Node validieren, dann SKU wählen.
Eignet sich vmzig für Head-to-Head-Benches?
Ja. Dedizierter physischer Mac mini, SSH/VNC, feste Specs—gleiches Protokoll Laptop vs. Remote, dann Kaufentscheidung.
7 Fazit: nach Bandbreite und Methode entscheiden—dann Kapazität kaufen
Fazit: Die M5-vs-M4-Lokal-KI-Story handelt von Speicherbandbreite und Kapazität, nicht von der Ziffer im Namen. Speedtests ohne reproduzierbares Protokoll tragen keine Kaufentscheidung.
Öffnen Sie die Kaufseite und mieten Sie einen Mac mini M4 (empfohlen 24 GB / 512 GB). Führen Sie Modelle und Agents per SSH aus; vergleichen Sie Regionen auf der Preisseite. Liefern Sie jetzt Durchsatz—upgraden Sie erst, wenn die Ziel-M5-Konfiguration wirklich kaufbar ist.
Bandbreite schlägt Generationslabel
Mac mini M4 auf vmzig mieten — lokale KI heute prüfen
Dediziertes Bare Metal · SSH / VNC · meist live in 24 Stunden