Gemessene Geschwindigkeit
MacBook Pro M5 Max mit 128 GB, MTPLX 2.13, Temperatur 1,0 (die Einstellung des Modells). Die Generierung ist der schnellste gemessene Wert jedes Pakets: bei Bare Speed eine Antwort mit 128 Tokens, deren Prompt bereits im Cache lag, bei Optimized Speed eine Antwort mit 166 Tokens in der App, bei Optimized Quality die ersten 32 Tokens einer Antwort in der App. Erstes Token und Prefill: ein neuer Programmier-Prompt mit 4.142 Tokens (Bare Speed drei Läufe, Optimized Speed einer, Optimized Quality zwei). Lange Sitzungen auf einem heißen Mac laufen langsamer.
| Paket | Generierung | Erstes Token | Prefill | Download |
|---|---|---|---|---|
| Bare Speed | 128,8 tok/s | 1,69 s | 2.466 tok/s | 16,0 GB |
| Optimized Speed | 123,8 tok/s | 1,73 s | 2.397 tok/s | 17,2 GB |
| Optimized Quality | 103,8 tok/s | 1,84 s | 2.257 tok/s | 20,2 GB |
Welches Paket passt auf meinen Mac
MTPLX erkennt Chip und Arbeitsspeicher und bietet nur Pakete an, die passen.
| Dein Mac | Empfohlenes Paket | Passt ebenfalls | Kontext |
|---|---|---|---|
| 8 GB, M3, M4 oder M5 | Keines passt. MTPLX empfiehlt Qwen 3.5 4B Optimized Speed. | ||
| 16 bis 18 GB, M3, M4 oder M5 | Keines passt. MTPLX empfiehlt Bonsai 2 27B Optimized Speed. | ||
| 24 GB, M3, M4 oder M5 | Inkling 2 Mini Bare Speed | keins | 24.576 Tokens |
| 32 GB, M3, M4 oder M5 | Inkling 2 Mini Bare Speed | Optimized Speed, Optimized Quality | 163.840 Tokens |
| 36 GB, M3, M4 oder M5 | Inkling 2 Mini Bare Speed | Optimized Speed, Optimized Quality | 245.760 Tokens |
| 48 GB, M3, M4 oder M5 | Inkling 2 Mini Bare Speed | Optimized Speed, Optimized Quality | 434.176 Tokens |
| 64 GB, M3, M4 oder M5 | Inkling 2 Mini Bare Speed | Optimized Speed, Optimized Quality | 749.568 Tokens |
| 96 bis 512 GB, M3, M4 oder M5 | Inkling 2 Mini Bare Speed | Optimized Speed, Optimized Quality | 1.048.576 Tokens |
| 8 GB, M1 oder M2 | Keines passt. | ||
| 16 bis 24 GB, M1 oder M2 | Keines passt. MTPLX empfiehlt Qwen 3.5 9B Optimized Speed FP16. | ||
| 32 GB, M1 oder M2 | Inkling 2 Mini Bare Speed FP16 | Optimized Speed FP16, Optimized Quality FP16 | 163.840 Tokens |
| 64 GB, M1 oder M2 | Inkling 2 Mini Bare Speed FP16 | Optimized Speed FP16, Optimized Quality FP16 | 749.568 Tokens |
| 96 bis 192 GB, M1 oder M2 | Inkling 2 Mini Bare Speed FP16 | Optimized Speed FP16, Optimized Quality FP16 | 1.048.576 Tokens |
So startest du es
In der App wählst du „Inkling 2 Mini Bare Speed“. Im Terminal:
brew install youssofal/mtplx/mtplx
mtplx pull Youssofal/Inkling-2-Mini-MTPLX-Bare-Speed
mtplx start opencode --model Youssofal/Inkling-2-Mini-MTPLX-Bare-SpeedErsetze opencode durch pi oder hermes. Auf einem M1 oder M2 nimmst du den FP16-Build: Youssofal/Inkling-2-Mini-MTPLX-Bare-Speed-FP16.
Jedes Paket benötigt MTPLX 2.13 oder neuer.
Das Projekt, das MTP auf den Mac brachte
Youssof Altoukhi hat MTPLX entwickelt und natives Multi-Token Prediction auf den Mac gebracht. Die Entwicklung begann am 27. April 2026; die erste öffentliche Version erschien am 2. Mai. MTPLX führt die MTP-Köpfe des Modells auf Apple Silicon aus und beschleunigt lokale Generierung mit exaktem spekulativem Sampling.
Häufige Fragen
Was ist der schnellste Weg, Inkling 2 Mini auf einem Mac auszuführen?
MTPLX, die kostenlose Mac-App und Kommandozeile für lokale Modelle auf Apple Silicon. Auf einem MacBook Pro M5 Max mit 128 GB erreicht Inkling 2 Mini Bare Speed mit MTPLX 2.13 128,8 tok/s (schnellste gemessene Antwort, ein Programmier-Prompt mit 4.142 Tokens, Temperatur 1,0). Das erste Token kommt 1,69 s nach einem neuen Prompt dieser Länge.
Welches Inkling-2-Mini-Paket passt auf einen Mac mit 24 GB?
Bare Speed, mit einem Kontext von 24.576 Tokens, auf M3, M4 und M5. Optimized Speed und Optimized Quality brauchen 32 GB oder mehr.
Läuft Inkling 2 Mini auf einem M1 oder M2?
Ja, ab 32 GB mit den FP16-Builds. M1 und M2 haben kein natives bfloat16, daher speichern diese Builds die 16-Bit-Gewichte als float16, und MTPLX wählt sie dort automatisch. Ihre Geschwindigkeit auf einem M1 oder M2 ist noch nicht gemessen.
Kann Inkling 2 Mini Bilder lesen?
Ja. Jedes MTPLX-Paket enthält den vollständigen Vision-Tower des Modells. Im Release-Test las jedes Paket den Screenshot eines fehlgeschlagenen Tests und nannte den Test und beide Zahlen.