MTPLX/Inkling 2 Mini

Der schnellste Weg, Inkling 2 Mini auf dem Mac auszuführen.

Inkling 2 Mini ist das Open-Weights-Modell von Thinking Machines Lab für Programmieren und Bilder. MTPLX 2.13 führt es mit eigens dafür geschriebenen Metal-Kernels und mit dem eigenen Draft-Kopf des Modells aus, sodass die Antworten der Verteilung des Modells folgen: 128,8 tok/s mit Bare Speed auf einem MacBook Pro M5 Max (schnellste gemessene Antwort).

Gemessene Geschwindigkeit

MacBook Pro M5 Max mit 128 GB, MTPLX 2.13, Temperatur 1,0 (die Einstellung des Modells). Die Generierung ist der schnellste gemessene Wert jedes Pakets: bei Bare Speed eine Antwort mit 128 Tokens, deren Prompt bereits im Cache lag, bei Optimized Speed eine Antwort mit 166 Tokens in der App, bei Optimized Quality die ersten 32 Tokens einer Antwort in der App. Erstes Token und Prefill: ein neuer Programmier-Prompt mit 4.142 Tokens (Bare Speed drei Läufe, Optimized Speed einer, Optimized Quality zwei). Lange Sitzungen auf einem heißen Mac laufen langsamer.

PaketGenerierungErstes TokenPrefillDownload
Bare Speed128,8 tok/s1,69 s2.466 tok/s16,0 GB
Optimized Speed123,8 tok/s1,73 s2.397 tok/s17,2 GB
Optimized Quality103,8 tok/s1,84 s2.257 tok/s20,2 GB

Welches Paket passt auf meinen Mac

MTPLX erkennt Chip und Arbeitsspeicher und bietet nur Pakete an, die passen.

Dein MacEmpfohlenes PaketPasst ebenfallsKontext
8 GB, M3, M4 oder M5Keines passt. MTPLX empfiehlt Qwen 3.5 4B Optimized Speed.
16 bis 18 GB, M3, M4 oder M5Keines passt. MTPLX empfiehlt Bonsai 2 27B Optimized Speed.
24 GB, M3, M4 oder M5Inkling 2 Mini Bare Speedkeins24.576 Tokens
32 GB, M3, M4 oder M5Inkling 2 Mini Bare SpeedOptimized Speed, Optimized Quality163.840 Tokens
36 GB, M3, M4 oder M5Inkling 2 Mini Bare SpeedOptimized Speed, Optimized Quality245.760 Tokens
48 GB, M3, M4 oder M5Inkling 2 Mini Bare SpeedOptimized Speed, Optimized Quality434.176 Tokens
64 GB, M3, M4 oder M5Inkling 2 Mini Bare SpeedOptimized Speed, Optimized Quality749.568 Tokens
96 bis 512 GB, M3, M4 oder M5Inkling 2 Mini Bare SpeedOptimized Speed, Optimized Quality1.048.576 Tokens
8 GB, M1 oder M2Keines passt.
16 bis 24 GB, M1 oder M2Keines passt. MTPLX empfiehlt Qwen 3.5 9B Optimized Speed FP16.
32 GB, M1 oder M2Inkling 2 Mini Bare Speed FP16Optimized Speed FP16, Optimized Quality FP16163.840 Tokens
64 GB, M1 oder M2Inkling 2 Mini Bare Speed FP16Optimized Speed FP16, Optimized Quality FP16749.568 Tokens
96 bis 192 GB, M1 oder M2Inkling 2 Mini Bare Speed FP16Optimized Speed FP16, Optimized Quality FP161.048.576 Tokens

So startest du es

In der App wählst du „Inkling 2 Mini Bare Speed“. Im Terminal:

brew install youssofal/mtplx/mtplx
mtplx pull Youssofal/Inkling-2-Mini-MTPLX-Bare-Speed
mtplx start opencode --model Youssofal/Inkling-2-Mini-MTPLX-Bare-Speed

Ersetze opencode durch pi oder hermes. Auf einem M1 oder M2 nimmst du den FP16-Build: Youssofal/Inkling-2-Mini-MTPLX-Bare-Speed-FP16.

Jedes Paket benötigt MTPLX 2.13 oder neuer.

Für Mac herunterladen

Das Projekt, das MTP auf den Mac brachte

Youssof Altoukhi hat MTPLX entwickelt und natives Multi-Token Prediction auf den Mac gebracht. Die Entwicklung begann am 27. April 2026; die erste öffentliche Version erschien am 2. Mai. MTPLX führt die MTP-Köpfe des Modells auf Apple Silicon aus und beschleunigt lokale Generierung mit exaktem spekulativem Sampling.

Wie MTP auf den Mac kam (Englisch)

Häufige Fragen

Was ist der schnellste Weg, Inkling 2 Mini auf einem Mac auszuführen?

MTPLX, die kostenlose Mac-App und Kommandozeile für lokale Modelle auf Apple Silicon. Auf einem MacBook Pro M5 Max mit 128 GB erreicht Inkling 2 Mini Bare Speed mit MTPLX 2.13 128,8 tok/s (schnellste gemessene Antwort, ein Programmier-Prompt mit 4.142 Tokens, Temperatur 1,0). Das erste Token kommt 1,69 s nach einem neuen Prompt dieser Länge.

Welches Inkling-2-Mini-Paket passt auf einen Mac mit 24 GB?

Bare Speed, mit einem Kontext von 24.576 Tokens, auf M3, M4 und M5. Optimized Speed und Optimized Quality brauchen 32 GB oder mehr.

Läuft Inkling 2 Mini auf einem M1 oder M2?

Ja, ab 32 GB mit den FP16-Builds. M1 und M2 haben kein natives bfloat16, daher speichern diese Builds die 16-Bit-Gewichte als float16, und MTPLX wählt sie dort automatisch. Ihre Geschwindigkeit auf einem M1 oder M2 ist noch nicht gemessen.

Kann Inkling 2 Mini Bilder lesen?

Ja. Jedes MTPLX-Paket enthält den vollständigen Vision-Tower des Modells. Im Release-Test las jedes Paket den Screenshot eines fehlgeschlagenen Tests und nannte den Test und beide Zahlen.

Quellen und Messungen