MTPLX · Apple Silicon · v2.11.3
Qwen 3.8 Flash NextをMacで高速に実行。
Qwen3.8-Flash-Nextは、125BパラメータのMixture-of-Expertsモデルです。MTPLXはモデルのMTPヘッドを保持し、サンプリング分布を維持する投機的デコードで生成を高速化します。96 GB以上のユニファイドメモリを搭載したMacで利用でき、OpenCodeなどの開発ツールに接続できます。
macOS 14以降 · Appleシリコン · 無料・オープンソース
Flash Nextの実測生成速度
MTPLX 2.11.3、MacBook Pro M5 Max、128 GB、Optimized Speed。temperature 1.0、top-p 0.95、top-k 20で測定。
| 処理内容 | tok/s | 測定条件 |
|---|---|---|
| 1件のOpenCodeリクエスト | 125.8 | 1,301トークンを生成。プロンプトは18,539トークンで、18,364トークンをキャッシュから再利用。MTP深度3。 |
| 約9Kトークンのコードプロンプト | 79.3 | 1,500トークンを生成。同一Macで交互に測定。2.11.2では62.5 tok/s。 |
| 109KトークンのOpenCodeターン | 61.8 | 2回の測定の平均。 |
| 200Kトークンの続きのターン | 50.3 | キャッシュが温まった状態で、2回の測定の平均。 |
125.8 tok/sは2026年9月16日の単一リクエストの結果です。実際の速度はチップ、モデルの種類、コンテキスト長、キャッシュの状態によって変わります。
2.11.3のリリースノート（英語）モデルの種類と必要なメモリ
推奨のOptimized Speedは動的4-bit量子化を使い、Qwen Sparse Attentionの射影を8-bitに保ちます。Bare Speedは一律4-bit量子化で、生成速度を優先する構成です。
Optimized Speedのダウンロードは約115.1 GBです。このうち32 GBのn-gramテーブルはSSDから読み込みます。モデルの重みは約83 GBがメモリに常駐し、コンテキストや計算にも空き容量が必要です。Bare Speedはダウンロード約106.3 GB、常駐する重みは約74 GBです。
Hugging Face: Optimized Speedインストールして使い始める
- MTPLXをダウンロードし、アプリケーションフォルダに移動して開きます。
- メモリ容量に合ったQwenモデルを選び、ダウンロードを完了させます。
- ローカルサーバーを起動し、アプリ内でチャットするか、開発ツールを接続します。
Homebrewを使う場合は、ターミナルで次のコマンドを実行します。
brew install youssofal/mtplx/mtplx
mtplx startOpenCodeをインストール済みなら、次のコマンドでローカルのコード作業を始められます。MTPLXはOpenAI互換・Anthropic互換APIも提供します。
mtplx start opencodeMTPをMacにもたらしたプロジェクト
Youssof AltoukhiはMTPLXを開発し、ネイティブのマルチトークン予測をMacにもたらしました。開発は2026年4月27日に始まり、5月2日に最初の公開版をリリースしました。MTPLXはAppleシリコン上でモデル自身のMTPヘッドを実行し、精確な投機的サンプリングでローカル生成を高速化します。
よくある質問
32 GBのMacでFlash Nextは使えますか？
現在のMTPLXモデルパッケージは96 GB以上のMac向けです。32 GBのMacにはQwen 3.8 27B Optimized Speedを推奨します。
Flash NextとFlash-Nextは同じモデルですか？
はい。どちらもQwen3.8-Flash-Nextを指しています。モデルのリポジトリ名では公式のハイフン付き表記を使います。