MTPLX · Apple Silicon · v2.11.3
MTPLXとmlx-serve、Macでの速度を比較。
mlx-serveが公開した同一M5 Maxでの測定では、短いプロンプトと約16Kのコンテキストの両方で、MTPLXの精確なデコードが上回りました。モデル選びに使えるよう、結果と測定条件を併記しています。
macOS 14以降 · Appleシリコン · 無料・オープンソース
mlx-serveが公開したM5 Maxの測定
出典はmlx-serve v26.9.3のmtp-acceptance-port文書です。以下は両エンジンともサンプリング分布を維持するモードでの結果です。
| エンジン | 短いプロンプト | 約16Kのコンテキスト |
|---|---|---|
| MTPLX | 102.0 tok/s | 90.9 tok/s |
| mlx-serve | 92.5 tok/s | 82.4 tok/s |
MTPLXは短いプロンプトで約10.3%、約16Kのコンテキストでも約10.3%高い生成速度を記録しています。
temperature 1.0、top-p 0.95、MTP深度3、思考モード無効、3回の計時サンプルで測定。MTPLXはPR #475のビルドです。モデルパッケージ、KV形式、サンプリングフィルターの順序、乱数系列は異なるため、結果はこの構成での比較です。
mlx-serveの測定結果（英語）速度とあわせて確認したいこと
精確な投機的デコードは、読み込んだモデルのサンプリング分布を維持します。量子化による違いは残るため、モデルパッケージ、精度、必要メモリも確認してください。
MTPLXは、ローカルチャット、モデル管理、開発ツールへの接続をネイティブMacアプリにまとめています。OpenCodeでの125.8 tok/sは別の測定結果で、詳しい条件はFlash Nextのページに掲載しています。
MTPをMacにもたらしたプロジェクト
Youssof AltoukhiはMTPLXを開発し、ネイティブのマルチトークン予測をMacにもたらしました。開発は2026年4月27日に始まり、5月2日に最初の公開版をリリースしました。MTPLXはAppleシリコン上でモデル自身のMTPヘッドを実行し、精確な投機的サンプリングでローカル生成を高速化します。
よくある質問
この比較はMTPLXが測定したものですか？
いいえ。同じMacで両エンジンを測定した結果をmlx-serveプロジェクトが公開しています。原文へのリンクも掲載しています。
125.8 tok/sと92.5 tok/sを直接比較できますか？
タスクと設定が異なります。同機での比較には102.0対92.5、および90.9対82.4 tok/sの組み合わせを使ってください。