측정한 속도
MacBook Pro M5 Max (128 GB), MTPLX 2.13, 온도 1.0 (모델 본래의 샘플링). 생성 속도는 각 팩에서 기록된 가장 빠른 값입니다. Bare Speed는 프롬프트가 이미 캐시에 있을 때의 128토큰 답변, Optimized Speed는 앱에서의 166토큰 답변, Optimized Quality는 앱에서 한 답변의 처음 32토큰입니다. 첫 토큰과 프리필은 4,142토큰의 새 코딩 프롬프트로 측정했습니다 (Bare Speed 3회, Optimized Speed 1회, Optimized Quality 2회). 뜨거워진 Mac에서는 긴 세션이 더 느립니다.
| 팩 | 생성 | 첫 토큰 | 프리필 | 다운로드 |
|---|---|---|---|---|
| Bare Speed | 128.8 tok/s | 1.69 s | 2,466 tok/s | 16.0 GB |
| Optimized Speed | 123.8 tok/s | 1.73 s | 2,397 tok/s | 17.2 GB |
| Optimized Quality | 103.8 tok/s | 1.84 s | 2,257 tok/s | 20.2 GB |
내 Mac에 맞는 팩
MTPLX는 칩과 메모리를 읽고 들어가는 팩만 보여줍니다.
| 내 Mac | 사용할 팩 | 함께 들어가는 팩 | 컨텍스트 |
|---|---|---|---|
| 8 GB, M3, M4, M5 | 맞는 팩이 없습니다. MTPLX는 Qwen 3.5 4B Optimized Speed을(를) 추천합니다. | ||
| 16~18 GB, M3, M4, M5 | 맞는 팩이 없습니다. MTPLX는 Bonsai 2 27B Optimized Speed을(를) 추천합니다. | ||
| 24 GB, M3, M4, M5 | Inkling 2 Mini Bare Speed | 없음 | 24,576토큰 |
| 32 GB, M3, M4, M5 | Inkling 2 Mini Bare Speed | Optimized Speed, Optimized Quality | 163,840토큰 |
| 36 GB, M3, M4, M5 | Inkling 2 Mini Bare Speed | Optimized Speed, Optimized Quality | 245,760토큰 |
| 48 GB, M3, M4, M5 | Inkling 2 Mini Bare Speed | Optimized Speed, Optimized Quality | 434,176토큰 |
| 64 GB, M3, M4, M5 | Inkling 2 Mini Bare Speed | Optimized Speed, Optimized Quality | 749,568토큰 |
| 96~512 GB, M3, M4, M5 | Inkling 2 Mini Bare Speed | Optimized Speed, Optimized Quality | 1,048,576토큰 |
| 8 GB, M1, M2 | 맞는 팩이 없습니다. | ||
| 16~24 GB, M1, M2 | 맞는 팩이 없습니다. MTPLX는 Qwen 3.5 9B Optimized Speed FP16을(를) 추천합니다. | ||
| 32 GB, M1, M2 | Inkling 2 Mini Bare Speed FP16 | Optimized Speed FP16, Optimized Quality FP16 | 163,840토큰 |
| 64 GB, M1, M2 | Inkling 2 Mini Bare Speed FP16 | Optimized Speed FP16, Optimized Quality FP16 | 749,568토큰 |
| 96~192 GB, M1, M2 | Inkling 2 Mini Bare Speed FP16 | Optimized Speed FP16, Optimized Quality FP16 | 1,048,576토큰 |
실행 방법
앱에서는 Inkling 2 Mini Bare Speed를 고르세요. 터미널에서는:
brew install youssofal/mtplx/mtplx
mtplx pull Youssofal/Inkling-2-Mini-MTPLX-Bare-Speed
mtplx start opencode --model Youssofal/Inkling-2-Mini-MTPLX-Bare-Speedopencode 대신 pi나 hermes를 쓸 수 있습니다. M1·M2에서는 FP16 빌드를 쓰세요: Youssofal/Inkling-2-Mini-MTPLX-Bare-Speed-FP16.
모든 팩에 MTPLX 2.13 이상이 필요합니다.
Mac에 MTP를 도입한 프로젝트
Youssof Altoukhi는 MTPLX를 만들고 Mac에 네이티브 다중 토큰 예측을 도입했습니다. 개발은 2026년 4월 27일 시작했으며 첫 공개 버전은 5월 2일 출시했습니다. MTPLX는 Apple Silicon에서 모델 자체의 MTP 헤드를 실행하고 정확한 추측 샘플링으로 로컬 생성을 가속합니다.
자주 묻는 질문
Mac에서 Inkling 2 Mini를 가장 빠르게 실행하는 방법은?
MTPLX입니다. Apple Silicon용 무료 Mac 앱이자 명령줄 도구로, MacBook Pro M5 Max (128 GB)에서 MTPLX 2.13은 Inkling 2 Mini Bare Speed를 128.8 tok/s로 실행합니다 (기록된 가장 빠른 답변, 4,142토큰 코딩 프롬프트, 온도 1.0). 같은 길이의 새 프롬프트 뒤 첫 토큰까지 1.69초입니다.
24 GB Mac에는 어떤 Inkling 2 Mini 팩이 맞나요?
Bare Speed입니다. M3, M4, M5에서 24,576토큰 컨텍스트로 실행됩니다. Optimized Speed와 Optimized Quality는 32 GB 이상이 필요합니다.
Inkling 2 Mini는 M1이나 M2에서 실행되나요?
네. 32 GB 이상의 M1·M2에서는 FP16 빌드로 실행됩니다. M1과 M2는 bfloat16을 기본 지원하지 않아 16비트 가중치를 float16으로 저장했고, MTPLX가 자동으로 고릅니다. M1·M2에서의 속도는 아직 측정하지 않았습니다.
Inkling 2 Mini는 이미지를 읽을 수 있나요?
네. MTPLX의 모든 팩에 모델의 비전 타워 전체가 들어 있습니다. 출시 점검에서 모든 팩이 실패한 테스트의 스크린샷을 읽고 테스트 이름과 두 숫자를 말했습니다.