MTPLX/Inkling 2 Mini

Mac에서 Inkling 2 Mini를 가장 빠르게 실행하는 방법.

Inkling 2 Mini는 Thinking Machines Lab이 공개한 코딩과 이미지용 오픈 웨이트 모델입니다. MTPLX 2.13은 이 모델을 위해 작성한 Metal 커널과 모델 자체의 드래프트 헤드로 실행하므로 답변은 모델 본래의 분포를 따릅니다. MacBook Pro M5 Max에서 Bare Speed가 128.8 tok/s (기록된 가장 빠른 답변).

측정한 속도

MacBook Pro M5 Max (128 GB), MTPLX 2.13, 온도 1.0 (모델 본래의 샘플링). 생성 속도는 각 팩에서 기록된 가장 빠른 값입니다. Bare Speed는 프롬프트가 이미 캐시에 있을 때의 128토큰 답변, Optimized Speed는 앱에서의 166토큰 답변, Optimized Quality는 앱에서 한 답변의 처음 32토큰입니다. 첫 토큰과 프리필은 4,142토큰의 새 코딩 프롬프트로 측정했습니다 (Bare Speed 3회, Optimized Speed 1회, Optimized Quality 2회). 뜨거워진 Mac에서는 긴 세션이 더 느립니다.

팩생성첫 토큰프리필다운로드
Bare Speed128.8 tok/s1.69 s2,466 tok/s16.0 GB
Optimized Speed123.8 tok/s1.73 s2,397 tok/s17.2 GB
Optimized Quality103.8 tok/s1.84 s2,257 tok/s20.2 GB

내 Mac에 맞는 팩

MTPLX는 칩과 메모리를 읽고 들어가는 팩만 보여줍니다.

내 Mac사용할 팩함께 들어가는 팩컨텍스트
8 GB, M3, M4, M5맞는 팩이 없습니다. MTPLX는 Qwen 3.5 4B Optimized Speed을(를) 추천합니다.
16~18 GB, M3, M4, M5맞는 팩이 없습니다. MTPLX는 Bonsai 2 27B Optimized Speed을(를) 추천합니다.
24 GB, M3, M4, M5Inkling 2 Mini Bare Speed없음24,576토큰
32 GB, M3, M4, M5Inkling 2 Mini Bare SpeedOptimized Speed, Optimized Quality163,840토큰
36 GB, M3, M4, M5Inkling 2 Mini Bare SpeedOptimized Speed, Optimized Quality245,760토큰
48 GB, M3, M4, M5Inkling 2 Mini Bare SpeedOptimized Speed, Optimized Quality434,176토큰
64 GB, M3, M4, M5Inkling 2 Mini Bare SpeedOptimized Speed, Optimized Quality749,568토큰
96~512 GB, M3, M4, M5Inkling 2 Mini Bare SpeedOptimized Speed, Optimized Quality1,048,576토큰
8 GB, M1, M2맞는 팩이 없습니다.
16~24 GB, M1, M2맞는 팩이 없습니다. MTPLX는 Qwen 3.5 9B Optimized Speed FP16을(를) 추천합니다.
32 GB, M1, M2Inkling 2 Mini Bare Speed FP16Optimized Speed FP16, Optimized Quality FP16163,840토큰
64 GB, M1, M2Inkling 2 Mini Bare Speed FP16Optimized Speed FP16, Optimized Quality FP16749,568토큰
96~192 GB, M1, M2Inkling 2 Mini Bare Speed FP16Optimized Speed FP16, Optimized Quality FP161,048,576토큰

실행 방법

앱에서는 Inkling 2 Mini Bare Speed를 고르세요. 터미널에서는:

brew install youssofal/mtplx/mtplx
mtplx pull Youssofal/Inkling-2-Mini-MTPLX-Bare-Speed
mtplx start opencode --model Youssofal/Inkling-2-Mini-MTPLX-Bare-Speed

opencode 대신 pi나 hermes를 쓸 수 있습니다. M1·M2에서는 FP16 빌드를 쓰세요: Youssofal/Inkling-2-Mini-MTPLX-Bare-Speed-FP16.

모든 팩에 MTPLX 2.13 이상이 필요합니다.

Mac용 다운로드

Mac에 MTP를 도입한 프로젝트

Youssof Altoukhi는 MTPLX를 만들고 Mac에 네이티브 다중 토큰 예측을 도입했습니다. 개발은 2026년 4월 27일 시작했으며 첫 공개 버전은 5월 2일 출시했습니다. MTPLX는 Apple Silicon에서 모델 자체의 MTP 헤드를 실행하고 정확한 추측 샘플링으로 로컬 생성을 가속합니다.

Mac에 MTP를 구현한 과정 (영문)

자주 묻는 질문

Mac에서 Inkling 2 Mini를 가장 빠르게 실행하는 방법은?

MTPLX입니다. Apple Silicon용 무료 Mac 앱이자 명령줄 도구로, MacBook Pro M5 Max (128 GB)에서 MTPLX 2.13은 Inkling 2 Mini Bare Speed를 128.8 tok/s로 실행합니다 (기록된 가장 빠른 답변, 4,142토큰 코딩 프롬프트, 온도 1.0). 같은 길이의 새 프롬프트 뒤 첫 토큰까지 1.69초입니다.

24 GB Mac에는 어떤 Inkling 2 Mini 팩이 맞나요?

Bare Speed입니다. M3, M4, M5에서 24,576토큰 컨텍스트로 실행됩니다. Optimized Speed와 Optimized Quality는 32 GB 이상이 필요합니다.

Inkling 2 Mini는 M1이나 M2에서 실행되나요?

네. 32 GB 이상의 M1·M2에서는 FP16 빌드로 실행됩니다. M1과 M2는 bfloat16을 기본 지원하지 않아 16비트 가중치를 float16으로 저장했고, MTPLX가 자동으로 고릅니다. M1·M2에서의 속도는 아직 측정하지 않았습니다.

Inkling 2 Mini는 이미지를 읽을 수 있나요?

네. MTPLX의 모든 팩에 모델의 비전 타워 전체가 들어 있습니다. 출시 점검에서 모든 팩이 실패한 테스트의 스크린샷을 읽고 테스트 이름과 두 숫자를 말했습니다.

측정 자료와 출처