Starter
Apple Mac mini M5 Pro 24 GB
Die schnellste Bandbreite in dieser Liste, aber nur 24 GB. Für Modelle bis 24B die flüssigste Box, für 70B zu klein.
Welche Modelle laufen
| Modell | Braucht | tok/s | Urteil |
|---|---|---|---|
Gemma 4 E2B 2B | 5 GB | ~100 | flüssig |
Phi-4 Mini 3,8B | 5.5 GB | ~80 | flüssig |
Llama 3.1 8B 8B | 7.9 GB | ~41 | flüssig |
Qwen3 8B 8B | 8.2 GB | ~38 | flüssig |
Gemma 3 12B 12B | 11.1 GB | ~25 | flüssig |
Phi-4 14B 14B | 12.1 GB | ~22 | flüssig |
Qwen3 14B 14B | 12.3 GB | ~21 | flüssig |
gpt-oss-20b 21B, 3,6B aktiv | 16 GB | ~83 | flüssig |
Devstral Small 24B 24B | 17 GB | ~14 | brauchbar |
Mistral Small 3.2 24B | 18 GB | ~13 | brauchbar |
Gemma 4 26B 26B, 4B aktiv | 19 GB | – | passt nicht |
Gemma 3 27B 27B | 20 GB | – | passt nicht |
Qwen3.8 27B 27B | 20 GB | – | passt nicht |
Qwen3 30B-A3B 30B, 3B aktiv | 22 GB | – | passt nicht |
Qwen3-Coder 30B 30B, 3B aktiv | 22 GB | – | passt nicht |
Laguna XS 2.1 33B, 3B aktiv | 23 GB | – | passt nicht |
Qwen3 32B 32B | 23 GB | – | passt nicht |
Llama 3.3 70B 70B | 45.5 GB | – | passt nicht |
Llama 4 Scout 109B, 17B aktiv | 70 GB | – | passt nicht |
gpt-oss-120b 117B, 5B aktiv | 68 GB | – | passt nicht |
GLM-4.5 Air 106B, 12B aktiv | 71 GB | – | passt nicht |
Qwen3 235B-A22B 235B, 22B aktiv | 145 GB | – | passt nicht |
tok/s für einen Nutzer, 4-Bit-Quantisierung, geschätzt aus 307 GB/s Bandbreite. Noch keine eigenen Messwerte für dieses Gerät.