Ministral 3 14B
Ministral 3 14B braucht mit der Variante Q4_K_M rund 9,9 GB Speicher und läuft auf 310 von 414 geführten Geräten flüssig.
Mit dem wenigsten Speicher schafft es: ASUS ROG Strix G16 (2025), GeForce RTX 5070 Ti Laptop GPU, 16 GB.
Berechnet für 4.096 Token Kontext (Anwendungsfall „Ausprobieren, Neugier“). Die Tempowerte sind an veröffentlichten Messungen abgeglichen, aber nicht auf diesem Gerät gemessen.
- Anbieter
- Mistral AI
- Parameter
- 13,5 Mrd.
- Längster Kontext
- 262.144 Token
- Lizenz
- apache-2.0
So starten Sie es mit Ollama:
$ ollama run hf.co/mistralai/Ministral-3-14B-Instruct-2512-GGUF:Q4_K_MGeräte, auf denen es flüssig läuft
Alle Tempowerte sind berechnet und an veröffentlichten Messungen abgeglichen, nicht auf dem Gerät gemessen. Mit * markierte Werte sind nicht abgeglichen und deshalb unsicher.
und 300 weitere
Grafikkarten, in die es ganz passt
| Grafikkarte | Urteil | Tempo | Speicher |
|---|---|---|---|
| NVIDIA GeForce RTX 3080 Ti, 12 GB | Läuft gut | 67 bis 82 Token/s | 12 GB davon 11,2 GB nutzbar |
| NVIDIA GeForce RTX 3080, 12 GB | Läuft gut | 67 bis 82 Token/s | 12 GB davon 11,2 GB nutzbar |
| NVIDIA GeForce RTX 5070, 12 GB | Läuft gut | 51 bis 63 Token/s | 12 GB davon 11,2 GB nutzbar |
| NVIDIA GeForce RTX 4070 Ti, 12 GB | Läuft gut | 39 bis 48 Token/s | 12 GB davon 11,2 GB nutzbar |
| NVIDIA GeForce RTX 4070, 12 GB | Läuft gut | 39 bis 48 Token/s | 12 GB davon 11,2 GB nutzbar |
| NVIDIA GeForce RTX 4070 SUPER, 12 GB | Läuft gut | 39 bis 48 Token/s | 12 GB davon 11,2 GB nutzbar |
| Intel Arc B580, 12 GB | Läuft gut | 29 bis 50 Token/s | 12 GB davon 11,2 GB nutzbar |
| AMD Radeon RX 6750 XT, 12 GB | Läuft gut | 27 bis 48 Token/s | 12 GB davon 11,2 GB nutzbar |
| AMD Radeon RX 7700 XT, 12 GB | Läuft gut | 27 bis 48 Token/s | 12 GB davon 11,2 GB nutzbar |
| AMD Radeon RX 6700 XT, 12 GB | Läuft gut | 25 bis 43 Token/s | 12 GB davon 11,2 GB nutzbar |
und 40 weitere
Alle Geräte und Grafikkarten für Ministral 3 14B
Varianten
| Variante | Datei | Speicherbedarf | Startbefehl |
|---|---|---|---|
| Q4_K_M | 8,2 GB | 9,9 GB | ollama run hf.co/mistralai/Ministral-3-14B-Instruct-2512-GGUF:Q4_K_M |
| Q5_K_M | 9,6 GB | 11,3 GB | ollama run hf.co/mistralai/Ministral-3-14B-Instruct-2512-GGUF:Q5_K_M |
| Q8_0 | 14,4 GB | 16,1 GB | ollama run hf.co/mistralai/Ministral-3-14B-Instruct-2512-GGUF:Q8_0 |
| BF16 | 27,0 GB | 29,0 GB | ollama run hf.co/mistralai/Ministral-3-14B-Instruct-2512-GGUF:BF16 |
Quelle: https://huggingface.co/mistralai/Ministral-3-14B-Instruct-2512-GGUF