Beste GPU für lokale LLMs unter 1.000 €
Welche Grafikkarte lohnt sich für lokale Sprachmodelle mit einem Budget unter 1.000 €? Jede Karte unten hat einen aktuellen deutschen Neupreis und, wo vorhanden, ein gemessenes Ergebnis in Token pro Sekunde aus einem Benchmark mit Quelle.
Karten unter (und knapp über) 1.000 €
| GPU | VRAM | Niedrigster Neupreis DE | Gemessene Ergebnisse mit 2026er Modellen (eine Karte, ohne Spec-Decoding) | |
|---|---|---|---|---|
| RTX 3060 | 12 GB | ≈429 € | Qwen3.8 27B: 5,2-6,7 tok/s (1,2 pro 100 €, Quelle) † gpt-oss 20B: 83,96 tok/s (19,6 pro 100 €, Quelle) † Gemma 4 12B: 38,5 tok/s (9,0 pro 100 €, Quelle) LFM2.5 24B-A2B: 125 tok/s (29,1 pro 100 €, Quelle) † | im Budget |
| RTX 5060 Ti 16GB | 16 GB | ≈739 € | gpt-oss 20B: 111,51 tok/s (15,1 pro 100 €, Quelle) | im Budget |
| Radeon RX 7900 XT | 20 GB | ≈869 € | noch kein Ergebnis mit einem 2026er Modell | im Budget |
| RTX A4000 | 16 GB | ≈1.050 € | gpt-oss 20B: 93,55 tok/s (8,9 pro 100 €, Quelle) Muse Glimmer 30B: 21,42 tok/s (2,0 pro 100 €, Quelle) | knapp darüber |
| RTX 5070 Ti | 16 GB | ≈1.245 € | gpt-oss 20B: 189,45 tok/s (15,2 pro 100 €, Quelle) Gemma 4 12B: 87,6 tok/s (7,0 pro 100 €, Quelle) | knapp darüber |
Preise: billiger.de, niedrigster Neupreis inkl. MwSt., 2026-10-16 bis 2026-10-24. Ergebnisse: bestes Single-GPU-Ergebnis ohne Speculative Decoding pro Modell, Modell komplett im VRAM; Laufzeit und Quantisierung unterscheiden sich je nach Quelle. † Die Q4_K_M- bzw. Original-Gewichte des Modells sind größer als der VRAM der Karte; die Quelle hat also einen Teil aus dem Arbeitsspeicher geladen oder eine kleinere Quantisierung genutzt. Solche Werte zählen nicht für die kurze Antwort.
Was passt in 12, 16 und 20 GB (Q4_K_M-Gewichte)
- 12 GB: Gemma 4 12B, Qwen3.5 9B, Mellum 2.1 12B-A2.5B
- 16 GB zusätzlich: Gemma 4 26B-A4B, gpt-oss 20B, LFM2.5 24B-A2B
- 20 GB zusätzlich: Qwen3.8 27B, Qwen3.6 27B legacy, Gemma 4 31B, Nemotron 3.5 Lightning 30B-A3B
Gewichte = Parameter × 4,89 Bit ÷ 8 (llama.cpp Q4_K_M), ohne Kontext. Die Rechnung pro Modell steht auf jeder Modellseite und im VRAM-Rechner.
Die Gebraucht-Option: RTX 3090 (24 GB)
Median 1.248 € gebraucht (typisch 1.136–1.334 €; eBay-Verkaufsdaten über PCPrice.Watch, 2026-10-24), also etwas über dem Budget, aber der günstigste Weg zu 24 GB. Mehr dazu (Englisch): gebrauchte RTX 3090 vs RTX 5090 und der Kaufratgeber für die gebrauchte RTX 3090.
Häufige Fragen
Was ist die beste GPU für lokale LLMs unter 1.000 €?
Nach den gemessenen Ergebnissen in RigBase: Die RTX 5060 Ti 16GB (≈739 €, 16 GB) ist die schnellste neue Karte unter 1.000 € mit gpt-oss 20B komplett im VRAM (111,51 tok/s) und hat zugleich die meisten Token/s pro Euro (15,1 pro 100 €). Welche Modelle überhaupt passen, entscheidet der VRAM; deshalb erst die Speichertabelle prüfen und dann nach Geschwindigkeit wählen.
Reichen 12 GB oder 16 GB für lokale LLMs?
Bei Q4_K_M passen die Gewichte dieser 2026er Modelle in 12 GB: Gemma 4 12B, Qwen3.5 9B, Mellum 2.1 12B-A2.5B. Bis 16 GB kommen dazu: Gemma 4 26B-A4B, gpt-oss 20B, LFM2.5 24B-A2B. Für den Kontext (KV-Cache) braucht es zusätzlich Platz.
Bekomme ich eine gebrauchte RTX 3090 unter 1.000 €?
Im Median derzeit nicht: Gebrauchte RTX 3090 wurden auf eBay für im Median 1.248 € verkauft (typisch 1.136–1.334 €, 237 Verkäufe, PCPrice.Watch, 2026-10-24). Sie ist die günstigste 24-GB-Karte, wenn das Budget etwas mehr hergibt.
Woher kommen die Preise?
Niedrigste Neupreise auf billiger.de (Deutschland, inkl. MwSt.), Stand 2026-10-16 bis 2026-10-24; gebrauchte RTX 3090 aus verkauften eBay-Angeboten über PCPrice.Watch. Preise ändern sich täglich, also vor dem Kauf das Angebot prüfen.
Siehe auch: RigBase auf Deutsch · komplette KI-Rechner unter 1.000 € (EN) · beste GPU pro Euro (EN)
English version: Best GPU for local LLMs under €1,000