Quelle RTX pour faire tourner des LLM en 2026 : comparatif par modèle

NVIDIA domine le marché de l'inférence locale de LLM en 2026, principalement grâce à son écosystème CUDA mature et la quantité énorme de VRAM disponible même sur GPU mobile. Mais choisir la mauvaise RTX peut te laisser incapable de faire tourner le LLM que tu voulais. Ce guide te dit quelle RTX spécifique va avec chaque taille de modèle, quel throughput attendre, et quand Apple Silicon est une alternative valide.

Pourquoi NVIDIA domine l'inférence locale

Trois raisons :

VRAM minimum par taille de LLM

Règle pratique pour modèles quantifiés en Q4_K_M :

| Modèle | Paramètres | VRAM Q4 | VRAM Q5 | VRAM Q6 | |---|---:|---:|---:|---:| | Llama 3.2 1B | 1B | 1 Go | 1 Go | 1.5 Go | | Llama 3.2 3B | 3B | 2 Go | 2.5 Go | 3 Go | | Llama 3.1 8B | 8B | 5 Go | 6 Go | 7 Go | | Mistral 7B | 7B | 4.5 Go | 5.5 Go | 6.5 Go | | Llama 3.1 13B | 13B | 8 Go | 9.5 Go | 11 Go | | Qwen 2.5 14B | 14B | 8.5 Go | 10 Go | 12 Go | | DeepSeek R1 14B | 14B | 8.5 Go | 10 Go | 12 Go | | Qwen 2.5 32B | 32B | 19 Go | 22 Go | 26 Go | | DeepSeek R1 32B | 32B | 19 Go | 22 Go | 26 Go | | Llama 3.3 70B | 70B | 40 Go | 47 Go | 56 Go |

Ajoute 1-3 Go extra pour le contexte (dépend de la longueur).

RTX 4060 mobile (8 Go) — entry-level inférence

Modèles qu'elle gère confortablement : Llama 3.2 3B, Llama 8B Q4, Mistral 7B Q5, Qwen 7B.

Tokens/s typiques : 25-40 t/s sur Llama 8B Q4.

Ne fait pas tourner : rien au-dessus de 8B sans offload vers la RAM (chute brutale de vitesse).

RTX 4070 / 4070 Ti mobile (8 Go) — mainstream

Même quantité de VRAM que la 4060 mais plus de compute. Améliore le throughput de 30-40% sur les mêmes modèles. Cependant, toujours limité aux modèles jusqu'à 8B sans offload.

Si tu vas faire de l'IA locale, la 4060 est meilleur rapport qualité-prix que la 4070 à VRAM égale, sauf si tu joues aussi beaucoup.

RTX 4080 / 4080 Super mobile (12 Go) — mainstream sérieux

Là tu entres en territoire intéressant. Couvre Llama 13B en Q5/Q6 confortable, Qwen 14B Q5, modèles de vision, Stable Diffusion XL avec LoRAs.

Tokens/s typiques : 20-30 t/s sur Llama 13B Q4, 12-18 t/s sur Llama 13B Q5.

RTX 5070 / 5070 Ti mobile (12 Go) — refresh 2025

Même VRAM que 4080, meilleure efficacité et support GDDR7. Pour l'IA locale basiquement équivalente à RTX 4080 mais meilleure autonomie sous charge.

RTX 5080 mobile (16 Go) — high-end

Là tu es sérieux. Couvre les modèles 13B en Q6/Q8, Llama 30B Q4 avec offload minimal, fine-tuning léger avec LoRA, SDXL avec contrôles multiples.

Tokens/s : 30-50 t/s sur Llama 13B Q4, 8-12 t/s sur Llama 30B Q4.

RTX 5090 mobile (24 Go) — top de gamme

Le maximum en portable. Fait tourner Llama 30B en Q5/Q6 confortable, modèles 70B avec offload modéré vers la RAM.

Prix typique en portable : 3 500-5 500 €.

RTX A6000 / RTX Pro 6000 — workstation

Lignes pro avec 48 Go de VRAM. Uniquement sur workstations desktop ou portables Dell Precision / HP ZBook à 6 000+ €. Pour un usage domestique pas pertinent.

Throughput attendu par modèle

Tokens par seconde en conditions typiques (GPU à 100%, contexte moyen) :

| GPU | Llama 8B Q4 | Llama 13B Q4 | Llama 30B Q4 | |---|---:|---:|---:| | RTX 4060 | 30 t/s | avec offload | inviable | | RTX 4070 | 40 t/s | 18 t/s offload | inviable | | RTX 4080 | 50 t/s | 25 t/s | avec offload | | RTX 5070 | 55 t/s | 30 t/s | avec offload | | RTX 5080 | 70 t/s | 40 t/s | 10 t/s | | RTX 5090 | 90 t/s | 55 t/s | 20 t/s |

Pour référence : une lecture humaine confortable est 5-8 tokens/s. Au-dessus, le texte apparaît plus vite que tu peux lire.

Alternatives à NVIDIA

Apple Silicon (Mac M5 Pro/Max)

Avantage clé : unified memory. Ce qui en NVIDIA serait 64 Go de VRAM (impossible en portable), en M5 Max c'est simplement "64 Go de RAM totale". Permet de faire tourner Llama 70B Q4 en portable.

Pénalité : vitesse brute par token 20-40% inférieure à NVIDIA équivalent. Mais le throughput reste utilisable.

Snapdragon X2 Elite (NPU)

80 TOPS de NPU. Couvre les petits modèles (3B-7B) avec bonne autonomie. Pour casual et mobile, parfait. Pour sérieux, court.

AMD Radeon RX 7800S / 7900M

Compatibles avec ROCm mais écosystème logiciel immature face à CUDA. Si tu en as déjà une et tu veux expérimenter, ça marche. Pour acheter neuf, NVIDIA gagne en facilité.

Recommandation finale

Questions fréquentes

RTX 4090 mobile (16 Go) ça vaut le coup quand existe RTX 5080 (16 Go) ? Même VRAM, la 5080 amène GDDR7 et meilleure efficacité. Préfère 5080 sauf si la 4090 est significativement moins chère.

Je peux combiner deux RTX en portable pour plus de VRAM ? Non. Les portables ne supportent pas multi-GPU. Uniquement desktops avec NVLink.

RTX 5060 mobile (quand elle sortira) sera-t-elle meilleure que 4060 ? Probablement oui en efficacité et un peu en throughput. Mais restera avec 8 Go VRAM, donc même plafond de modèles.

Il me faut CUDA ou DirectML / Vulkan marchent aussi ? CUDA est 2-5x plus rapide pour les LLM. DirectML existe mais est très en retrait. Pour sérieux, NVIDIA + CUDA.

Quel portable spécifique te convient ?

Donne au conseiller IA les modèles que tu veux faire tourner (Llama 70B, DeepSeek R1, Qwen 32B...) et ton budget. Tu sauras le portable avec la RTX spécifique qu'il te faut et le throughput attendu.

Encore des doutes ? Donne ton usage et ton budget au conseiller IA et tu obtiendras une recommandation précise avec marques et modèles actuels.

🤖 Parler au conseiller IA

Ça pourrait aussi t'intéresser