Que RTX para executar LLMs em 2026: comparativo por modelo
A NVIDIA domina o mercado de inferência local de LLMs em 2026, principalmente pelo seu ecossistema CUDA maduro e pela quantidade enorme de VRAM disponível mesmo em GPUs móveis. Mas escolher a RTX errada pode deixar-te incapaz de executar o LLM que querias. Este guia diz-te que RTX específica corresponde a cada tamanho de modelo, que throughput esperar, e quando Apple Silicon é alternativa válida.
Porque a NVIDIA domina a inferência local
Três motivos:
- CUDA: o framework de aceleração GPU mais maduro. Ferramentas como llama.cpp, vLLM, exllamav2, tabbyAPI estão optimizadas para ele.
- VRAM disponível: as RTX consumer chegam a 24 GB (4090), 32 GB (5090 desktop) ou mais em linha Pro. AMD e Intel costumam ficar pelos 16 GB.
- Throughput: a arquitectura Tensor Cores acelera operações de IA especificamente. Uma RTX 4070 é 4-5x mais rápida que o seu equivalente CPU.
VRAM mínima por tamanho de LLM
Regra prática para modelos quantizados em Q4_K_M:
| Modelo | Parâmetros | VRAM Q4 | VRAM Q5 | VRAM Q6 | |---|---:|---:|---:|---:| | Llama 3.2 1B | 1B | 1 GB | 1 GB | 1.5 GB | | Llama 3.2 3B | 3B | 2 GB | 2.5 GB | 3 GB | | Llama 3.1 8B | 8B | 5 GB | 6 GB | 7 GB | | Mistral 7B | 7B | 4.5 GB | 5.5 GB | 6.5 GB | | Llama 3.1 13B | 13B | 8 GB | 9.5 GB | 11 GB | | Qwen 2.5 14B | 14B | 8.5 GB | 10 GB | 12 GB | | DeepSeek R1 14B | 14B | 8.5 GB | 10 GB | 12 GB | | Qwen 2.5 32B | 32B | 19 GB | 22 GB | 26 GB | | DeepSeek R1 32B | 32B | 19 GB | 22 GB | 26 GB | | Llama 3.3 70B | 70B | 40 GB | 47 GB | 56 GB |
Soma 1-3 GB extra para contexto (depende do comprimento).
RTX 4060 móvel (8 GB) — inferência de entrada
- VRAM: 8 GB GDDR6
- TGP: 75-140 W conforme portátil
- Preço típico em portátil: 1 000-1 400 €
Modelos que executa confortáveis: Llama 3.2 3B, Llama 8B Q4, Mistral 7B Q5, Qwen 7B.
Tokens/s típicos: 25-40 t/s em Llama 8B Q4.
Não executa: nada acima de 8B sem offload para RAM (queda brutal de velocidade).
RTX 4070 / 4070 Ti móvel (8 GB) — mainstream
- VRAM: 8 GB GDDR6
- TGP: 80-140 W
Mesma quantidade de VRAM que a 4060 mas mais compute. Melhora o throughput em 30-40% nos mesmos modelos. Mas continua limitada a modelos até 8B sem offload.
Se vais fazer IA local, a 4060 oferece melhor relação preço-qualidade que a 4070 a VRAM igual, excepto se também jogares muito.
RTX 4080 / 4080 Super móvel (12 GB) — mainstream sério
- VRAM: 12 GB GDDR6
- TGP: 100-175 W
Aqui entras em território interessante. Cobre Llama 13B em Q5/Q6 confortável, Qwen 14B Q5, modelos de visão, Stable Diffusion XL com LoRAs.
Tokens/s típicos: 20-30 t/s em Llama 13B Q4, 12-18 t/s em Llama 13B Q5.
RTX 5070 / 5070 Ti móvel (12 GB) — refresh 2025
- VRAM: 12 GB GDDR7
- TGP: 90-150 W
Mesma VRAM que a 4080, melhor eficiência e suporte GDDR7. Para IA local basicamente equivalente à RTX 4080 mas melhor autonomia sob carga.
RTX 5080 móvel (16 GB) — high-end
- VRAM: 16 GB GDDR7
- TGP: 100-175 W
Aqui é a sério. Cobre modelos 13B em Q6/Q8, Llama 30B Q4 com offload mínimo, fine-tuning leve com LoRA, SDXL com múltiplos controlos.
Tokens/s: 30-50 t/s em Llama 13B Q4, 8-12 t/s em Llama 30B Q4.
RTX 5090 móvel (24 GB) — topo de gama
- VRAM: 24 GB GDDR7
- TGP: 120-175 W
O máximo em portátil. Executa Llama 30B em Q5/Q6 confortável, modelos 70B com offload moderado para RAM.
Preço típico em portátil: 3 500-5 500 €.
RTX A6000 / RTX Pro 6000 — workstation
Linhas profissionais com 48 GB de VRAM. Só em workstations desktop ou portáteis Dell Precision / HP ZBook acima dos 6 000 €. Para uso doméstico não é relevante.
Throughput esperado por modelo
Tokens por segundo em condições típicas (GPU a 100%, contexto médio):
| GPU | Llama 8B Q4 | Llama 13B Q4 | Llama 30B Q4 | |---|---:|---:|---:| | RTX 4060 | 30 t/s | com offload | inviável | | RTX 4070 | 40 t/s | 18 t/s offload | inviável | | RTX 4080 | 50 t/s | 25 t/s | com offload | | RTX 5070 | 55 t/s | 30 t/s | com offload | | RTX 5080 | 70 t/s | 40 t/s | 10 t/s | | RTX 5090 | 90 t/s | 55 t/s | 20 t/s |
Para referência: leitura humana confortável são 5-8 tokens/s. Acima disso, o texto aparece mais rápido do que consegues ler.
Alternativas à NVIDIA
Apple Silicon (Mac M5 Pro/Max)
Vantagem chave: unified memory. O que em NVIDIA seriam 64 GB de VRAM (impossível em portátil), no M5 Max são simplesmente "64 GB de RAM total". Permite executar Llama 70B Q4 em portátil.
Penalização: velocidade bruta por token 20-40% inferior a NVIDIA equivalente. Mas o throughput continua utilizável.
Snapdragon X2 Elite (NPU)
80 TOPS de NPU. Cobre modelos pequenos (3B-7B) com boa autonomia. Para casual e mobilidade, perfeito. Para algo sério, fica curto.
AMD Radeon RX 7800S / 7900M
Compatíveis com ROCm mas o ecossistema software é imaturo face a CUDA. Se já tens uma e queres experimentar, funciona. Para comprar novo, NVIDIA ganha em facilidade.
Recomendação final
- Testar IA local sem gastar muito: RTX 4060 móvel em portátil ~1 300 €. Cobre 80% dos casos.
- Uso diário sério: RTX 4080 / 5070 móvel + 32 GB RAM. ~2 000-2 500 €. Setup que cobre modelos 13B com qualidade.
- Modelos grandes em portátil: MacBook Pro M5 Max com 64-96 GB. ~3 500-5 000 €.
- Profissional / fine-tuning: desktop com RTX 5090 + 64 GB RAM, não portátil.
Perguntas frequentes
RTX 4090 móvel (16 GB) vale a pena se existe RTX 5080 (16 GB)? Mesma VRAM, a 5080 traz GDDR7 e melhor eficiência. Prefere 5080 excepto se a 4090 estiver significativamente mais barata.
Posso combinar duas RTX em portátil para mais VRAM? Não. Portáteis não suportam multi-GPU. Apenas desktops com NVLink.
A RTX 5060 móvel (quando sair) será melhor que a 4060? Provavelmente sim em eficiência e algo em throughput. Mas continuará com 8 GB VRAM, portanto mesmo tecto de modelos.
Preciso de CUDA ou DirectML / Vulkan também funcionam? CUDA é 2-5x mais rápida para LLMs. DirectML existe mas está muito atrás. Para uso sério, NVIDIA + CUDA.
Que portátil específico te serve?
Dá ao assessor IA os modelos que queres executar (Llama 70B, DeepSeek R1, Qwen 32B...) e o teu orçamento. Saberás o portátil concreto com a RTX específica necessária e o throughput esperado.