Cuánta RAM necesito para correr ChatGPT local en 2026
Correr un LLM local equivalente a ChatGPT en tu portátil es perfectamente posible en 2026, pero la pregunta "cuánta RAM necesito" depende fuertemente de qué modelo, qué cuantización y qué plataforma. La respuesta corta: 16 GB para arrancar con modelos 7B, 32 GB para uso cómodo, 64 GB para modelos serios tipo Llama 70B o DeepSeek R1 grandes. La respuesta larga es lo que viene abajo.
Por qué la RAM es crítica para LLMs locales
Un LLM cargado en memoria ocupa espacio proporcional a sus parámetros y su precisión. Un modelo 7B en precisión completa (FP16) pesa unos 14 GB; cuantizado a Q4 baja a 4-5 GB. Pero además del modelo necesitas:
- Espacio para el contexto (8K-128K tokens consumen 1-8 GB extra según el modelo).
- Buffer para inferencia.
- RAM para el sistema operativo y otras aplicaciones.
Regla general: necesitas el tamaño del modelo cuantizado + 4-6 GB de margen disponibles en RAM.
Tamaños de modelos y RAM mínima
Modelos pequeños (1B-3B parámetros)
Ejemplos: Llama 3.2 1B y 3B, Phi-3 mini, Qwen 2.5 1.5B.
- Tamaño FP16: 2-6 GB
- Tamaño Q4: 1-2 GB
- RAM mínima del sistema: 8 GB
- RAM cómoda: 16 GB
Estos modelos sirven para autocompletar, clasificación, resúmenes cortos. Calidad bastante por debajo de ChatGPT-4 pero usables.
Modelos medianos (7B-8B)
Ejemplos: Llama 3.1 8B, Mistral 7B, DeepSeek R1 7B, Qwen 2.5 7B.
- Tamaño FP16: 14-16 GB
- Tamaño Q4: 4-5 GB
- RAM mínima del sistema: 16 GB
- RAM cómoda: 32 GB
Aquí ya tienes algo razonablemente cercano a ChatGPT-3.5. Para uso diario en portátil este es el sweet spot.
Modelos grandes (13B-14B)
Ejemplos: Llama 3.1 13B, DeepSeek R1 14B.
- Tamaño FP16: 26-28 GB
- Tamaño Q4: 7-8 GB
- RAM mínima del sistema: 32 GB
- RAM cómoda: 48-64 GB
Calidad notable, se acerca a GPT-4 mini en tareas comunes. Buen punto de entrada para uso profesional.
Modelos extra grandes (30B-32B)
Ejemplos: Qwen 2.5 32B, DeepSeek R1 32B, Llama 3.3 30B.
- Tamaño Q4: 18-19 GB
- RAM mínima del sistema: 48 GB
- RAM cómoda: 64 GB
Calidad de chat seria. Lento sin GPU dedicada potente.
Modelos masivos (70B+)
Ejemplos: Llama 3.3 70B, DeepSeek R1 70B.
- Tamaño Q4: ~40 GB
- RAM mínima del sistema: 64 GB
- RAM cómoda: 96-128 GB
En portátil, solo viable con Mac M5 Max + 64-128 GB unified memory. En PC normal con GPU dedicada necesitarías 2x RTX 4090 (no cabe en portátil).
Cuantización: lo que más afecta
La cuantización reduce la precisión de los pesos del modelo para ahorrar memoria. Tipos comunes en GGUF (formato de Ollama, llama.cpp):
- Q2_K: Casi inutilizable, pérdida de calidad grande. Ignóralo.
- Q4_K_M: Sweet spot. ~75% del tamaño FP16, pérdida de calidad mínima en tareas comunes.
- Q5_K_M: 30% más memoria que Q4, calidad ligeramente mejor.
- Q6_K: 50% más memoria que Q4, muy cerca de FP16.
- Q8_0: Casi sin pérdida, ocupa ~50% del FP16.
- FP16/BF16: Precisión completa, mejor calidad, mayor consumo.
Recomendación práctica: empieza con Q4_K_M. Si la calidad no te convence, sube a Q5. Para tareas críticas (código, matemáticas) considera Q6 o Q8.
Unified memory en Apple Silicon
Una de las grandes ventajas de Mac M5 para LLMs locales: la RAM se reparte dinámicamente entre CPU y GPU. Lo que en un PC normal sería "necesito X GB VRAM en mi GPU", en Mac es "necesito X GB libres en la RAM total".
Esto permite escenarios impensables en PC portátil:
- MacBook Pro M5 Max 96 GB: Llama 70B Q5 sin offload.
- MacBook Pro M5 Pro 36 GB: Qwen 32B Q4 cómodo.
- MacBook Air M5 24 GB: Llama 13B Q4 viable.
Penalización: velocidad pura por token suele ser 20-40% menor que una RTX equivalente en VRAM, pero en portátil esto rara vez importa porque el throughput sigue siendo usable (5-20 tokens/s).
VRAM dedicada vs RAM del sistema
En PC Windows/Linux con NVIDIA, prefieres que el modelo entero quepa en VRAM. Si parte queda en RAM (offload), la velocidad cae 5-10x.
Reglas:
- Modelo en VRAM completa: rápido (20-100 tokens/s).
- 70-80% en VRAM, resto en RAM: aceptable (10-20 tokens/s).
- Menos del 50% en VRAM: muy lento (1-5 tokens/s), básicamente CPU-only.
Más detalle sobre selección de GPU en nuestra guía qué RTX usar para LLMs.
Recomendaciones prácticas por presupuesto
- Quiero probar IA local sin gastar: portátil que ya tienes con al menos 16 GB. Modelos Llama 3.2 3B o Phi-3 mini. Calidad limitada pero rueda.
- Uso diario de chat tipo ChatGPT-3.5: 32 GB RAM + RTX 4060 8 GB. Modelos 7B en Q4-Q5.
- Sustituir ChatGPT-4 para tareas profesionales: 64 GB RAM + RTX 4080/5080 12-16 GB. Modelos 13B-30B.
- Investigación con modelos grandes: MacBook Pro M5 Max 96 GB o desktop con 2x RTX 4090. Modelos 70B+.
Preguntas frecuentes
¿Puedo correr LLMs con solo 8 GB de RAM? Sí, pero limitado a modelos 1B-3B. La experiencia es muy inferior a ChatGPT y solo sirve para casos de uso específicos (autocompletar, clasificación).
¿Cuánta RAM para mantener contexto largo? El contexto consume RAM extra. Modelos 7B con 32K tokens de contexto necesitan ~2-3 GB extra. Modelos 70B con 128K tokens consumen ~10 GB extra.
¿Mejor RAM rápida (DDR5-6400) o más cantidad (DDR5-5600)? Para LLMs, prioriza cantidad. La diferencia de velocidad entre DDR5-5600 y 6400 es del 5-10% en inference. Pasar de 32 a 64 GB te abre todo un mercado de modelos.
¿Influye la cuantización en la calidad de respuesta? Sí, pero poco. Q4_K_M pierde entre 1-3% en benchmarks frente a FP16. En uso real apenas se nota salvo en tareas de razonamiento muy complejo.
¿Aún no sabes qué setup necesitas?
Cuéntale al asesor IA qué modelos quieres correr (DeepSeek R1, Llama 70B, Qwen 32B...) y tu presupuesto. Te dice el portátil específico que los soporta.