Ollama requisitos mínimos en 2026: hardware necesario para correr LLMs locales
Ollama es la forma más sencilla de correr LLMs locales en 2026. Un solo comando descarga e instala el modelo, una API REST disponible inmediatamente, y soporte multiplataforma decente. Pero "instalar Ollama" no significa "correr Llama 70B sin sufrir". El hardware sigue importando enormemente. Esta guía te dice exactamente qué necesitas según los modelos que vayas a usar.
Qué es Ollama
Ollama es un runtime de código abierto para LLMs locales basado en llama.cpp. Maneja descarga, cuantización, contexto y serving en un solo binario. Soporta Mac, Windows, Linux y, en 2026, también Snapdragon X2 vía build ARM nativa.
Su ventaja sobre llama.cpp puro es la abstracción: no tocas archivos GGUF directamente, no compilas con CUDA flags, no peleas con dependencias. ollama run llama3.1 y ya tienes un modelo respondiendo.
Requisitos mínimos por sistema operativo
Windows
- SO: Windows 10 22H2 o Windows 11.
- RAM: 8 GB mínimo, 16 GB recomendado.
- GPU: opcional. NVIDIA con CUDA 12+ acelera enormemente. AMD con ROCm experimental.
- Espacio en disco: 5 GB para Ollama + el tamaño de los modelos (2-50 GB cada uno).
macOS
- SO: macOS 12 (Monterey) o superior. Recomendado 14+.
- Apple Silicon: M1 o superior. M5 ideal.
- RAM (unified): 8 GB mínimo, 16 GB recomendado, 32 GB+ para modelos 13B-30B.
- Espacio en disco: 5 GB + modelos.
Linux
- Kernel: 5.10 o superior.
- RAM: 8 GB mínimo, 16 GB recomendado.
- GPU: NVIDIA recomendada con drivers oficiales y CUDA 12+.
- Espacio en disco: 5 GB + modelos.
Hardware por modelo en Ollama
Modelos pequeños — Llama 3.2 1B, 3B, Phi-3 mini, Qwen 2.5 1.5B
- RAM mínima: 8 GB.
- VRAM (opcional): 2-3 GB para aceleración.
- Throughput sin GPU: 15-30 tokens/s en CPU moderna.
Estos modelos sirven para autocompletar, clasificación, traducción simple, generación de tags. Calidad inferior a ChatGPT-3.5 pero rápidos y baratos de correr.
Modelos medianos — Llama 3.1 8B, Mistral 7B, Qwen 2.5 7B
- RAM mínima: 16 GB.
- VRAM ideal: 6 GB (Q4_K_M) o más.
- Throughput con RTX 4060: 25-40 tokens/s.
- Throughput solo CPU (Intel Core Ultra 7): 4-7 tokens/s.
Sweet spot para uso diario en portátil. Calidad cercana a ChatGPT-3.5 en tareas comunes.
Modelos grandes — Llama 3.1 13B, Qwen 2.5 14B, DeepSeek R1 14B
- RAM mínima: 32 GB.
- VRAM ideal: 8-10 GB (Q4) o 11-12 GB (Q5).
- Throughput con RTX 4080: 25-35 tokens/s.
Calidad notable, se acerca a GPT-4 mini en muchas tareas. Detalle en nuestra guía cuánta RAM para ChatGPT local.
Modelos extra grandes — Qwen 32B, DeepSeek R1 32B, Llama 3.3 30B
- RAM mínima: 48 GB.
- VRAM ideal: 18-20 GB.
- Throughput con RTX 5080: 10-15 tokens/s.
En portátil solo viable con RTX 5080+ o Mac M5 Pro/Max.
Modelos masivos — Llama 3.3 70B, DeepSeek R1 70B
- RAM mínima: 64 GB.
- VRAM ideal: 40+ GB (offload necesario en portátil consumer).
- En Mac M5 Max 96 GB unified: 8-15 tokens/s.
- En PC con RTX 5090 (24 GB) + 64 GB RAM: 2-6 tokens/s.
Calidad seria. Sustituye GPT-4 en muchas tareas. Limitación: lentitud salvo en hardware muy potente.
Setup en GPU vs CPU only
GPU NVIDIA con CUDA
Ollama detecta automáticamente la GPU y la usa. Para modelos que caben en VRAM, throughput es 5-10x mayor que CPU only.
Para verificar que Ollama usa GPU:
``bash ollama run llama3.1 ``
Mientras genera, abre otra terminal:
``bash nvidia-smi ``
Deberías ver ollama usando la GPU al 80-100%.
CPU only
Funciona pero limitado. Para modelos hasta 7B en Q4 es usable (4-10 tokens/s). Para 13B+ sin GPU, la experiencia es inviable salvo para batch processing.
Apple Silicon
Ollama corre nativo en Metal (la API gráfica de Apple). Aprovecha la unified memory: lo que importa es la RAM total, no hay distinción VRAM/RAM. Funciona excelente y es el setup más simple sin GPU dedicada.
Optimizaciones útiles
Cuantización
Ollama usa Q4_K_M por defecto en la mayoría de modelos. Para más calidad: ollama pull llama3.1:8b-instruct-q5_K_M. Para menos memoria: q3_K_M (no recomendado, calidad cae).
Tamaño de contexto
Por defecto Ollama usa el contexto del modelo (4K-128K según modelo). Reducirlo ahorra RAM:
``bash OLLAMA_NUM_CTX=4096 ollama run llama3.1 ``
Mantener el modelo cargado
Por defecto Ollama descarga el modelo de RAM después de 5 minutos sin uso. Para uso interactivo, fija el keepalive:
``bash OLLAMA_KEEP_ALIVE=24h ``
Comparación con LM Studio y llama.cpp
- Ollama: el más fácil. Bueno para desarrolladores que quieren API REST inmediata. Limitado en personalización avanzada.
- LM Studio: GUI bonita, ideal para usuarios no-CLI. Más visual, menos automatizable.
- llama.cpp: el más flexible. Control total, pero requiere compilación y CLI complicada. Para producción seria o investigación.
- vLLM: alta performance para serving. Para production deployments, no para uso individual.
Para el 80% de los casos, Ollama es lo que recomendamos.
Recomendaciones prácticas por presupuesto
- Probar Ollama sin gastar: cualquier portátil con 16 GB de RAM. Modelos hasta 8B en Q4. Aceptable.
- Uso diario cómodo: portátil con RTX 4060 + 32 GB. Modelos 8B-13B fluidos. Ver qué portátil para IA local.
- Profesional: portátil con RTX 5080 + 64 GB o MacBook Pro M5 Max + 48-96 GB. Modelos 30B-70B viables.
Preguntas frecuentes
¿Ollama funciona sin GPU? Sí, pero modelos grandes son muy lentos. Para 7B sin GPU, 5-10 tokens/s. Para 13B, prácticamente inviable interactivamente.
¿Cuánto espacio en disco necesito? Cada modelo pesa 1-50 GB cuantizado. Si experimentas con varios, vas a llenar 100-200 GB rápido. Mínimo 256 GB libres recomendado, idealmente 1 TB.
¿Ollama envía datos a la nube? No. Todo se procesa localmente. Es uno de los principales atractivos para uso con datos sensibles.
¿Puedo usar Ollama con Open WebUI o similar? Sí. Ollama expone una API compatible con OpenAI. Open WebUI, LibreChat, AnythingLLM, todos funcionan con él.
¿Cómo actualizo modelos en Ollama? ollama pull descarga la versión más reciente. Los pesos se sobrescriben.
¿Quieres saber qué portátil específico te sirve para Ollama?
Cuéntale al asesor IA qué modelos vas a correr y tu presupuesto. Te recomienda el portátil concreto con la VRAM y RAM que necesitas, y el throughput esperado.