Ollama configuration minimale 2026 : matériel nécessaire pour LLM locaux

Ollama est la façon la plus simple de faire tourner des LLM locaux en 2026. Une seule commande télécharge et installe le modèle, une API REST disponible immédiatement, et un support multiplateforme correct. Mais "installer Ollama" ne veut pas dire "faire tourner Llama 70B sans souffrir". Le matériel compte toujours énormément. Ce guide te dit exactement ce qu'il te faut selon les modèles que tu vas utiliser.

C'est quoi Ollama

Ollama est un runtime open-source pour LLM locaux basé sur llama.cpp. Il gère téléchargement, quantification, contexte et serving dans un seul binaire. Supporte Mac, Windows, Linux et, en 2026, aussi Snapdragon X2 via build ARM natif.

Son avantage sur llama.cpp pur est l'abstraction : tu ne touches pas aux fichiers GGUF directement, ne compiles pas avec des flags CUDA, ne te bats pas avec les dépendances. ollama run llama3.1 et tu as un modèle qui répond.

Configuration minimale par OS

Windows

• OS : Windows 10 22H2 ou Windows 11.
• RAM : 8 Go minimum, 16 Go recommandé.
• GPU : optionnel. NVIDIA avec CUDA 12+ accélère énormément. AMD avec ROCm expérimental.
• Espace disque : 5 Go pour Ollama + la taille des modèles (2-50 Go chacun).

macOS

• OS : macOS 12 (Monterey) ou supérieur. Recommandé 14+.
• Apple Silicon : M1 ou supérieur. M5 idéal.
• RAM (unified) : 8 Go minimum, 16 Go recommandé, 32 Go+ pour modèles 13B-30B.
• Espace disque : 5 Go + modèles.

Linux

• Kernel : 5.10 ou supérieur.
• RAM : 8 Go minimum, 16 Go recommandé.
• GPU : NVIDIA recommandé avec drivers officiels et CUDA 12+.
• Espace disque : 5 Go + modèles.

Matériel par modèle dans Ollama

Petits modèles — Llama 3.2 1B, 3B, Phi-3 mini, Qwen 2.5 1.5B

• RAM minimum : 8 Go.
• VRAM (optionnelle) : 2-3 Go pour accélération.
• Throughput sans GPU : 15-30 tokens/s sur CPU moderne.

Ces modèles servent pour l'autocomplete, classification, traduction simple, génération de tags. Qualité inférieure à ChatGPT-3.5 mais rapides et pas cher à faire tourner.

Modèles moyens — Llama 3.1 8B, Mistral 7B, Qwen 2.5 7B

• RAM minimum : 16 Go.
• VRAM idéale : 6 Go (Q4_K_M) ou plus.
• Throughput avec RTX 4060 : 25-40 tokens/s.
• Throughput CPU only (Intel Core Ultra 7) : 4-7 tokens/s.

Sweet spot pour usage quotidien sur portable. Qualité proche de ChatGPT-3.5 sur les tâches courantes.

Gros modèles — Llama 3.1 13B, Qwen 2.5 14B, DeepSeek R1 14B

• RAM minimum : 32 Go.
• VRAM idéale : 8-10 Go (Q4) ou 11-12 Go (Q5).
• Throughput avec RTX 4080 : 25-35 tokens/s.

Qualité notable, se rapproche de GPT-4 mini sur de nombreuses tâches. Détail dans notre guide combien de RAM pour ChatGPT local.

Extra-larges — Qwen 32B, DeepSeek R1 32B, Llama 3.3 30B

• RAM minimum : 48 Go.
• VRAM idéale : 18-20 Go.
• Throughput avec RTX 5080 : 10-15 tokens/s.

En portable uniquement viable avec RTX 5080+ ou Mac M5 Pro/Max.

Massifs — Llama 3.3 70B, DeepSeek R1 70B

• RAM minimum : 64 Go.
• VRAM idéale : 40+ Go (offload nécessaire en portable consumer).
• Sur Mac M5 Max 96 Go unified : 8-15 tokens/s.
• Sur PC avec RTX 5090 (24 Go) + 64 Go RAM : 2-6 tokens/s.

Qualité sérieuse. Remplace GPT-4 sur de nombreuses tâches. Limite : lenteur sauf matériel très puissant.

Setup GPU vs CPU only

GPU NVIDIA avec CUDA

Ollama détecte automatiquement le GPU et l'utilise. Pour modèles qui rentrent en VRAM, throughput 5-10x supérieur à CPU only.

Pour vérifier qu'Ollama utilise le GPU :

``bash ollama run llama3.1 ``

Pendant qu'il génère, ouvre un autre terminal :

``bash nvidia-smi ``

Tu devrais voir ollama utiliser le GPU à 80-100%.

CPU only

Marche mais limité. Pour modèles jusqu'à 7B en Q4 c'est utilisable (4-10 tokens/s). Pour 13B+ sans GPU, l'expérience est inviable sauf pour batch processing.

Apple Silicon

Ollama tourne natif en Metal (l'API graphique d'Apple). Profite de la unified memory : ce qui compte c'est la RAM totale, pas de distinction VRAM/RAM. Marche excellemment et c'est le setup le plus simple sans GPU dédié.

Optimisations utiles

Quantification

Ollama utilise Q4_K_M par défaut sur la plupart des modèles. Pour plus de qualité : ollama pull llama3.1:8b-instruct-q5_K_M. Pour moins de mémoire : q3_K_M (pas recommandé, la qualité chute).

Taille de contexte

Par défaut Ollama utilise le contexte du modèle (4K-128K selon modèle). Le réduire économise de la RAM :

``bash OLLAMA_NUM_CTX=4096 ollama run llama3.1 ``

Garder le modèle chargé

Par défaut Ollama décharge le modèle de la RAM après 5 minutes sans usage. Pour usage interactif, fixe le keepalive :

``bash OLLAMA_KEEP_ALIVE=24h ``

Comparaison avec LM Studio et llama.cpp

• Ollama : le plus facile. Bon pour développeurs qui veulent API REST immédiate. Limité en personnalisation avancée.
• LM Studio : GUI sympa, idéal pour utilisateurs non-CLI. Plus visuel, moins automatisable.
• llama.cpp : le plus flexible. Contrôle total, mais nécessite compilation et CLI compliquée. Pour production sérieuse ou recherche.
• vLLM : haute performance pour serving. Pour déploiements production, pas pour usage individuel.

Pour 80% des cas, Ollama est ce qu'on recommande.

Recommandations pratiques par budget

• Tester Ollama sans dépenser : n'importe quel portable avec 16 Go de RAM. Modèles jusqu'à 8B en Q4. Acceptable.
• Usage quotidien confortable : portable avec RTX 4060 + 32 Go. Modèles 8B-13B fluides. Voir quel portable pour IA locale.
• Pro : portable avec RTX 5080 + 64 Go ou MacBook Pro M5 Max + 48-96 Go. Modèles 30B-70B viables.

Questions fréquentes

Ollama marche sans GPU ? Oui, mais les gros modèles sont très lents. Pour 7B sans GPU, 5-10 tokens/s. Pour 13B, pratiquement inviable interactivement.

Combien d'espace disque il me faut ? Chaque modèle pèse 1-50 Go quantifié. Si tu expérimentes avec plusieurs, tu vas remplir 100-200 Go vite. Minimum 256 Go libres recommandé, idéalement 1 To.

Ollama envoie des données dans le cloud ? Non. Tout se traite localement. C'est l'un des principaux attraits pour usage avec données sensibles.

Je peux utiliser Ollama avec Open WebUI ou similaire ? Oui. Ollama expose une API compatible OpenAI. Open WebUI, LibreChat, AnythingLLM, tous marchent avec lui.

Comment je mets à jour les modèles dans Ollama ? ollama pull télécharge la version la plus récente. Les poids sont écrasés.

Tu veux savoir quel portable spécifique te sert pour Ollama ?

Donne au conseiller IA les modèles que tu vas faire tourner et ton budget. Tu auras le portable concret avec la VRAM et RAM qu'il te faut, et le throughput attendu.