← Retour au blog
LLM Open-source Privacy 28 mars 2026 · 8 min de lecture

Faire tourner des LLM en local en 2026 : guide complet avec Ollama

Vous en avez marre de payer pour ChatGPT chaque mois ? Ou de voir vos données d'entreprise partir dans les serveurs d'OpenAI ? En 2026, faire tourner un LLM puissant sur votre propre machine est devenu accessible à tous.

Pourquoi faire tourner un LLM en local ?

  • Confidentialité totale — vos données ne quittent pas votre machine
  • 0€/mois — pas d'abonnement, pas de facturation à l'usage
  • Disponible hors-ligne — ça marche même sans internet
  • Personnalisable — vous contrôlez le modèle, les paramètres, tout

Le seul bémol : il faut du hardware. Mais vous êtes probablement surpris par ce que vous avez déjà.

Configuration minimale recommandée

UsageRAMGPU VRAMModèles supportés
Basique8 Go—Phi-3 Mini, Gemma 2B
Confortable16 Go6 GoLlama 3.1 8B, Mistral 7B
Pro32 Go12 GoLlama 3.3 70B Q4, Qwen 72B

Sans GPU ? Pas de panique — les modèles en CPU-only sont lents mais fonctionnels pour la plupart des usages.

Ollama — l'outil incontournable

Ollama est devenu le standard pour faire tourner des LLM en local. C'est simple, rapide, et ça marche sur Mac, Linux, et Windows.

Installation

# Linux / Mac
curl -fsSL https://ollama.ai/install.sh | sh

# Windows : télécharger l'installeur sur ollama.ai

Premier modèle

# Télécharger et lancer Llama 3.1 8B (4.7 Go)
ollama run llama3.1

# Ou le plus léger Phi-3 Mini (2.3 Go)
ollama run phi3:mini

C'est tout. Ollama télécharge le modèle et ouvre un chat directement dans le terminal.

Les meilleurs modèles en 2026

Pour la rédaction et le chat général

Llama 3.3 70B (Meta) — Le meilleur open-source toutes catégories. Nécessite 40+ Go de VRAM ou 64 Go RAM en CPU.

Mistral Small 3.1 — Excellent rapport qualité/taille. 24B paramètres, tourne sur 16 Go RAM.

Pour le code

DeepSeek Coder V2 — Meilleur que GPT-4 pour le code selon plusieurs benchmarks. Version 16B accessible avec 16 Go RAM.

Qwen2.5 Coder 7B — Plus léger, excellent pour la completion de code au quotidien.

Pour les petites configs

Phi-3.5 Mini (3.8B) — Microsoft a fait un miracle ici. Qualité surprenante pour sa taille.

Gemma 2 2B — Idéal pour des usages simples sur machine peu puissante.

Open WebUI — l'interface ChatGPT pour votre Ollama

Le terminal c'est bien, mais une interface web c'est mieux.

# Avec Docker
docker run -d -p 3000:8080 \
  -v open-webui:/app/backend/data \
  -e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
  --name open-webui ghcr.io/open-webui/open-webui:main

Accédez à http://localhost:3000 — vous avez votre propre ChatGPT privé.

Cas d'usage pratiques

Assistant de développement local

ollama run deepseek-coder-v2:16b

"Explique ce code", "Génère des tests unitaires", "Refactor cette fonction" — tout ça tourne en local.

Résumé de documents confidentiels

Vous avez un contrat NDA à analyser ? Un rapport interne à résumer ? Chargez-le dans Open WebUI, votre LLM le traite sans que rien ne parte sur internet.

Génération de contenu

Avec les bons prompts, Llama 3.3 70B produit des textes de qualité professionnelle. C'est ce que j'utilise pour dégrossir mes articles avant révision manuelle.

Performance réelle sur différentes configs

MachineModèleVitesseVerdict
MacBook Pro M2 (16 Go)Llama 3.1 8B~25 tok/s✅ Confortable
PC Linux + RTX 3060 12 GoMistral 7B~45 tok/s✅✅ Excellent
PC Linux, i5, 8 Go RAM, no GPUPhi-3 Mini~8 tok/s⚠️ Lent mais ok

Pour aller plus loin

  • LM Studio — alternative graphique à Ollama, parfaite pour ceux qui préfèrent les interfaces visuelles
  • Jan — client desktop avec interface soignée
  • AnythingLLM — RAG (retrieval-augmented generation) sur vos propres documents

Vous avez des questions sur votre configuration spécifique ? Décrivez votre machine en commentaire, je vous dis quels modèles sont adaptés.

Lire aussi