Faire tourner un LLM local sur un VPS avec Ollama…

Installez Ollama sur un VPS, téléchargez Llama 3.2 ou Qwen 2.5 et exposez une API compatible OpenAI avec systemd. Chiffres RAM réalistes et ce qu'un VPS à 12 € peut vraiment faire tourner.

Pas besoin d’une ferme de GPU pour faire tourner un modèle de langage utile. Les petits modèles répondent vite sur CPU et gardent vos données sur votre propre serveur - ce guide fixe les attentes avec des chiffres réels.

1. Ce qui tient dans votre RAM

ModèleRAM requise (q4)Sur disqueVitesse sur CPU (mesurée)Idéal pour
qwen3:0.6b~1 GB~1 GBtrès rapideRoutage, classification, tests
llama3.2:3b~4 GB~2 GB~10–20 tokens/sChat, résumés, brouillons
qwen2.5:7b~8 GB~5 GB~4–8 tokens/sMeilleure qualité, encore utilisable
deepseek-r1:14b~16 GB~9 GBplus lentRaisonnement, réponses pas à pas
qwen3:32b~24–32 GB~20 GBbeaucoup plus lent sur CPUBrouillons de code en local, RAG
llama3.3:70b~64 GB~43 GBClasse GPU - pas pour un VPS CPUCharges lourdes sur une machine GPU

Les chiffres de RAM sont les minimums officiels d’Ollama pour des poids quantifiés en 4 bits ; la colonne disque indique la place réellement occupée par le fichier du modèle. Les vitesses proviennent de nos propres mesures CPU - le matériel est documenté sur la page des benchmarks. Soyez honnête avec vous-même : un modèle 7B sur CPU écrit plus lentement que vous ne lisez. Pour des bots de chat et du traitement par lots, c’est acceptable ; pour des assistants de code interactifs, non - gardez le modèle sur une offre de 8 Go et tout se passe sans histoire.

2. Installez Ollama

curl -fsSL https://ollama.com/install.sh | sh
systemctl enable --now ollama
ollama pull llama3.2:3b
ollama run llama3.2:3b "Say hello in one short sentence."

Les modèles sont stockés dans `/usr/share/ollama/.ollama/models` - quelques gigaoctets chacun, vérifiez donc l’espace disque libre avec `df -h` avant d’en télécharger plusieurs.

3. API compatible OpenAI

Ollama parle le format de l’API OpenAI sur le port 11434. Tout client qui accepte une URL de base personnalisée fonctionne :

curl http://127.0.0.1:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"llama3.2:3b","messages":[{"role":"user","content":"Hello"}]}'

4. Gardez-le privé

Ollama n’a pas d’authentification intégrée : quiconque peut atteindre le port 11434 peut télécharger et supprimer vos modèles et saturer le CPU. Ne l’exposez pas au monde entier. Gardez l’API sur localhost, ou placez-la derrière Caddy avec un jeton :

apt install -y caddy
cat > /etc/caddy/Caddyfile <<'EOF'
llm.example.com {
    @auth header Authorization "Bearer long-random-token"
    handle @auth {
        reverse_proxy 127.0.0.1:11434
    }
    respond 401
}
EOF
systemctl reload caddy

Pointez ensuite votre client vers `https://llm.example.com/v1` avec ce jeton.

5. Utilisez-le dans vos applications

Résumez des tickets de support dans Telegram. Classez les messages entrants. Générez des brouillons pour un bot. Calculez des embeddings pour un petit index de recherche. Tout reste sur votre serveur : pas de clés API, pas de facture au token, aucune donnée ne quitte la machine.

ollama ps     # what is loaded right now
ollama list   # downloaded models
journalctl -u ollama -f

6. Mises à jour, contexte et modèles populaires

Les modèles les plus téléchargés de 2026 sont DeepSeek-R1, Qwen 3 et gpt-oss - leurs petites variantes distillées tournent sur les mêmes offres que le tableau ci-dessus. La bibliothèque Ollama affiche la liste du jour. `ollama pull <tag>` télécharge un modèle, relancer le même pull le met à jour avec les derniers poids, et `ollama rm <tag>` rend l’espace disque.

Vérifiez votre version avec `ollama --version` ; les versions stables sont publiées sur la page des releases d’Ollama. Pour mettre à jour Ollama lui-même, relancez le script d’installation de la section 2 - systemd redémarre le service avec le nouveau binaire.

La longueur de contexte est le deuxième consommateur de RAM après le fichier du modèle : Ollama utilise 4k tokens par défaut et la mémoire croît avec contexte × requêtes parallèles. Les agents et assistants de code veulent 32k+, n’augmentez donc que si nécessaire :

ollama --version            # installed build
ollama pull qwen3:8b        # download or update a model
ollama rm qwen2.5:7b        # free disk space
systemctl edit ollama       # add: Environment="OLLAMA_CONTEXT_LENGTH=16384"

Réponses rapides

L’inférence sur CPU seul est-elle utilisable ?

Pour les petits modèles, oui. Un modèle 3B répond à des requêtes simples en quelques secondes sur des cœurs Ryzen 9, et les traitements par lots se moquent complètement de la vitesse. Les gros modèles de 30B+ demandent un GPU - louez-en un quand vous en avez besoin.

Ollama nécessite-t-il un VPS GPU dédié ?

Non. Ollama fonctionne par défaut sur CPU avec des modèles quantifiés. Les GPU accélèrent les gros modèles, mais tout ce qui figure dans le tableau ci-dessus tourne confortablement sur une offre Buran classique.

Quelle offre choisir ?

Un modèle 7B q4 demande environ 8 Go de RAM - un Core VPS 4 à 12 €/mois le fait tourner confortablement. Les modèles 13–14B veulent 16 Go (Core VPS 6, 16 €/mois), le 32B veut 24–32 Go (Core VPS 8, 30 €/mois). Un modèle 70B q4 demande ~64 Go, ce qui relève du VDS - louez une machine GPU quand vous avez vraiment besoin de cette classe.

Combien de RAM le contexte utilise-t-il ?

Le fichier du modèle n’est que le plancher. Ollama garde aussi en RAM le cache KV du contexte actif - les 4k par défaut coûtent peu, 32k sur un modèle 7B ajoutent plusieurs Go, et les requêtes parallèles multiplient le tout. Si vous exposez l’API à plusieurs utilisateurs, prenez une offre un cran au-dessus de la taille du modèle.

Commencez petit : lancez un modèle 7B sur un Core VPS 4 de 8 Go à 12 €/mois.

À lire aussi

Voir les offresGuidesFAQ