Comment héberger Ollama en auto-hébergement sur un VPS (Configuration réelle en 2026)

La commande d’installation d’Ollama est réputée pour sa simplicité. La complication réside dans le fait que la même commande met en place un serveur d’inférence utile sur une machine GPU de 24 Go, et une version extrêmement lente sur un VPS de 2 Go. La différence réside dans le choix du modèle et la configuration effectuée après l’installation.

Voici la configuration qui fonctionne réellement en 2026, avec des chiffres réels tirés de ma machine Hetzner.

Décisions à prendre avant l’installation

Avant de lancer l’installateur, décidez :

1. Quel modèle allez-vous faire tourner ? Cela influence la RAM et l’espace disque nécessaires. Les modèles 7B nécessitent 10 Go de RAM, 13B en demandent 16 Go, 70B 48 Go+ en Q4.
2. CPU ou GPU ? Le CPU suffit pour du 7B à 5-7 tokens par seconde, ce qui est acceptable pour des tâches par lot, mais peu pratique pour le chat. Le GPU est nécessaire pour tout ce qui est interactif à partir de 13B+.
3. Qui y accédera ? Usage personnel peut rester local. Pour une équipe, il faut une authentification et probablement un frontend séparé comme Open WebUI.

Passez l’installation si votre matériel ne correspond pas au modèle prévu. Tenter de faire tourner un modèle 70B avec 16 Go de RAM ne marchera pas, peu importe la quantification.

Étape 1 : Provisionner le VPS

Pour ce guide, je suppose un Hetzner CCX23 (4 vCPU, 16 Go RAM, NVMe). Ajustez selon votre situation. Connectez-vous en SSH et préparez le système :

sudo apt update && sudo apt upgrade -y
sudo apt install -y curl ca-certificates

Si vous avez un VPS avec GPU (Hetzner GEX, Lambda, etc.), vérifiez que le pilote NVIDIA est installé :

nvidia-smi

Si cela échoue sur une machine GPU, installez le pilote selon les instructions de votre fournisseur. Ollama n’utilisera pas le GPU si le pilote manque, et le fallback silencieux sur CPU est la cause la plus fréquente des questions « pourquoi c’est si lent ? ».

Étape 2 : Installer Ollama

L’installateur officiel :

curl -fsSL https://ollama.com/install.sh | sh

Cela installe le binaire dans /usr/local/bin/ollama et configure un service systemd fonctionnant sous l’utilisateur ollama. Par défaut, Ollama se lie à 127.0.0.1:11434 (localhost uniquement), ce qui est recommandé pour la sécurité.

Vérifiez le service :

sudo systemctl status ollama

Il doit afficher active (running).

Étape 3 : Déplacer le stockage des modèles vers un chemin dédié

Les modèles sont volumineux. L’emplacement par défaut /usr/share/ollama partage l’espace disque racine, qui est souvent limité. Dirigez Ollama vers un chemin sur votre disque de données :

sudo systemctl stop ollama
sudo mkdir -p /var/ollama/models
sudo chown -R ollama:ollama /var/ollama

Modifiez la surcharge systemd :

sudo systemctl edit ollama

Ajoutez :

[Service]
Environment="OLLAMA_MODELS=/var/ollama/models"
Environment="OLLAMA_KEEP_ALIVE=10m"
Environment="OLLAMA_NUM_PARALLEL=2"

Rechargez et relancez :

sudo systemctl daemon-reload
sudo systemctl start ollama

Le OLLAMA_KEEP_ALIVE de 10 minutes équilibre mémoire et réactivité. La valeur par défaut de 5 minutes entraîne une latence au démarrage à chaque absence d’usage. Le OLLAMA_NUM_PARALLEL de 2 permet à deux requêtes simultanées de partager le modèle chargé, pratique pour une équipe ou plusieurs applications.

Étape 4 : Télécharger votre premier modèle

Pour un VPS de 16 Go sans GPU, commencez avec Llama 3.1 :8B-Q4 quantification :

ollama pull llama3.1:8b-instruct-q4_K_M

Le téléchargement fait environ 4,6 Go. La première utilisation le charge en RAM, ce qui prend 15 à 30 secondes. Testez-le :

ollama run llama3.1:8b-instruct-q4_K_M "Explique en une phrase ce que signifie l'hébergement en auto-hébergement."

Vous devriez obtenir une réponse cohérente. Sur un CPU CCX23 seul, attendez 5 à 7 tokens par seconde. Avec un GPU, 50 à 100+ tokens/sec selon le GPU.

Étape 5 : Exposer Ollama à d’autres applications (en toute sécurité)

Pour des applications locales sur le même VPS (Open WebUI, Flowise, LangGraph), 127.0.0.1:11434 suffit. Rien d’autre à faire.

Pour des applications sur d’autres machines, reliez Ollama à une interface réseau privée et ajoutez une authentification. La méthode que j’utilise :

1. Tailscale sur le VPS et sur les machines clientes
2. Relier Ollama à l’interface Tailscale

Modifiez à nouveau la surcharge systemd :

sudo systemctl edit ollama

Ajoutez (remplacez 100.x.x.x par votre IP Tailscale) :

[Service]
Environment="OLLAMA_HOST=100.x.x.x:11434"

Rechargez et relancez. Les autres machines connectées via Tailscale peuvent maintenant atteindre votre endpoint Ollama sans l’exposer sur Internet.

Pour une exposition publique (seulement si nécessaire), utilisez Caddy ou Nginx avec authentification par token. Jamais ne laissez Ollama exposé directement sur 0.0.0.0:11434, il n’a pas d’auth intégré et vous pourriez voir des mineurs de crypto miner votre VPS en quelques heures.

Étape 6 : Surveiller l’utilisation des ressources

Suivez la RAM lors du chargement et de l’utilisation du modèle :

watch -n 2 'free -h && echo "" && systemctl status ollama | grep Memory'

Le modèle 8B Q4 devrait consommer environ 5 à 6 Go de mémoire résidente. Si Ollama utilise beaucoup plus, la fenêtre de contexte peut être réglée plus haut que prévu. Vérifiez avec :

ollama show llama3.1:8b-instruct-q4_K_M

Prochaines étapes

Une fois Ollama en marche, la question est : quoi mettre devant ?

• Open WebUI pour un accès multi-utilisateur type ChatGPT
• AnythingLLM pour des espaces de Q&A sur documents
• Flowise pour construire des workflows visuels
• Cline pour une assistance à la programmation intégrée à l’IDE
• SmolAgents ou CrewAI pour des frameworks d’agents

Pour comparer ces outils sur VPS, consultez les guides SelfHostVPS. Pour la réalité des chiffres GPU vs CPU pour Ollama, la page VPS recommandés pour Ollama décrit les nombres de tokens par seconde que j’ai mesurés sur différents matériels.