Cómo Auto-Hospedar Ollama en un VPS (Configuración del Mundo Real 2026)

El comando de instalación de Ollama es famosamente simple. La complicación radica en que el mismo comando configura un servidor de inferencia útil en una máquina con GPU de 24 GB y uno frustrantemente lento en un VPS de 2 GB. La diferencia está en la elección del modelo y en la configuración que haces después de la instalación.

Aquí está la configuración que realmente funciona en 2026, con números reales de mi caja Hetzner.

Decisiones Previas a la Instalación

Antes de ejecutar el instalador, decide:

1. ¿Qué modelo vas a ejecutar? Esto determina las necesidades de RAM y disco. Los modelos de 7B necesitan 10 GB de RAM, los de 13B requieren 16 GB, y los de 70B necesitan más de 48 GB con cuantificación Q4.
2. ¿CPU o GPU? La CPU funciona para modelos de 7B a 5-7 tokens por segundo, aceptable para tareas en lote y doloroso para chat. La GPU es necesaria para cualquier interacción en tiempo real a partir de 13B+.
3. ¿Quién tendrá acceso a él? Uso personal puede mantenerse local. Uso en equipo requiere autenticación y probablemente un frontend separado como Open WebUI.

Sáltate la instalación si tu hardware no coincide con el modelo. Intentar ejecutar un modelo de 70B en 16 GB de RAM no funcionará, sin cantidad de cuantificación inteligente que lo arregle.

Paso 1: Provisiona el VPS

Para esta guía, asumo un Hetzner CCX23 (4 vCPU, 16 GB RAM, NVMe). Ajusta a tu situación. Conéctate por SSH y prepara el sistema:

sudo apt update && sudo apt upgrade -y
sudo apt install -y curl ca-certificates

Si tienes un VPS con GPU (Hetzner GEX, Lambda, etc.), verifica que el driver de NVIDIA esté instalado:

nvidia-smi

Si falla en una máquina con GPU, instala el driver primero según las instrucciones de tu proveedor. Ollama no usará la GPU si falta el driver, y la fallback en CPU es la causa más común de las preguntas de “¿por qué esto está tan lento?”

Paso 2: Instala Ollama

El instalador oficial:

curl -fsSL https://ollama.com/install.sh | sh

Esto instala el binario en /usr/local/bin/ollama y configura un servicio systemd que corre como el usuario ollama. Por defecto, Ollama se vincula a 127.0.0.1:11434 (solo localhost), que es lo que quieres por seguridad.

Verifica el servicio:

sudo systemctl status ollama

Debería mostrar active (running).

Paso 3: Mueve el Almacenamiento del Modelo a una Ruta Dedicada

Los modelos son grandes. La ubicación predeterminada /usr/share/ollama comparte espacio en disco, que generalmente tiene menos espacio. Indica a Ollama una ruta en tu disco de datos:

sudo systemctl stop ollama
sudo mkdir -p /var/ollama/models
sudo chown -R ollama:ollama /var/ollama

Edita la configuración override de systemd:

sudo systemctl edit ollama

Agrega:

[Service]
Environment="OLLAMA_MODELS=/var/ollama/models"
Environment="OLLAMA_KEEP_ALIVE=10m"
Environment="OLLAMA_NUM_PARALLEL=2"

Recarga y reinicia:

sudo systemctl daemon-reload
sudo systemctl start ollama

El OLLAMA_KEEP_ALIVE de 10 minutos equilibra presión de memoria con rapidez. El predeterminado de 5 minutos produce latencia de arranque en frío en cada pausa de uso. El OLLAMA_NUM_PARALLEL de 2 permite que dos solicitudes concurrentes compartan el modelo cargado, útil para equipos o configuraciones multi-aplicación.

Paso 4: Descarga Tu Primer Modelo

Para un VPS de 16 GB sin GPU, empieza con Llama 3.1 8B con cuantificación Q4:

ollama pull llama3.1:8b-instruct-q4_K_M

La descarga es de unos 4.6 GB. La primera carga en RAM toma de 15 a 30 segundos. Pruébalo:

ollama run llama3.1:8b-instruct-q4_K_M "Explica qué significa auto-hospedarse en una sola declaración."

Deberías obtener una respuesta coherente. En un CPU CCX23, espera entre 5 y 7 tokens por segundo. En una GPU, 50 a más de 100 tokens por segundo, dependiendo de la GPU.

Paso 5: Exponer Ollama a Otras Apps (De Forma Segura)

Para aplicaciones locales en el mismo VPS (Open WebUI, Flowise, LangGraph), 127.0.0.1:11434 es a lo que se conectan. No hay más que hacer.

Para apps en otras máquinas, vincula Ollama a una red privada y agrega autenticación. El patrón que uso:

1. Tailscale en el VPS y en las máquinas consumidoras
2. Vincula Ollama a la interfaz de Tailscale

Edita nuevamente la configuración override:

sudo systemctl edit ollama

Agrega (reemplaza 100.x.x.x con tu IP de Tailscale):

[Service]
Environment="OLLAMA_HOST=100.x.x.x:11434"

Recarga y reinicia. Ahora otras máquinas conectadas a Tailscale pueden acceder a tu endpoint de Ollama sin exponerlo a internet público.

Para exposición pública (solo si es estrictamente necesario), pon Caddy o Nginx delante con autenticación por token. Nunca pongas Ollama directamente en 0.0.0.0:11434, no tiene autenticación nativa y en horas tendrás mineros de criptomonedas usando tu VPS.

Paso 6: Monitorea el Uso de Recursos

Observa el uso de RAM mientras el modelo carga y funciona:

watch -n 2 'free -h && echo "" && systemctl status ollama | grep Memory'

El modelo 8B Q4 debería usar unas 5 a 6 GB de memoria residente. Si Ollama usa mucho más, la ventana de contexto puede estar configurada por encima de lo esperado. Verifica con:

ollama show llama3.1:8b-instruct-q4_K_M

Qué Sigue

Con Ollama en ejecución, la pregunta es qué poner delante de él:

• Open WebUI para acceso multiusuario similar a ChatGPT
• AnythingLLM para Q&A de documentos
• Flowise para construcción visual de flujos
• Cline para asistencia en codificación integrada en IDE
• SmolAgents o CrewAI para frameworks de agentes

Para comparaciones de VPS con estas herramientas, consulta las Guías SelfHostVPS. Para la matemática realista de GPU vs CPU en Ollama específicamente, la mejor página VPS para Ollama explica los números de tokens por segundo que medí en diferentes niveles de hardware.