Cómo Autoalojar Jan Server en un VPS (Guía Completa)

Jan Server es la mitad autoalojable del proyecto Jan: un conjunto de microservicios en Go que exponen una API compatible con OpenAI, con integración de herramientas MCP, autenticación mediante Keycloak y una puerta de enlace Kong por delante. No es un contenedor único, y el despliegue lo refleja.

La buena noticia es que el proyecto incluye un asistente de configuración que escribe la configuración por ti. La decisión principal que tomas durante el proceso es dónde se ejecuta la inferencia.

Antes de empezar

• Un VPS con al menos 8 GB de RAM — el mínimo indicado por el proyecto, con 12 GB recomendados para el conjunto completo de servicios
• Una instalación limpia de Linux (Ubuntu 24.04 LTS es una opción sensata)
• Docker Engine y Docker Compose v2
• make y git
• Un nombre de dominio si quieres TLS, algo necesario para cualquier cosa más allá de una prueba

La mayoría de VPS baratos son de 4 GB y no sirven. Estos superan el suelo:

Para un desglose más completo de estos planes, consulta nuestra comparativa de VPS.

Paso 1: Conéctate e instala las dependencias

ssh user@your-vps-ip

sudo apt update && sudo apt upgrade -y
sudo apt install -y docker.io docker-compose-v2 make git
sudo systemctl enable --now docker

Confirma que tienes Compose v2, porque el fichero compose de Jan Server usa la clave include:, que v1 no entiende:

docker compose version

Paso 2: Clona el repositorio

A diferencia de la mayoría de apps autoalojadas, aquí no escribes tu propio docker-compose.yml. El fichero compose del repositorio incorpora fragmentos para la infraestructura, los servicios de API, las herramientas MCP, la app web y la inferencia.

git clone https://github.com/janhq/server.git
cd server

Paso 3: Ejecuta el asistente de configuración

make quickstart

El asistente escribe un único .env en la raíz y luego arranca Compose. Pregunta tres cosas:

• Proveedor de LLM — vLLM en local, que descarga modelos y espera una GPU, o un endpoint remoto compatible con OpenAI, que no necesita ninguna de las dos cosas. En un VPS estándar, elige el endpoint remoto.
• Proveedor de búsqueda MCP — Serper necesita una clave de API, SearXNG se ejecuta en local sin ninguna, o puedes desactivar la búsqueda y aun así conservar el servicio de herramientas MCP.
• Media API — actívala para subidas de archivos, o déjala apagada para el runtime más ligero.

Si no puedes ejecutar el asistente de forma interactiva, copia la plantilla y rellénala tú mismo:

cp .env.template .env
nano .env
make setup

make setup comprueba las dependencias, crea los directorios y descarga las imágenes base sin arrancar nada.

Paso 4: Arranca la pila

make up-full

Una vez que los contenedores se estabilizan, tienes:

La documentación de la API se sirve en http://your-vps-ip:8000/api/swagger/index.html.

Paso 5: Asegúralo antes de exponerlo

Este es el paso que no debes saltarte. Dos valores por defecto son inseguros en un servidor público:

1. La consola de Keycloak viene con admin / admin. Cámbialo de inmediato en el puerto 8085. Keycloak emite los tokens que Kong valida, así que esta única credencial protege toda la superficie de la API.
2. Solo el puerto 8000 debería ser accesible desde fuera. Kong aplica las comprobaciones de JWT y clave de API; los puertos de servicio detrás de él no lo hacen. Vincula el resto a localhost o bloquéalos en el firewall.

sudo ufw allow OpenSSH
sudo ufw allow 443/tcp
sudo ufw enable

Después, termina el TLS con Caddy, Traefik o Nginx y haz proxy al puerto 8000. Dejar un endpoint de LLM sin autenticación en internet hace que alguien lo encuentre y lo use, normalmente en cuestión de días.

Ejecutar la inferencia en local

Si elegiste vLLM en local, el fragmento de inferencia define dos perfiles. El perfil de GPU ejecuta vllm/vllm-openai:v0.11.2 con janhq/Jan-v1-4B como modelo por defecto y reserva un dispositivo NVIDIA, así que no arrancará en un VPS típico. El perfil de CPU funciona sin GPU y es realmente utilizable para pruebas, pero la generación de tokens en vCPU compartidas es lo bastante lenta como para no quererlo delante de usuarios reales.

Alquilar capacidad de GPU y apuntar Jan Server a ella como endpoint remoto suele salir más barato que tener un servidor con GPU parado entre peticiones.

Operación del día a día

Actualizar a una versión más reciente:

git pull
docker compose pull
make up-full

Haz copia de seguridad del volumen de Postgres y de tu .env raíz. El .env guarda los secretos que generó el asistente, y restaurar una base de datos sin él te deja con sesiones que no puedes descifrar.

Comprueba qué está haciendo un servicio con docker compose logs -f llm-api, sustituyendo por el servicio que te interese.

Problemas comunes

Jan Server exige más a un VPS que una app autoalojada típica, sobre todo porque trae su propia puerta de enlace, proveedor de identidad y base de datos en vez de asumir que ya los tienes. Dimensiona para 8 GB, pon Kong detrás de TLS, y cambia la contraseña de Keycloak antes que nada.