Ollama es la manera más sencilla de ejecutar LLMs locales. También facilita desplegar algo que en realidad no funciona para tu caso de uso, porque el comando de instalación es el mismo ya tengas 8 GB de RAM o una H100. El framework no te dirá que 2 tokens por segundo es demasiado lento para un chatbot.
Aquí está la matemática brutalmente honesta del hosting tras probar Ollama en seis configuraciones diferentes de VPS.
Ollama es un Wrapper, el Modelo es el Costo
Ollama en sí es ligero. Aproximadamente 100 MB en binario de Go y sobrecarga de tiempo de ejecución. Cada decisión de recurso gira en torno al modelo: cuál ejecutar, en qué cuantización, y si tienes GPU.
La inferencia en CPU funciona para la demostración de instalación y falla para el uso diario. Los números que medí en un Hetzner CCX33 (8 vCPU, 32 GB RAM, sin GPU):
- Llama 3.1 8B Q4_K_M: 5 a 7 tokens por segundo
- Llama 3.1 8B Q8_0: 2 a 3 tokens por segundo
- Llama 3.1 70B Q4 (cuando cabe): 0.5 tokens por segundo
Comparado con GPU en un Hetzner GEX44 (RTX 6000 Ada, 48 GB VRAM):
- Llama 3.1 8B Q4: 90 a 120 tokens por segundo
- Llama 3.1 13B Q4: 60 a 80 tokens por segundo
- Llama 3.1 70B Q4: 20 a 30 tokens por segundo
- Llama 3.1 70B Q8: 15 a 20 tokens por segundo
El camino CPU es para trabajos en lote que puedes dejar correr de noche. El camino GPU es lo que necesitas para cualquier interacción en tiempo real.
Comparativa de VPS para Ollama
| Proveedor | Plan | GPU | vCPU | RAM | Mensual | Mejor uso |
|---|---|---|---|---|---|---|
| Hetzner Cloud | CCX23 | Ninguna | 4 | 16 GB | 29.74 EUR | Inferencia en CPU de 7B, solo batch |
| Hetzner Cloud | CCX33 | Ninguna | 8 | 32 GB | 59.61 EUR | Batch en CPU de 13B, trabajo de desarrollo |
| Hetzner Server | GEX44 | RTX 6000 Ada | 16 | 192 GB | 184 EUR | Despliegue de producción de 70B |
| Contabo VPS | VPS XL | Ninguna | 12 | 96 GB | 27.49 EUR | Batch en CPU para 70B Q4 (lento pero barato) |
Hetzner Cloud CCX23: Para inferencia en CPU de 7B
Lo mínimo que consideraría para Ollama con un modelo de 7B. 16 GB de RAM alojan el modelo más contexto, y la CPU dedicada mantiene los 5 a 7 tokens por segundo constantes. Úsalo para asistentes personales, resumen de documentos o cualquier tarea batch en la que respuestas en 2 segundos sean aceptables.
No uses esto para chatbots o aplicaciones interactivas. La latencia será molesta.
Pros:
- La configuración realista más económica para Ollama
- 16 GB de RAM dan margen para el modelo de 7B más un contexto razonable
- CPU dedicada mantiene la tasa de inferencia estable
Consigue Hetzner: Hetzner Cloud.
Hetzner Cloud CCX33: Para 13B y trabajo en desarrollo
32 GB de RAM permiten un modelo de 13B con contexto cómodo. La inferencia en CPU a 2-3 tokens por segundo está bien para desarrollo y pruebas, pero dolorosa en producción. Úsalo cuando necesites validar que tus prompts funcionan en un modelo de 13B antes de comprometerte con hosting en GPU.
Opinión honesta: 59.61 EUR al mes por inferencia CPU lenta es difícil de justificar frente a rentar GPU por hora vía Vast.ai para pruebas.
Hetzner GEX44: La gama seria de producción
184 EUR al mes por un RTX 6000 Ada con 48 GB VRAM es el camino más barato para Ollama en producción en Europa. Los 48 GB VRAM alojan modelos de 70B Q4 con espacio para contexto, y modelos 13B Q8 con contexto muy grande (128K+).
Este nivel es ideal cuando:
- Sirves un chatbot o aplicación interactiva
- El coste en tokens sobrepasa los 200 USD mensuales en agregadores de API
- Necesitas residencia de datos o despliegue aire-aislado
Los 192 GB de RAM del sistema son excesivos para Ollama en sí, pero útiles si también ejecutas un Flowise o LangGraph en la misma máquina.
Consigue Hetzner: Hetzner Cloud.
Contabo VPS XL: Para trabajos en lote masivos en CPU
27.49 EUR al mes por 96 GB de RAM permiten cargar modelos de 70B Q4 en CPU. La inferencia a 0.5 a 1 token por segundo es inutilizable en modo interactivo pero tolerable para procesamiento nocturno de grandes catálogos de documentos.
Elígelo para casos de uso específicos en batch donde el rendimiento mensual total importa más que la latencia en cada solicitud.
Consigue Contabo: Contabo VPS.
Lo que Yo Escogería
Para Ollama en producción con uso interactivo: Hetzner GEX44 con GPU. Para desarrollo y pruebas con modelos de 7B: Hetzner CCX23. Ignora la inferencia en CPU para modelos de 13B o más, a menos que tengas un caso de uso batch que realmente encaje. Las matemáticas de tokens por segundo no funcionan para otra cosa.
El panorama más amplio de VPS está en el Comparativo SelfHostVPS. Ollama combina bien con OpenWebUI, AnythingLLM y la mayoría de los frameworks de agentes. Consulta esas guías para recomendaciones de despliegue conjunto. --- Fin ---
Frequently asked questions
¿Realmente puedo ejecutar Ollama en un VPS solo con CPU?
Técnicamente sí, pero prácticamente no para uso en producción. Un modelo de 7B en CPU produce de 3 a 5 tokens por segundo en un Hetzner CCX23, lo cual está al límite de lo aceptable para consultas ocasionales y es inútil para chatbots. Un modelo de 13B en CPU baja a 1 a 2 tokens por segundo. Para cualquier cosa más allá de la experimentación personal, necesitas GPU. Ollama hace que la inferencia en CPU sea sencilla, pero eso no lo hace útil a gran escala.
¿Cuál es el VPS con GPU más barato para Ollama en 2026?
El GEX44 de Hetzner con un RTX 6000 Ada a 184 EUR al mes es la opción de GPU razonable más barata en Europa. Maneja cómodamente modelos de 7B y 13B (40 a 80 tokens por segundo) y ejecuta modelos de 70B en cuantización de 4 bits con 20 a 30 tokens por segundo. Genesis Cloud y Vast.ai ofrecen tarifas por hora más baratas para uso esporádico, pero los precios mensuales favorecen a Hetzner.
¿Cuánta RAM necesita Ollama sin GPU?
Aproximadamente el doble del tamaño del archivo del modelo para modelos GGUF. Un modelo Q4_K_M de 7B ocupa 4.4 GB en disco y en la práctica necesita de 9 a 10 GB de RAM. Un modelo Q4 de 13B ocupa 7.8 GB y requiere 16 GB. Un modelo Q4 de 70B necesita 48 GB. Estos números asumen una ventana de contexto conservadora. Los contextos más grandes (32K+) añaden de 2 a 8 GB adicionales.
¿Debería rentar un VPS con GPU o usar OpenRouter para acceder como Ollama?
Por menos de 100 USD al mes en gastos de inferencia, OpenRouter o similares son más económicos. Para cargas de trabajo constantes que superen los 200 USD mensuales, tener un VPS con GPU se amortiza en 2 a 3 meses. El punto de equilibrio depende mucho de qué modelo uses. Llama 3.1 70B a tarifas de OpenRouter de 1 USD por millón de tokens significa que un Hetzner GEX44 (184 EUR al mes) se amortiza en aproximadamente 200 millones de tokens mensuales.