Ollama è il modo più semplice per eseguire LLM locali. Rende anche facile distribuire qualcosa che non funziona realmente per il tuo caso d’uso, perché il comando di installazione è lo stesso che tu abbia 8 GB di RAM o un H100. Il framework non ti dirà che 2 token al secondo sono troppo lenti per un chatbot.
Ecco il calcolo realistico sull’hosting dopo aver testato Ollama su sei configurazioni VPS diverse.
Ollama è un Wrapper, il Modello È il Costo
Ollama in sé è leggero. Circa 100 MB di binario Go e sovraccarico di runtime. Ogni decisione sulle risorse riguarda il modello: quale usi, in quale quantizzazione, e se hai GPU.
L’inferenza CPU funziona per l’installazione demo e fallisce per l’uso quotidiano. I valori che ho misurato su un Hetzner CCX33 (8 vCPU, 32 GB RAM, senza GPU):
- Llama 3.1 8B Q4_K_M: 5-7 token al secondo
- Llama 3.1 8B Q8_0: 2-3 token al secondo
- Llama 3.1 70B Q4 (quando ci sta): 0.5 token al secondo
Rispetto alla GPU su un Hetzner GEX44 (RTX 6000 Ada, 48 GB VRAM):
- Llama 3.1 8B Q4: 90-120 token al secondo
- Llama 3.1 13B Q4: 60-80 token al secondo
- Llama 3.1 70B Q4: 20-30 token al secondo
- Llama 3.1 70B Q8: 15-20 token al secondo
Il percorso CPU è adatto per lavori batch che puoi lasciare overnight. Il percorso GPU è ciò di cui hai bisogno per qualsiasi cosa interattiva.
Confronto VPS per Ollama
| Provider | Piano | GPU | vCPU | RAM | Mensile | Migliore utilizzo |
|---|---|---|---|---|---|---|
| Hetzner Cloud | CCX23 | Nessuna | 4 | 16 GB | 29,74 EUR | Inferenza CPU per modello 7B, solo batch |
| Hetzner Cloud | CCX33 | Nessuna | 8 | 32 GB | 59,61 EUR | Batch CPU per modelli 13B, lavoro di sviluppo |
| Hetzner Server | GEX44 | RTX 6000 Ada | 16 | 192 GB | 184 EUR | Servizio di produzione per modelli 70B |
| Contabo VPS | VPS XL | Nessuna | 12 | 96 GB | 27,49 EUR | Batch CPU per modello 70B (lento ma economico) |
Hetzner Cloud CCX23: Per inferenza CPU 7B
Il minimo che considererei per Ollama con un modello 7B. 16 GB di RAM sono sufficienti per il modello più il contesto, e una CPU dedicata mantiene stabile il ritmo di 5-7 token al secondo. Usalo per assistenti personali, riassunto di documenti o qualsiasi task batch dove 2 secondi di risposta sono accettabili.
Non usarlo per chatbot o applicazioni interattive. La latenza rende tutto molto doloroso.
Pro:
- Configurazione Ollama più economica e realistica
- 16 GB RAM offrono spazio per modello 7B e contesto ragionevole
- CPU dedicata mantiene stabile la velocità di inferenza
Ottieni Hetzner: Hetzner Cloud.
Hetzner Cloud CCX33: Per sviluppo con modello 13B CPU
32 GB di RAM sono sufficienti per un modello 13B con un contesto confortevole. L’inferenza CPU a 2-3 token al secondo è adatta per sviluppo e test, scomoda per la produzione. Usalo quando vuoi verificare che i tuoi prompt funzionino su un modello 13B prima di passare all’hosting GPU.
Onestamente: 59,61 EUR al mese per inferenza CPU lenta è difficile da giustificare rispetto al noleggio di una GPU all’ora tramite Vast.ai per i test.
Hetzner GEX44: Il livello di produzione serio
184 EUR al mese per una RTX 6000 Ada con 48 GB VRAM è la strada più economica per Ollama in produzione in Europa. I 48 GB di VRAM supportano modelli 70B Q4 con spazio per il contesto, e modelli 13B Q8 con contesto molto ampio (128K+).
Questo è il livello giusto quando:
- Esegui chatbot o applicazioni interattive
- Il costo dei token supererebbe i 200 USD al mese tramite API aggregatori
- Hai bisogno di residenza dei dati o distribuzione air-gapped
La RAM di sistema da 192 GB è eccessiva per Ollama stesso, ma utile se esegui anche Flowise o LangGraph sullo stesso server.
Ottieni Hetzner: Hetzner Cloud.
Contabo VPS XL: Per lavori batch CPU massicci
27,49 EUR al mese per 96 GB di RAM ti permette di caricare modelli 70B Q4 su CPU. L’inferenza a 0,5-1 token al secondo è inutilizzabile interattivamente, ma tollerabile per elaborazioni batch notturne di grandi documenti.
Scegli questo per casi d’uso di nicchia dove il throughput mensile totale conta più della latenza di ogni richiesta.
Ottieni Contabo: Contabo VPS.
Cosa Sceglierei
Per Ollama in produzione con qualsiasi utilizzo interattivo: Hetzner GEX44 con GPU. Per sviluppo e test con modelli 7B: Hetzner CCX23. Ignora l’inferenza CPU per modelli 13B+ a meno che tu non abbia un caso batch realistico. La matematica dei token al secondo non funziona per altro.
Frequently asked questions
Posso davvero eseguire Ollama su un VPS solo CPU?
Tecnicamente sì, praticamente no per l'uso in produzione. Un modello 7B su CPU produce da 3 a 5 token al secondo su un Hetzner CCX23, limite accettabile per query occasionali e impraticabile per chatbot. Un modello 13B su CPU scende a 1-2 token al secondo. Per qualsiasi cosa oltre la sperimentazione personale, hai bisogno di GPU. Ollama rende facile l'inferenza CPU, ma ciò non la rende utile su larga scala.
Qual è il VPS GPU più economico per Ollama nel 2026?
Il GEX44 di Hetzner con una RTX 6000 Ada a 184 EUR al mese è l'opzione GPU più economica e ragionevole in Europa. Gestisce comodamente modelli 7B e 13B (40-80 token al secondo) e esegue modelli 70B con quantizzazione a 4 bit a 20-30 token al secondo. Genesis Cloud e Vast.ai offrono tariffe più economiche all'ora per uso sporadico, ma i prezzi mensili favoriscono Hetzner.
Quanto RAM serve a Ollama senza GPU?
circa il doppio della dimensione del file del modello per modelli GGUF. Un modello Q4_K_M da 7B è di circa 4.4 GB su disco e richiede in pratica 9-10 GB di RAM. Un modello Q4 da 13B è di 7.8 GB e richiede 16 GB. Un modello Q4 da 70B necessita di 48 GB. Questi numeri assumono una finestra di contesto conservativa. Contesti più grandi (32K+) aggiungono altri 2-8 GB in più.
Devo affittare un VPS GPU o usare OpenRouter per un accesso simile a Ollama?
Per spese di inferenza inferiori a 100 USD al mese, OpenRouter o aggregatori di API simili sono più economici. Per carichi di lavoro costanti superiori ai 200 USD al mese, possedere un VPS GPU si ripaga in 2-3 mesi. Il punto di pareggio dipende molto dal modello che usi. Llama 3.1 70B con tariffe di OpenRouter di 1 USD per milione di token significa che un Hetzner GEX44 (184 EUR al mese) si ripaga con circa 200 milioni di token al mese.