Jan Server adalah platform multi-layanan, bukan aplikasi tunggal, dan kebutuhannya mencerminkan hal itu. README proyek menetapkan batas bawah minimal 8 GB RAM, disarankan 12 GB, yang menyingkirkan paket 4 GB yang mendominasi perbandingan VPS murah.
Bagian berikut menguraikan angka itu dan menunjukkan bagian mana yang bergerak ketika konfigurasi Anda berubah.
Ke mana memorinya pergi
Deployment bawaan menyalakan kira-kira sembilan kontainer. Tidak ada satu pun yang raksasa, tetapi jumlahnya menumpuk:
- Mikroservis Go — LLM API, Response API, Media API, perkakas MCP, dan satu templat layanan
- PostgreSQL — penyimpanan percakapan dan pesan
- Keycloak — autentikasi OIDC, berjalan dari
quay.io/keycloak/keycloak:24.0.5, dan merupakan aplikasi JVM dengan jejak memori yang nyata - Kong v3.5 — gerbang API yang memvalidasi setiap permintaan
- Antarmuka obrolan web — aplikasi React di port 3001
Keycloak dan Postgres adalah dua komponen yang membuat 4 GB terasa sesak. Di server 8 GB, tumpukannya berjalan dengan ruang tersisa; di bawah itu, kontainer dimatikan OOM saat menyala dan kegagalannya tampak seperti crash acak alih-alih masalah memori.
Saran 12 GB berlaku ketika Anda mengaktifkan semuanya, termasuk Media API dan tumpukan observabilitas opsional berisi OpenTelemetry, Prometheus, Jaeger, dan Grafana.
CPU
Layanan Go tidak terikat pada CPU. Waktunya habis menunggu basis data dan endpoint model yang Anda konfigurasikan, sehingga 4 vCPU sudah lapang untuk seluruh tumpukan dan 2 vCPU cukup untuk pemasangan satu pengguna.
Itu berubah sepenuhnya kalau Anda menjalankan inferensi di mesin yang sama. Profil CPU vLLM ada justru supaya Anda bisa melakukannya, dan ia akan memakai setiap core yang Anda berikan sambil menghasilkan token jauh lebih lambat daripada GPU. Perlakukan inferensi CPU sebagai cara memastikan deployment-nya berfungsi, bukan sebagai konfigurasi yang Anda sajikan ke pengguna.
Disk
Siapkan minimal 40 GB dengan inferensi jarak jauh. Tiga hal yang memakannya:
- Image kontainer — beberapa gigabyte untuk seluruh layanan, Keycloak, Kong, dan Postgres
- Data PostgreSQL — tumbuh mengikuti riwayat percakapan dan pesan
- Penyimpanan media — hanya kalau Anda mengaktifkan Media API dan menyimpan berkas secara lokal alih-alih di S3
Bobot model lokal adalah faktor yang sulit ditebak. Model bawaan untuk profil vLLM adalah janhq/Jan-v1-4B yang tergolong sederhana, tetapi volume cache model tetap jalan tercepat untuk memenuhi disk kecil. Kalau inferensi lokal ada dalam rencana Anda, mulailah dari 100 GB.
GPU
Hanya diperlukan untuk profil GPU vLLM, yang memesan satu perangkat NVIDIA lewat blok deploy.resources di Compose dan menolak menyala tanpanya. Paket VPS standar dari penyedia di bawah tidak menyertakan GPU, jadi pilihan praktisnya adalah endpoint kompatibel OpenAI jarak jauh, profil CPU yang lambat, atau host GPU terpisah yang dipanggil Jan Server.
Paket awal penyedia terhadap kebutuhan ini
| Penyedia | Paket awal | RAM | CPU | Disk | Memenuhi batas 8 GB? |
|---|---|---|---|---|---|
| Contabo | Cloud VPS 4 — 5,50 EUR/bulan belum termasuk PPN | 8 GB | 4 vCPU | 100 GB SSD | Ya |
| Hetzner | CX23 — 5,49 EUR/bulan belum termasuk PPN | 4 GB | 2 vCPU | 40 GB NVMe | Tidak, naik ke CX33 |
| DigitalOcean | Droplet Basic — 6 USD/bulan | 1 GB | 1 vCPU | 25 GB SSD | Tidak |
| Vultr | Cloud Compute — 5 USD/bulan | 1 GB | 1 vCPU | 25 GB SSD | Tidak |
| Linode | Nanode — 5 USD/bulan | 1 GB | 1 vCPU | 25 GB SSD | Tidak |
Hanya satu paket awal di daftar itu yang memenuhi syarat. Tingkat termurah Contabo sudah 8 GB sejak jajaran produknya diganti nama, yang tidak biasa pada harga ini dan menjadikannya rekomendasi bawaan untuk Jan Server. Hetzner mencapai 8 GB yang sama lewat CX33 seharga 8,49 EUR/bulan belum termasuk PPN, dengan 80 GB NVMe alih-alih 100 GB SSD SATA.
Penyedia Amerika semuanya mulai dari 1 GB, jadi meng-host Jan Server di sana berarti mendaki beberapa tingkat, bukan membeli paket awal.
Ringkasan ukuran
| Konfigurasi | RAM | vCPU | Disk |
|---|---|---|---|
| Satu pengguna, inferensi jarak jauh | 8 GB | 2 | 40 GB |
| Pemakaian tim, semua layanan aktif | 12 GB | 4 | 80 GB |
| Inferensi CPU lokal, pengujian saja | 12 GB+ | 4+ | 100 GB |
| Inferensi GPU lokal | Sesuai model | Sesuai model | 100 GB+ dan satu GPU NVIDIA |
Pilih baris yang cocok dengan cara Anda berniat menjalankan inferensi, dan ingat bahwa angka 8 GB adalah minimum yang didokumentasikan, bukan target yang lapang. Untuk paket dan harga terkini dari berbagai penyedia, lihat perbandingan VPS kami.
Frequently asked questions
Berapa RAM minimum untuk menjalankan Jan Server di sebuah VPS?
Delapan gigabyte. Angka itu berasal dari README proyeknya sendiri, yang juga menyarankan 12 GB agar rangkaian layanan lengkap berjalan lapang. Angka itu mencakup mikroservis Go, Postgres, Keycloak, dan gerbang Kong, serta mengandaikan inferensi berjalan di tempat lain, bukan di mesin yang sama.
Berapa ruang disk yang sebaiknya saya alokasikan untuk Jan Server?
Mulailah dari 40 GB kalau Anda memakai endpoint inferensi jarak jauh. Image kontainernya saja sudah beberapa gigabyte untuk seluruh layanan, Postgres, Keycloak, dan Kong, lalu Postgres tumbuh mengikuti riwayat percakapan Anda. Mengaktifkan Media API dengan penyimpanan lokal atau menyimpan bobot model akan mengubah angka itu secara signifikan.
Apakah Jan Server memerlukan GPU NVIDIA?
Hanya kalau Anda menjalankan inferensi secara lokal lewat profil GPU vLLM, yang memesan satu perangkat NVIDIA dan tidak akan menyala tanpanya. Mengarahkan Jan Server ke endpoint kompatibel OpenAI jarak jauh menghapus kebutuhan itu sepenuhnya, dan itulah pengaturan yang lazim di sebuah VPS.