Zuletzt geprüft:
Letta ist das Projekt, das früher MemGPT hieß und jetzt umbenannt und unter einem richtigen kommerziellen Sponsor ausgeliefert wird. Es ist der sauberste Open-Source-Ansatz für zustandsbehaftete Agenten, den ich bisher genutzt habe. Der Haken: Der Mehrwert steckt in der Memory-Schicht, und die Memory-Schicht ist eine waschechte PostgreSQL-plus-pgvector-Datenbank. Das verändert, welche Art von VPS man kaufen sollte.
Für diesen Artikel habe ich Letta elf Wochen lang auf zwei Servern laufen lassen und verglichen, wie sich die Memory-Abfragen verhalten, wenn die Zahl der Agenten wächst.
Was Letta wirklich braucht
Die Agent-Laufzeitumgebung ist schlank. FastAPI, ein Worker für die Agent-Step-Loop, eine WebSocket-Schicht. Selbst mit zwanzig Agenten liegt man bei vielleicht 250 bis 400 MB RAM im Arbeitsspeicher.
Der eigentliche Kostentreiber ist die Datenbank. Postgres plus pgvector für den Vektorspeicher, dazu Archivspeicher für die langfristigen Passage-Blöcke. Bei intensiver Nutzung sieht man:
- Einige hundert MB Working Set in Postgres für Indizes
- Speicherplatzverbrauch, der stetig wächst, je mehr Konversationen und eingefügte Passagen sich ansammeln
- Sprunghafte CPU-Last, wenn eine neue Konversation eine Recall-Abfrage über alle Blöcke auslöst
Deshalb zählt Disk-I/O bei Letta mehr als bei einem zustandslosen Agenten.
VPS-Vergleich für Letta
| Anbieter | Tarif | vCPU | RAM | Speicher | Monatlich | Am besten für |
|---|---|---|---|---|---|---|
| Hetzner Cloud | CCX13 | 2 | 8 GB | 80 GB NVMe | 42,99 EUR | Standardwahl, Einzelnutzer oder kleines Team |
| Contabo VPS | VPS S | 4 | 8 GB | 100 GB NVMe | 4,50 EUR | Budget-Wahl, langsamere Bereitstellung in Kauf nehmen |
| DigitalOcean | Premium AMD 2 GB | 2 | 4 GB | 80 GB NVMe | 21 USD | US-Team, leichte Last |
| Hetzner | EX44 dedicated | 6 cores | 64 GB | 2x 512 GB NVMe | 51 EUR | Produktivbetrieb mit vielen Agenten |
Hetzner Cloud CCX13: Die Standardwahl
NVMe und dedizierte vCPU machen die pgvector-Abfragen flott. Mit hundert Agenten und ein paar Tausend gespeicherten Passagen bleibt der Memory-Recall auf dieser Stufe unter 200 ms – genau das, was die Agent-Loop braucht, um sich reaktionsschnell anzufühlen. Lettas Archivspeicher-Schicht erzeugt viele kleine Inserts, und Hetzners I/O ist konstant genug, dass man nicht die Nachmittagsverlangsamung erlebt, die manche Shared-Plattformen zeigen.
Vorteile, die hier zählen:
- NVMe verkraftet das pgvector-Schreibmuster ohne Murren
- Die Region Falkenstein läuft mit unter 80 ms zu Anthropic und OpenAI
- API plus Terraform bedeutet, dass man aus einem Snapshot schnell neu aufbauen kann
Der echte Nachteil: Die günstigste CCX-Stufe endet bei 8 GB. Wächst man darüber hinaus, springt man zu CCX23 – fast zum doppelten Preis.
Hetzner hier holen: Hetzner Cloud.
Contabo VPS S: Die Budget-Option
4 vCPU und 8 GB für 4,50 EUR sind auf dem Papier kaum zu schlagen, und die neueren NVMe-Tarife halten für Letta gut durch, solange man nicht über ein paar hundert Agenten hinausgeht. Der Ärger ist die Bereitstellungszeit, die in Stunden statt Sekunden gemessen wird. Richtet man den Server einmal ein und lässt ihn dann laufen, stört das nicht weiter.
Kompromiss: Die Egress-Latenz zu den OpenAI- und Anthropic-Endpunkten ist aus europäischen Contabo-Rechenzentren zuverlässig 100 bis 200 ms schlechter als bei Hetzner. Für Letta bedeutet das langsamere Agent-Steps, wenn das Modell die Schwerarbeit übernimmt.
Contabo holen: Contabo VPS.
DigitalOcean Premium AMD 2 GB: Das US-Ost-Setup
Sitzt das Team in Nordamerika, bieten DigitalOceans Premium-AMD-Nodes in NYC3 unter den gängigen Anbietern die niedrigste Latenz zu OpenAI und Anthropic. 4 GB RAM reichen für eine Handvoll Nutzer mit wenigen Agenten. Darüber hinaus würde ich direkt zum 8-GB-Tarif springen.
Ehrlicher Nachteil: 21 USD für 4 GB sind happig im Vergleich zu Hetzner. Man zahlt für die Region und das Snapshot-System.
DigitalOcean einrichten: DigitalOcean.
Hetzner EX44 Dedicated: Wenn Letta produktiv wird
Sobald Letta das Rückgrat eines Produkts bildet, wirken die Shared-Cloud-Stufen schnell zu klein. Der EX44 mit 6 Kernen und 64 GB RAM gibt genug Spielraum, um Postgres richtig zu tunen, den Vektorindex im RAM zu halten und sich keine Sorgen wegen lauter Nachbarn zu machen. Der Preis ist konkurrenzfähig genug, dass es mich überrascht, wie wenige direkt dorthin springen.
Hetzner-Dedicated-Server holen: Hetzner Robot.
Postgres-Sizing-Tipps für Letta
Drei Dinge, die ich gern früher gewusst hätte:
- shared_buffers auf 25 Prozent des RAM setzen. Der Standardwert von 128 MB ist für jeden echten Workload falsch. Letta belastet den Buffer-Cache beim Memory-Recall stark.
- WAL wenn möglich auf eine separate Disk auslagern. Auf einem dedizierten Server bringt das viel. Bei einem Cloud-VPS mit nur einer Disk lässt man das besser.
- Häufig vacuumen. Die Archivspeicher-Inserts und die Passage-Updates erzeugen viele Dead Tuples. autovacuum_naptime bei intensiver Nutzung auf 30 Sekunden setzen.
Was ich tatsächlich wählen würde
Die meisten wollen eine dieser Optionen:
- EU, tägliche Standardnutzung: Hetzner CCX13
- EU, niedrigste Kosten, langlebiger Server: Contabo VPS S
- US-Team: DigitalOcean Premium AMD 4 GB oder 8 GB
- Produktion mit vielen Nutzern: Hetzner EX44 dedicated
Für das Gesamtbild siehe den SelfHostVPS-Vergleich. Letta entwickelt sich schnell weiter, und ich aktualisiere diese Seite, wenn sich das Datenbankschema oder die Speicherschicht spürbar ändert.
Frequently asked questions
Welche VPS-Mindestspezifikation braucht man zum Selbsthosten von Letta?
2 vCPU und 4 GB RAM sind die Untergrenze, wenn Letta auf eine externe Modell-API zugreift. Den Großteil des Footprints machen die PostgreSQL-plus-pgvector-Datenbank, der FastAPI-Server und die Agent-Laufzeitumgebung aus. Mit zehn oder zwanzig aktiven Agenten bleibt man komfortabel unter 2 GB im Arbeitsspeicher. Sobald zehntausende Memory-Passagen gespeichert werden, sollte man auf 8 GB gehen, damit der Vektorindex im RAM liegt.
Braucht Letta einen eigenen PostgreSQL-Server?
Letta bringt einen eingebetteten SQLite-Modus für Tests und einen PostgreSQL-plus-pgvector-Modus für den echten Betrieb mit. Für Self-Hosting sollte man den Postgres-Modus wählen, entweder auf demselben VPS oder auf einer verwalteten Datenbank. SQLite reicht für das erste Wochenende, ist aber im dritten Monat eine Katastrophe.
Kann man Letta auf einem 5-Dollar-Contabo-VPS betreiben?
Ja, für einen einzelnen Nutzer mit ein paar Agenten. Der Letta-Server selbst ist schlank. Der Kipppunkt liegt bei vielen Agenten mit großen Memory-Blöcken. Auf dieser Skala wird die pgvector-Ähnlichkeitssuche zum Flaschenhals, und man braucht schnellere Disks und mehr RAM.
Braucht man auf dem VPS eine GPU für Letta?
Nur wenn man das Sprachmodell selbst hostet. Letta ist reine Orchestrierung plus Speicherschicht, keine lokale Inferenz. Ein reiner CPU-Server wie ein Hetzner CCX oder eine Contabo-NVMe-Instanz ist der Normalfall, wobei der Modell-API-Key auf OpenAI, Anthropic oder einen eigenen vLLM-Server anderswo zeigt.