Ein selbst gehosteter KI-Agent braucht weit weniger Hardware, als die meisten erwarten: 2 vCPU, 4 GB RAM und etwa 20 GB Speicherplatz reichen für die alltägliche Nutzung, und eine GPU ist nicht nötig. Der Agent orchestriert, also plant er, ruft Tools auf und verwaltet den Speicher, während die schwere Modell-Inferenz bei dem KI-Anbieter läuft, für den du einen Schlüssel mitbringst. Eine GPU kommt nur ins Spiel, wenn du das Sprachmodell selbst auf eigener Hardware betreiben willst, was eine separate Maschine und eine separate Entscheidung ist.
Brauchst du eine GPU, um einen KI-Agent selbst zu hosten?
Mit ziemlicher Sicherheit nicht, und das ist das größte Missverständnis beim Self-Hosting von Agents. Viele werfen zwei sehr verschiedene Aufgaben durcheinander: das Modell betreiben und den Agent betreiben.
- Das Modell betreiben: Tokens in Tokens verwandeln. Dieser Teil braucht eine GPU, viel VRAM und eine große Maschine.
- Den Agent ausführen: entscheiden, was als Nächstes zu tun ist, Tools und APIs aufrufen, Speicher ablegen, bei Fehlern wiederholen und die Schleife steuern. Das ist gewöhnliche Anwendungsarbeit: etwas CPU, mäßig RAM, ein wenig Speicherplatz.
Ein Bring-your-own-key-Agent wie Hermes Agent übernimmt nur die zweite Aufgabe. Braucht er das Modell zum Denken, schickt er mit deinem eigenen Konto eine HTTPS-Anfrage an OpenRouter, OpenAI oder Anthropic und wartet auf die Antwort. Dein Server verbringt die meiste Zeit im Leerlauf und wartet aufs Netzwerk. Deshalb reicht eine kleine Instanz, und deshalb bliebe eine GPU ungenutzt.
Die Ausnahme: Du willst das Sprachmodell auch auf eigener Hardware betreiben und den Agent auf einen lokalen OpenAI-kompatiblen Endpunkt richten. Das ist ein legitimes Setup, aber eine andere Maschine mit anderen Anforderungen: VRAM wird zum begrenzenden Faktor, und die Zahlen unten gelten dafür nicht mehr.
Mindest- und empfohlene Anforderungen
| Ressource | Minimum | Empfohlen | Warum |
|---|---|---|---|
| CPU | 2 vCPU | 4 vCPU | Die Agent-Schleife, Tool-Aufrufe und TLS sind CPU-leicht; mehr Kerne helfen, wenn mehrere Aufgaben gleichzeitig laufen. |
| RAM | 4 GB | 8 GB | Hält die Laufzeit, den Arbeitsspeicher des Agents und alle Tool-Prozesse, die er startet. Lang laufende Aufgaben mit großem Kontext sind der Hauptverbraucher. |
| Festplatte | 20 GB | 80 GB | Agent-Software, Logs sowie angesammelter Speicher und Artefakte. Agents, die Dateien abrufen oder erzeugen, wachsen schneller als erwartet. |
| GPU | Keine | Keine | Die Inferenz läuft bei deinem KI-Anbieter. Eine GPU brauchst du nur, wenn du das Modell ebenfalls selbst hostest. |
| Netzwerk | Immer an | Immer an | Ein Agent, der überwacht, plant oder auf Webhooks reagiert, muss erreichbar bleiben, ein Laptop oder eine Serverless-Funktion reicht nicht. |
| Uptime | 24/7 | 24/7 | Geplante und ereignisgesteuerte Aufgaben laufen, egal ob du am Schreibtisch sitzt. |
Das sind die Anforderungen für die Agent-Laufzeit selbst. Dein KI-Anbieter rechnet die Modellnutzung separat ab, und diese Kosten wachsen damit, wie viel der Agent denkt, nicht mit der Größe des Servers, auf dem er läuft.
So dimensionierst du für deine Last
Beim Dimensionieren eines Agents kommt es nicht darauf an, wie viele Aufgaben du hast, sondern wie viele gleichzeitig laufen und wie viel jede davon beim Arbeiten im Speicher hält.
- Persönlicher Assistent, eine Handvoll geplanter Aufgaben, gelegentliche Ad-hoc-Arbeit: 2 vCPU / 4 GB sind bequem. Die Instanz ist die meiste Zeit im Leerlauf.
- Mehrere gleichzeitige Agents, lange mehrstufige Recherche-Läufe oder Aufgaben, die Dateien herunterladen und verarbeiten: 4 vCPU / 8 GB. Gleichzeitigkeit und Arbeitsmenge treiben dich hierhin, nicht die Zahl der Aufgaben.
- Agents, die schwere Tools aufrufen (Builds, Browser-Automatisierung, Medienverarbeitung): Dimensioniere für das Tool, nicht für den Agent. Das Tool bestimmt sowohl CPU als auch RAM.
Fang klein an. Weil der Agent meist auf den Modellanbieter wartet, ist eine nicht ausgelastete Instanz der Normalzustand, und späteres Hochskalieren ist ein Tarifwechsel und keine Migration.
Was das bei Flux kostet
| Tarif | Ressourcen | Preis |
|---|---|---|
| Hermes Agent | 2 vCPU · 4 GB RAM · 20 GB Speicherplatz | $5.49/month |
| Hermes Agent Pro | 4 vCPU · 8 GB RAM · 80 GB Speicherplatz | $9.49/month |
Beide Tarife gelten nach Verbrauch mit der ersten Woche gratis, und beide enthalten das passwortgeschützte Dashboard, integriertes Tailscale für den Zugriff aufs private Netzwerk, TLS und DDoS-Schutz. Die Nutzung deines KI-Anbieters rechnet dieser ab, nicht wir, weil Hermes Bring-your-own-key ist. Die Bereitstellung beschreibt die Schritt-für-Schritt-Anleitung zum Self-Hosting eines KI-Agents.
Ändern sich diese Zahlen bei einem DIY-VPS?
Der Agent braucht überall dieselbe CPU, denselben RAM und Speicherplatz, aber auf einem VPS trägst du zusätzlich das Betriebssystem, eine Container-Laufzeit, einen Reverse-Proxy und jedes Monitoring, das du ergänzt. Plane also Reserven über den obigen Werten ein, statt sie exakt zu übernehmen.
Der größere Unterschied ist nicht die Kapazität, sondern alles drumherum: Zertifikatserneuerung, Firewall-Regeln, Patches, Backups und die Rolle der Person, die um 3 Uhr nachts merkt, dass die Maschine nicht mehr antwortet. Das sind die echten Anforderungen des Self-Hostings, und sie stehen in keiner Spezifikationstabelle.
Häufig gestellte Fragen
Brauche ich eine GPU, um einen selbst gehosteten KI-Agent zu betreiben?
Nein, nicht für den Agent selbst. Bei einem Bring-your-own-key-Agent wie Hermes läuft die Modell-Inferenz bei deinem KI-Anbieter (OpenRouter, OpenAI, Anthropic), und der Agent orchestriert nur: planen, Tools aufrufen und Speicher verwalten. Das ist CPU-leichte Arbeit. Eine GPU bräuchtest du nur, wenn du das Sprachmodell zusätzlich auf eigener Hardware betreibst, was eine separate Maschine ist.
Wie viel RAM braucht ein KI-Agent?
4 GB reichen für die alltägliche Nutzung: ein persönlicher Assistent, geplante Aufgaben und gelegentliche Ad-hoc-Arbeit. Wechsle auf 8 GB, wenn du mehrere Agents gleichzeitig betreibst, lange mehrstufige Recherche-Läufe machst oder Aufgaben hast, die Dateien herunterladen und verarbeiten. Der RAM wird durch Gleichzeitigkeit und Arbeitsmenge bestimmt, nicht dadurch, wie viele Aufgaben du definiert hast.
Wie viel CPU nutzt ein selbst gehosteter KI-Agent?
Im Durchschnitt sehr wenig. Der Agent wartet die meiste Zeit auf Netzwerkantworten des Modellanbieters, daher deckt 2 vCPU die normale Nutzung ab. Mehr Kerne helfen vor allem, wenn mehrere Aufgaben gleichzeitig laufen oder der Agent schwere Tools wie Builds oder Browser-Automatisierung aufruft.
Kann ich einen KI-Agent auf einem Raspberry Pi oder einem Laptop betreiben?
Die Ressourcenanforderungen sind so niedrig, dass die Hardware nicht das Hindernis ist, sondern die Verfügbarkeit. Ein Agent, der Systeme überwacht, nach Zeitplan läuft oder auf Webhooks reagiert, muss rund um die Uhr erreichbar sein, was einen Laptop ausschließt, der in den Ruhezustand geht, und ein Heimgerät von deinem eigenen Strom und deiner Verbindung abhängig macht.
Wie viel Speicherplatz braucht ein KI-Agent?
Etwa 20 GB zum Start. Das deckt die Agent-Software, Logs und angesammelten Speicher ab. Agents, die Dokumente abrufen, Dateien erzeugen oder lange Verläufe führen, wachsen schneller als erwartet, daher sind 80 GB die sicherere Wahl, wenn deiner Artefakte statt nur Antworten produziert.
Macht ein größerer Server meinen Agent schlauer oder schneller?
Nein. Qualität und Geschwindigkeit kommen vom Modell, auf das du ihn richtest, und das läuft bei deinem Anbieter. Eine größere Instanz hilft dem Agent, mehr gleichzeitig zu bewältigen und größere Arbeitsmengen zu halten, aber sie verbessert nicht das Denken.
Stelle deinen eigenen Hermes KI-Agent bereit
Eine private Instanz in der dezentralen Flux Cloud ab $5.49 im Monat, mit deinem eigenen Modellschlüssel. Erste Woche gratis für neue Nutzer.
Tarife ansehen