Un agente AI self-hosted richiede molto meno hardware di quanto la gente pensi: 2 vCPU, 4 GB di RAM e circa 20 GB di disco bastano per l'uso quotidiano, e non serve alcuna GPU. L'agente orchestra: pianifica, chiama strumenti e gestisce la memoria, mentre la pesante inferenza del modello gira presso il provider AI di cui porti la chiave. Una GPU entra in gioco solo se vuoi far girare anche il modello linguistico sul tuo hardware, che è una macchina diversa e una decisione diversa.
Serve una GPU per self-hostare un agente AI?
Quasi certamente no, ed è il fraintendimento più diffuso sul self-hosting degli agenti. Si confondono due lavori molto diversi: far girare il modello e far girare l'agente.
- Far girare il modello, cioè trasformare token in token. È la parte che richiede una GPU, molta VRAM e una macchina grande.
- Far girare l'agente significa decidere cosa fare dopo, chiamare strumenti e API, memorizzare la memoria, riprovare in caso di errore e guidare il ciclo. È lavoro applicativo ordinario: un po' di CPU, RAM modesta e un po' di disco.
Un agente con chiave propria come Hermes Agent svolge solo il secondo lavoro. Quando ha bisogno che il modello ragioni, invia una richiesta HTTPS a OpenRouter, OpenAI o Anthropic usando il tuo account, e aspetta la risposta. Il tuo server passa gran parte della vita inattivo ad aspettare la rete. Per questo basta un'istanza piccola, e una GPU resterebbe inutilizzata.
L'eccezione è se vuoi far girare anche il modello linguistico sul tuo hardware, puntando l'agente a un endpoint locale compatibile con OpenAI. È una configurazione legittima, ma su una macchina diversa con requisiti diversi: la VRAM diventa il vincolo, e i numeri qui sotto non valgono più.
Requisiti minimi e consigliati
| Risorsa | Minimo | Consigliato | Perché |
|---|---|---|---|
| CPU | 2 vCPU | 4 vCPU | Il ciclo dell'agente, le chiamate agli strumenti e il TLS richiedono poca CPU; più core aiutano quando più compiti girano insieme. |
| RAM | 4 GB | 8 GB | Contiene il runtime, la memoria di lavoro dell'agente e gli eventuali processi degli strumenti che avvia. I compiti di lunga durata con contesti grandi sono il consumatore principale. |
| Disco | 20 GB | 80 GB | Software dell'agente, log, e memoria e artefatti accumulati. Gli agenti che scaricano o generano file crescono più in fretta di quanto ti aspetti. |
| GPU | Nessuno | Nessuno | L'inferenza avviene presso il tuo provider AI. Una GPU serve solo se self-hosti anche il modello. |
| Rete | Sempre attivo | Sempre attivo | Un agente che monitora, pianifica o risponde a webhook deve restare raggiungibile: un laptop o una funzione serverless non bastano. |
| Uptime | 24/7 | 24/7 | I compiti pianificati ed event-driven partono che tu sia alla scrivania o no. |
Questi sono i requisiti del runtime dell'agente stesso. Il tuo provider AI fattura a parte l'utilizzo del modello, e quel costo scala con quanto ragiona l'agente, non con la dimensione del server su cui gira.
Come dimensionare per il tuo carico di lavoro
Dimensionare un agente non dipende da quanti compiti hai, ma da quanti girano nello stesso momento e da quanta memoria occupa ciascuno mentre lavora.
- Assistente personale, qualche compito pianificato, lavoro occasionale: 2 vCPU / 4 GB sono sufficienti. L'istanza è inattiva per la maggior parte del tempo.
- Più agenti concorrenti, lunghe ricerche multi-passaggio o compiti che scaricano ed elaborano file: 4 vCPU / 8 GB. A portarti qui sono la concorrenza e il set di lavoro, non il numero di compiti.
- Gli agenti che lanciano strumenti pesanti come build, automazione del browser o elaborazione di media: dimensiona in base allo strumento, non all'agente. Lo strumento dominerà sia la CPU che la RAM.
Parti in piccolo. Poiché l'agente passa gran parte del tempo ad aspettare il provider del modello, un'istanza poco carica è lo stato normale, e salire di dimensione in seguito è un cambio di piano, non una migrazione.
Cosa costa su Flux
| Piano | Risorse | Prezzo |
|---|---|---|
| Hermes Agent | 2 vCPU · 4 GB di RAM · 20 GB di disco | $5.49/month |
| Hermes Agent Pro | 4 vCPU · 8 GB di RAM · 80 GB di disco | $9.49/month |
Entrambi i piani sono a consumo con la prima settimana gratuita, e includono la dashboard protetta da password, il Tailscale integrato per l'accesso alla rete privata, TLS e protezione DDoS. L'utilizzo del tuo provider AI è fatturato da loro, non da noi, perché Hermes usa la tua chiave. Per la procedura di distribuzione, vedi la guida passo dopo passo per self-hostare un agente AI.
Questi numeri cambiano su un VPS fai-da-te?
L'agente ha bisogno della stessa CPU, RAM e disco ovunque giri, ma su un VPS porti anche il sistema operativo, un runtime per container, un reverse proxy e il monitoraggio che aggiungi, quindi prevedi un margine oltre ai valori sopra invece di eguagliarli esattamente.
La differenza più grande non è la capacità, ma tutto ciò che la circonda: rinnovo dei certificati, regole del firewall, patch, backup e l'essere la persona che se ne accorge quando la macchina smette di rispondere alle 3 di notte. Sono i veri requisiti del self-hosting, e non compaiono in una tabella di specifiche.
Domande frequenti
Serve una GPU per far girare un agente AI self-hosted?
No, non per l'agente stesso. Con un agente bring-your-own-key come Hermes, l'inferenza del modello gira sul tuo fornitore AI (OpenRouter, OpenAI, Anthropic) e l'agente si limita a orchestrare: pianificare, chiamare tool e gestire la memoria. È un lavoro leggero per la CPU. Ti servirebbe una GPU solo se scegliessi anche di far girare il modello linguistico sul tuo hardware, che è una macchina separata.
Quanta RAM serve a un agente AI?
4 GB bastano per l'uso quotidiano: un assistente personale, compiti pianificati e lavori occasionali. Passa a 8 GB se fai girare più agenti in contemporanea, fai lunghe ricerche multi-passaggio o hai compiti che scaricano ed elaborano file. La RAM dipende dalla concorrenza e dal set di lavoro, non da quanti compiti hai definito.
Quanta CPU usa un agente AI self-hosted?
Pochissimo in media. L'agente passa la maggior parte del tempo ad aspettare risposte di rete dal provider del modello, quindi 2 vCPU bastano per l'uso normale. Più core servono soprattutto quando più compiti girano contemporaneamente, o quando l'agente lancia strumenti pesanti come build o automazione del browser.
Posso far girare un agente AI su un Raspberry Pi o su un laptop?
I requisiti hardware sono così bassi che l'hardware non è l'ostacolo: l'ostacolo è l'uptime. Un agente che monitora sistemi, gira su una pianificazione o risponde a webhook deve essere raggiungibile in ogni momento, cosa che esclude un laptop che va in sospensione e un dispositivo di casa che dipende dalla tua corrente e dalla tua connessione.
Quanto spazio su disco serve a un agente AI?
Circa 20 GB per iniziare. Coprono il software dell'agente, i log e la memoria accumulata. Gli agenti che recuperano documenti, generano file o mantengono storie lunghe crescono più in fretta del previsto, quindi 80 GB è la scelta più sicura se il tuo produce artefatti invece che semplici risposte.
Un server più grande rende il mio agente più intelligente o più veloce?
No. Qualità e velocità dipendono dal modello a cui lo punti, e quel modello gira sul tuo provider. Un'istanza più grande aiuta l'agente a gestire più lavoro contemporaneamente e a tenere set di lavoro più grandi, ma non migliora il ragionamento.
Distribuisci il tuo agente AI Hermes
Un'istanza privata sul cloud decentralizzato di Flux da $5.49 al mese, con la tua chiave del modello. Prima settimana gratuita per i nuovi utenti.
Vedi i piani