Wymagania serwera agenta AI

Czy do samodzielnego hostowania agenta AI potrzebne jest GPU?

Prawie na pewno nie, i to jest największe nieporozumienie dotyczące self-hostingu agentów. Ludzie mieszają dwie bardzo różne role: uruchamianie modelu i uruchamianie agenta.

• Uruchamianie modelu, czyli zamiana tokenów w tokeny. To część, która wymaga GPU, dużo VRAM i dużej maszyny.
• Uruchamianie agenta, czyli decydowanie, co zrobić dalej, wywoływanie narzędzi i API, przechowywanie pamięci, ponawianie po błędach i prowadzenie pętli. To zwykła praca aplikacji: trochę CPU, umiarkowana ilość RAM i odrobina miejsca na dysku.

Agent z własnym kluczem, taki jak Hermes Agent, wykonuje tylko drugą z tych ról. Gdy potrzebuje, żeby model pomyślał, wysyła żądanie HTTPS do OpenRouter, OpenAI lub Anthropic na twoim koncie i czeka na odpowiedź. Serwer przez większość czasu jest bezczynny, czekając na sieć. Dlatego wystarcza mała instancja, a GPU stałoby bezużyteczne.

Wyjątkiem jest sytuacja, gdy chcesz uruchomić też model językowy na własnym sprzęcie, wskazując agentowi lokalny endpoint zgodny z OpenAI. To poprawna konfiguracja, ale inna maszyna z innymi wymaganiami: wąskim gardłem staje się VRAM, a poniższe liczby do niej już nie pasują.

Wymagania minimalne i zalecane

To wymagania samego środowiska uruchomieniowego agenta. Twój dostawca AI rozlicza zużycie modelu osobno, a ten koszt zależy od tego, ile agent myśli, a nie od wielkości serwera, na którym działa.

Jak dobrać rozmiar pod swoje obciążenie

Dobór rozmiaru agenta nie zależy od liczby zadań, tylko od tego, ile działa jednocześnie i ile każde z nich trzyma w pamięci podczas pracy.

• Osobisty asystent, kilka zaplanowanych zadań i sporadyczna praca doraźna: 2 vCPU / 4 GB w zupełności wystarczy. Instancja przez większość czasu jest bezczynna.
• Kilka równoległych agentów, długie wieloetapowe przebiegi badawcze albo zadania pobierające i przetwarzające pliki: 4 vCPU / 8 GB. O wyborze decyduje równoległość i zbiór roboczy, a nie liczba zadań.
• Agenty, które uruchamiają ciężkie narzędzia (budowanie, automatyzacja przeglądarki, przetwarzanie mediów): dobieraj rozmiar pod narzędzie, a nie pod agenta. To narzędzie zdominuje zarówno CPU, jak i RAM.

Zacznij od małego. Ponieważ agent w większości czeka na dostawcę modelu, niedociążona instancja to normalny stan, a późniejsze zwiększenie mocy to zmiana planu, a nie migracja.

Ile to kosztuje na Flux

Oba plany są płatne za zużycie z pierwszym tygodniem za darmo, oba zawierają chroniony hasłem panel, wbudowany Tailscale do dostępu do sieci prywatnej, TLS i ochronę DDoS. Użycie dostawcy AI rozlicza on sam, nie my, bo Hermes działa na własnym kluczu. Przewodnik krok po kroku po self-hostingu agenta AI opisuje wdrożenie.

Czy te liczby zmieniają się na DIY VPS?

Agent potrzebuje tego samego procesora, RAM i dysku niezależnie od miejsca uruchomienia, ale na VPS dochodzi system operacyjny, środowisko kontenerów, odwrotny proxy i wszelki monitoring, który dodasz, więc zostaw zapas ponad podane wartości, zamiast dopasowywać je dokładnie.

Większa różnica nie leży w pojemności, lecz we wszystkim wokół: odnawianie certyfikatów, reguły zapory, łatanie, backupy i bycie osobą, która zauważa, że maszyna przestała odpowiadać o 3 w nocy. To są prawdziwe wymagania samodzielnego hostowania, a nie pojawiają się w tabeli specyfikacji.