Persyaratan Server Agen AI

Apakah kamu membutuhkan GPU untuk self-host AI agent?

Hampir pasti tidak, dan ini adalah salah paham terbesar tentang self-hosting agen. Orang sering mencampuradukkan dua pekerjaan yang sangat berbeda: menjalankan model, dan menjalankan agen.

• Menjalankan model, yaitu mengubah token menjadi token. Ini bagian yang membutuhkan GPU, VRAM besar, dan mesin berukuran besar.
• Menjalankan agen, yaitu memutuskan langkah berikutnya, memanggil alat dan API, menyimpan memori, mencoba ulang saat gagal, dan menggerakkan alurnya. Ini pekerjaan aplikasi biasa: butuh sedikit CPU, RAM secukupnya, dan sedikit disk.

Agen bawa-kunci-sendiri seperti Hermes Agent hanya melakukan pekerjaan kedua. Saat butuh model untuk berpikir, ia membuat permintaan HTTPS ke OpenRouter, OpenAI, atau Anthropic menggunakan akunmu sendiri, lalu menunggu jawabannya. Servermu menghabiskan sebagian besar waktunya menganggur menunggu jaringan. Itulah sebabnya instance kecil sudah cukup, dan mengapa GPU hanya akan menganggur.

Pengecualiannya jika kamu ingin menjalankan model bahasa di perangkat kerasmu sendiri juga, dengan mengarahkan agen ke endpoint lokal yang kompatibel dengan OpenAI. Itu pengaturan yang sah, tetapi merupakan mesin yang berbeda dengan kebutuhan yang berbeda: VRAM menjadi batas utama, dan angka di bawah tidak lagi berlaku untuknya.

Kebutuhan minimum dan yang direkomendasikan

Ini adalah kebutuhan untuk runtime agen itu sendiri. Penyedia AI kamu menagih terpisah untuk pemakaian model, dan biaya itu bergantung pada seberapa banyak agen berpikir, bukan pada ukuran server tempat agen berjalan.

Cara menentukan ukuran untuk beban kerjamu

Menentukan ukuran agen bukan soal berapa banyak tugas yang kamu miliki, tetapi berapa banyak yang berjalan bersamaan, dan seberapa besar memori yang dipakai tiap tugas saat bekerja.

• Asisten pribadi, beberapa tugas terjadwal, dan pekerjaan ad-hoc sesekali: 2 vCPU / 4 GB sudah nyaman. Instance itu sebagian besar waktu hanya menganggur.
• Beberapa agen bersamaan, riset multi-langkah yang panjang, atau tugas yang mengunduh dan memproses file: 4 vCPU / 8 GB. Konkurensi dan working set yang mendorongmu ke sini, bukan jumlah tugas.
• Agen yang menjalankan alat berat seperti build, otomatisasi browser, atau pemrosesan media: sesuaikan ukurannya dengan alat bantunya, bukan dengan agennya. Alat bantu itulah yang akan paling banyak memakai CPU dan RAM.

Mulai dari yang kecil. Karena agen sebagian besar menunggu penyedia model, instance yang tidak terbebani adalah kondisi normal, dan menaikkan skala nanti adalah perubahan paket, bukan migrasi.

Berapa biayanya di Flux

Kedua paket menggunakan bayar sesuai pemakaian dengan minggu pertama gratis, dan keduanya sudah termasuk dashboard yang dilindungi kata sandi, Tailscale bawaan untuk akses jaringan privat, TLS, dan proteksi DDoS. Pemakaian penyedia AI kamu ditagih oleh mereka, bukan oleh kami, karena Hermes adalah bawa-kunci-sendiri. Lihat panduan langkah demi langkah self-hosting agen AI untuk tutorial deployment.

Apakah angka-angka ini berubah di VPS DIY?

Agen membutuhkan CPU, RAM, dan disk yang sama di mana pun ia berjalan. Namun di VPS, kamu juga menanggung sistem operasi, runtime container, reverse proxy, dan monitoring apa pun yang kamu tambahkan, jadi siapkan ruang lebih di atas angka di atas, bukan sekadar menyamakannya.

Perbedaan yang lebih besar bukan pada kapasitas, melainkan pada semua yang mengelilinginya: perpanjangan sertifikat, aturan firewall, patching, backup, dan menjadi orang yang menyadari saat server berhenti merespons pukul 3 pagi. Itulah kebutuhan nyata dari self-hosting, dan kebutuhan tersebut tidak muncul di tabel spesifikasi.