Scegliere un modello AI: OpenAI vs Anthropic vs LLM locali
Il vantaggio pratico più grande di un assistente indipendente dal modello come OpenClaw è che questa decisione è reversibile. Porti la tua chiave, puoi cambiare idea in un minuto e puoi usare modelli diversi per compiti diversi. Questa guida riguarda come fare la scelta in modo corretto più che quale marchio scegliere, perché i marchi cambiano più in fretta di quanto una pagina possa seguire.
Parti dal criterio che fa davvero rompere le cose
Prima di capacità, prezzo o lunghezza del contesto, verifica una cosa: il modello supporta le chiamate agli strumenti (tool calling)? Un assistente agisce facendo emettere al modello una chiamata strutturata a uno strumento, e non tutti i modelli lo sanno fare. Se punti OpenClaw su uno che non ci riesce, ottieni un interlocutore fluente che descrive ciò che sta per fare e poi non fa nulla. Nessun errore appare, ed è per questo che è il problema più spesso diagnosticato male negli assistenti self-hosted, e il motivo per cui ha una sezione dedicata in perché un assistente smette di rispondere.
Esiste anche una versione più sottile che conta. Alcuni modelli supportano le chiamate agli strumenti ma le fanno in modo inaffidabile, producendo chiamate malformate che falliscono e vengono ripetute. Un modello che ripete le richieste non è più economico di uno più forte che le azzecca al primo colpo, qualunque cosa dica il prezzo per token.
Le quattro dimensioni che vale la pena confrontare
- Qualità del ragionamento. Quanto bene gestisce un compito con più passaggi e qualche ambiguità. È ciò che noti nei lavori difficili e non noti mai in quelli facili.
- Finestra di contesto. Quanto può contenere in una volta sola. È importante per i documenti lunghi, e costa più di quanto sembri, perché una conversazione lunga reinvia la propria cronologia a ogni turno.
- Latenza. Quanto aspetti. Su un assistente di chat questo conta più di quanto la gente ammetta: un assistente per cui aspetti trenta secondi è uno che smetti di usare.
- Postura sulla privacy. Dove vanno i contenuti e cosa dice la politica del fornitore su conservazione e addestramento. Leggi la politica del piano su cui sei effettivamente, perché spesso differisce tra accesso consumer e API.
Nota che il prezzo non è in quell'elenco. Conta, ma viene dopo: un modello che richiede meno tentativi e prompt più brevi per fare bene il tuo lavoro può costare meno pur avendo una tariffa dichiarata più alta.
I fornitori ospitati
OpenAI
Un'ottima scelta predefinita generale, con un uso affidabile degli strumenti, un ampio supporto dell'ecosistema e una gamma che va dai modelli piccoli e veloci a quelli grandi e capaci. Se non hai un motivo specifico per scegliere altrimenti, partire da qui e cambiare dopo non ti costa nulla. Paghi OpenAI direttamente con la tua chiave.
Anthropic
I modelli Claude sono noti per un ragionamento accurato e ben strutturato, un contesto lungo e un'aderenza stretta alle istruzioni. Vanno bene per un assistente che fa molta lettura e scrittura, e per flussi di lavoro in cui vuoi che il modello faccia esattamente ciò che è stato chiesto e non qualcosa di vicino.
Il punto forte principale di Gemini è un contesto molto grande, adatto a lavori dominati da documenti lunghi, trascrizioni o codebase che devono essere ragionati in un unico passaggio invece che divisi in parti.
Aggregatori
Servizi come OpenRouter mettono molti fornitori dietro un'unica chiave e un'unica API, il che è davvero utile quando vuoi confrontare modelli o instradare compiti diversi verso modelli diversi senza gestire più account. Il compromesso è un'altra parte nel percorso e, nei piani gratuiti, limiti reali: le varianti gratuite dei modelli sono limitate al minuto e al giorno, e questi limiti mordono un assistente più di un chatbot, perché un agente fa più richieste per ogni compito.
Modelli locali, in modo realistico
Eseguire un modello sulla tua istanza tramite Ollama è la garanzia di privacy più forte disponibile, perché nulla viene inviato da nessuna parte. Vale la pena essere chiari sul compromesso invece di essere romantici al riguardo.
Prima i conti. Un modello 7B quantizzato a 4 bit occupa circa 4 GB di pesi prima di qualsiasi contesto di conversazione e prima di OpenClaw stesso, quindi il piano base non ne può contenere uno e 8 GB sono il minimo realistico. I modelli più grandi scalano di conseguenza, e senza GPU l'inferenza gira sulla CPU ed è così lenta che la maggior parte di chi ci prova per l'uso quotidiano torna a un modello ospitato. Vedi i requisiti del server per capire come questo cambia il dimensionamento.
La cornice onesta è che l'inferenza locale è giusta per compiti specifici invece che come impostazione predefinita: contenuti che non sei disposto a mandare da nessuna parte, lavori che devono continuare a funzionare senza internet, o un carico di lavoro ad alto volume in cui il prezzo per token è il vincolo. Per tutto il resto, un modello ospitato con un assistente self-hosted tiene già la cronologia delle conversazioni, le credenziali e le integrazioni sul tuo server, che è gran parte di ciò che le persone intendono per privacy.
Confronto rapido
| Opzione | Ideale per | Dove vanno i contenuti | Modello di costo |
|---|---|---|---|
| OpenAI | Scelta predefinita generale, uso affidabile degli strumenti | API OpenAI | A token, con la tua chiave |
| Anthropic | Documenti lunghi, scrittura accurata e aderenza alle istruzioni | API Anthropic | A token, con la tua chiave |
| Contesto molto lungo in un unico passaggio | API Google | A token, con la tua chiave | |
| Aggregatore | Confrontare o instradare tra molti modelli | Aggregatore, poi fornitore | A token, più un margine |
| Locale tramite Ollama | Contenuti che non devono uscire, o nessun costo per token | Resta sulla tua istanza | La tua potenza di calcolo, 8 GB e oltre |
Come decidere davvero
I confronti scritti da altri sono un punto di partenza e un povero sostituto di due ore di test tuoi. Il metodo che funziona:
- Scegli il compito che più vuoi che l'assistente faccia bene. Non un benchmark, uno reale.
- Eseguilo su due modelli candidati con lo stesso prompt.
- Confronta le tre cose con cui dovrai convivere: la risposta era giusta, quanto hai aspettato e cosa diceva la dashboard del fornitore sui consumi.
- Tieni il vincitore come predefinito e lascia configurato l'altro, perché il compito successivo potrebbe andare nella direzione opposta.
Ci vuole un pomeriggio e risolve la questione molto meglio di qualsiasi tabella, compresa quella qui sopra.
Non devi sceglierne uno solo
Poiché OpenClaw è indipendente dal modello, la risposta reale di solito è una divisione: un modello ospitato capace come predefinito, qualcosa di economico e veloce per la riformattazione di routine, e un modello locale per la manciata di cose che preferiresti non mandare da nessuna parte. Cambiare non costa nulla a livello strutturale, perché il modello è configurazione e non architettura. Le tue integrazioni, la cronologia e la configurazione restano invariate con il cambio.
Pronto a provarlo? Segui la guida per il self-hosting di OpenClaw, controlla i requisiti del server se un modello locale è nella tua lista, oppure distribuisci dalla homepage.