Agenti aziendali con modelli open: il report Gartner sui costi, i conti e la regola del 90%

Gartner ha appena pubblicato un report che, se lo leggi solo nel titolo, sembra una di quelle previsioni a effetto. Ma dentro ci sono tre numeri che cambiano i conti di un agente che gira davvero in azienda: 9 passi su 10 di un workflow agentico sono routinari, e entro il 2030 il 90% di quei passi girerà su modelli open-weight. Perché? Perché i modelli open-weight gestiscono quei passi ripetitivi a un ventesimo del costo di un modello frontier — e nella realtà, con i ripensamenti e i ritentativi, restano comunque 5-6 volte più economici (i due analisti Mark Petty e Raymond Paquet lo scrivono nero su bianco).
La domanda pratica è una sola: cosa cambia per te, se stai mettendo in piedi un agente che lavora ogni giorno? La risposta è che il modo di spendere il tuo budget cambia: non è più "quale modello compero", ma "quale modello uso per quale passo".
Cos'è un passo agentico, e perché 9 su 10 sono uguali
Un agente non fa un'unica mossa grande. Sfrantella un obiettivo in tanti piccoli passi: classifica un documento, chiama uno strumento, valida un dato, riconcilia due tabelle, genera un prompt, ricontrolla l'output. In un workflow operativo tipico, i due analisti stimano che 9 su 10 di questi passi siano routinari — classificazione, tool calling, validazione dei dati, riconciliazione. Sono passi ripetuti migliaia di volte al mese, con lo stesso schema.
Il modello frontier, quello enorme e costoso, eccelle nei passi che restano: i 10% che richiedono ragionamento vero, creatività, il "pensiero" che non si ripete. Lì vale la pena pagare. Ma far passare 9 passi routinari su 10 da un modello frontier è come usare un tir per portare la spesa a casa. Funziona, certo — ma bruciare benzina e pagare a ogni chilometro per un lavoro da bicicletta è uno spreco che si vede in fattura.
I tre numeri, messi in fila
I numeri del report Gartner, ripresi da The Register, sono questi:
| Scenario | Costo di un passo routinario |
|---|---|
| Open-weight rispetto al modello chiuso più economico | pari di qualità, a 1/4 del prezzo |
| Open-weight rispetto a un frontier su ogni passo (teorico) | 1/20 |
| Open-weight rispetto a un frontier (reale, con ripensamenti e ritentativi) | 1/5 – 1/6 |
Il salto tra la riga due e la riga tre è il dettaglio che chi vende "l'IA è gratis" dimentica. I modelli open-weight oggi generano risposte più lunghe e hanno bisogno di più tentativi: quindi il risparmio reale rispetto a un frontier è 5-6 volte, non 20. Ma 5-6 volte su 9 passi su 10, ripetuti ogni giorno, è una cifra che cambia la bolletta.
Facciamo i conti con un numero
Prendiamo un caso concreto, con valori illustrativi per rendere l'ordine di grandezza (i prezzi API reali variano: il punto è la struttura, non il numero esatto).
Un agente di back-office fa 1.000 passi al giorno, 30 giorni al mese: 30.000 passi/mese. Seguendo i dati Gartner, 9.000 passi... no, ricalcoliamo: 9 su 10 sono routinari, quindi 27.000 passi routinari e 3.000 passi "difficili".
- I 3.000 passi difficili vanno al modello frontier, via API. Un passo da circa 2.000 token (1.000 in input, 1.000 in output), a un prezzo indicativo di 0,005 €/1.000 token in input e 0,025 €/1.000 in output, costa circa 0,03 € per passo. Totale: 3.000 × 0,03 € = 90 €/mese.
- I 27.000 passi routinari girano sul tuo hardware, su un modello open-weight. La workstation che li serve (una GPU consumer, diciamo 400 W sotto carico) gira circa 300 ore al mese: 0,4 kW × 300 h = 120 kWh. A 0,25 €/kWh sono 30 €/mese di corrente, più l'ammortamento del macchinario: una postazione da 2.500 € divisa su 36 mesi fa circa 69 €/mese. Totale locale: ~100 €/mese per tutti i 27.000 passi routinari, cioè circa 0,0037 € per passo.
La somma del mix: 90 € + 100 € = 190 €/mese. Se invece mandassi tutti e 30.000 i passi al frontier, faresti 30.000 × 0,03 € = 900 €/mese. Il mix open-weight + frontier ti fa risparmiare ~710 €/mese, circa l'80% sulla parte che conta. E su sola la parte routinaria, il confronto è 810 € (tutto API) contro ~100 € (tutto locale): un rapporto di circa 8 a 1, dello stesso ordine dei 5-6 volte che misura Gartner.
Il punto non è il 710 o il 712. È che i numeri si scompongono in due parti che si pagano in modi diversi: la parte difficile si paga a ogni passo (API, variabile), la parte facile si paga una volta (hardware, fisso).
La parte che il report non dice a voce alta
C'è un passaggio che i due analisti mettono al centro e che conviene a un'azienda più del risparmio: "Gli open-weight preservano il controllo. Il risparmio è un bonus." Ogni volta che mandi un passo routinario a un'API frontier, porti fuori dalla tua perimetro uno strato della storia del tuo workflow. Gli open-weight ti lasciano l'esecuzione dentro. Il controllo sui dati è il vantaggio principale; i soldi che risparmi sono la conseguenza.
Questo è esattamente il motivo per cui l'IA locale esiste: non per risparmiare due centesimi, ma per decidere tu dove gira il lavoro.
Dove sta il valore, davvero
Il report sposta anche il concetto di "dove sta il valore". Non è più nel modello più costoso: è nell'harness, lo strato di orchestrazione che decide quale modello usa per quale passo, senza che tu debba pensarci. Le aziende che trattano la maggioranza dei modelli come beni di consumo e investono nel router — "passo routinario → open-weight, passo difficile → frontier" — sono quelle che catturano il vantaggio. In contabilità la stessa idea: il frontier è una capex (ricerca, si paga quando serve), l'open-weight è una opex (operazioni, girano in continuazione a costo quasi fisso).
Per te, in pratica, significa due cose:
- Non scegliere un solo modello. Scegli due: uno locale per il lavoro ripetitivo, uno frontier per il ragionamento difficile.
- Spendi bene l'hardware. Una workstation che serve i 27.000 passi al mese ti ammortizza in modo che non hai più un prezzo al passo: è un costo fisso che si diluisce. Se vuoi capire come dimensionarla, dai un'occhiata a Come scegliere il tuo primo modello IA locale e a Come leggere le specifiche di un modello.
Per i conti generali su quanto costa un token, il punto di partenza è Quanto costa un token: cinque strade, i conti e il punto di pareggio. E per il confronto locale contro API fatto con i numeri, Costi: locale vs API, fatto coi numeri.
I limiti, onestamente
Il report è una previsione al 2030, non un dato di oggi. I 90% di passi su open-weight è dove le aziende andranno, non dove sono. E il rapporto 5-6 volte è la stima Gartner per il mix medio: i tuoi passi reali, la tua qualità richiesta, il tuo hardware possono spostare il numero in entrambe le direzioni. Se i tuoi passi "difficili" sono più di 10%, il risparmio si riduce. Se il tuo hardware è lento e i ritentativi aumentano, anche la parte locale peggiora. I numeri sono una struttura per ragionare, non una promessa: metti i tuoi valori nella stessa formula e vedi cosa esce.
Fonti
- Open models can do 90% of agentic work at a twentieth of the cost of a frontier LLM: Gartner — The Register
- Gartner predicts open-weight models will run 90 percent of agentic steps by 2030 — sintesi del report
I prezzi API usati nell'esempio sono valori illustrativi per mostrare la struttura del calcolo: verifica i prezzi correnti del modello che intendi usare.
In sintesi
Gartner stima che 9 passi agentici su 10 siano routinari e che entro il 2030 il 90% di essi giri su modelli open-weight. I motivi: i modelli open-weight gestiscono il lavoro ripetitivo a un quarto del prezzo del modello chiuso più economico, a un ventesimo di un frontier (teorico) e a 5-6 volte (nella realtà). Per un agente che lavora ogni giorno, questo cambia la struttura dei costi: la parte difficile si paga a ogni passo via API, la parte facile si paga una volta come hardware. Il vantaggio principale non è il risparmio — è il controllo, di cui il risparmio è il bonus. La mossa concreta: due modelli, un router che decide per ogni passo, e un hardware dimensionato per assorbire il lavoro ripetitivo a costo fisso.
Articolo generato con IA
In questi percorsi
Ti è piaciuto questo articolo?
Iscriviti alla newsletter per ricevere nuovi tutorial e guide.
Articoli Correlati

Yzma: embedding fino a 2,6x più veloci di Ollama, il confronto
Yzma chiama llama.cpp dentro al processo: niente server, niente round trip. Su embedding è 2,6x più rapido di Ollama — con i numeri, il calcolo e il setup.

ML Drift: il motore GPU on-device open source di Google, e quando batte i generalisti
Il motore che fa girare i modelli dentro Chrome e YouTube, ora è open source: architettura, numeri di benchmark e il confronto onesto con Ollama e llama.cpp.

