Vai al contenuto principale
ConfrontiIntermedio8 min di lettura

Agenti aziendali con modelli open: il report Gartner sui costi, i conti e la regola del 90%

i
iaLocale Team
•
Agenti aziendali con modelli open: il report Gartner sui costi, i conti e la regola del 90%

Gartner ha appena pubblicato un report che, se lo leggi solo nel titolo, sembra una di quelle previsioni a effetto. Ma dentro ci sono tre numeri che cambiano i conti di un agente che gira davvero in azienda: 9 passi su 10 di un workflow agentico sono routinari, e entro il 2030 il 90% di quei passi girerà su modelli open-weight. Perché? Perché i modelli open-weight gestiscono quei passi ripetitivi a un ventesimo del costo di un modello frontier — e nella realtà, con i ripensamenti e i ritentativi, restano comunque 5-6 volte più economici (i due analisti Mark Petty e Raymond Paquet lo scrivono nero su bianco).

La domanda pratica è una sola: cosa cambia per te, se stai mettendo in piedi un agente che lavora ogni giorno? La risposta è che il modo di spendere il tuo budget cambia: non è più "quale modello compero", ma "quale modello uso per quale passo".

Cos'è un passo agentico, e perché 9 su 10 sono uguali

Un agente non fa un'unica mossa grande. Sfrantella un obiettivo in tanti piccoli passi: classifica un documento, chiama uno strumento, valida un dato, riconcilia due tabelle, genera un prompt, ricontrolla l'output. In un workflow operativo tipico, i due analisti stimano che 9 su 10 di questi passi siano routinari — classificazione, tool calling, validazione dei dati, riconciliazione. Sono passi ripetuti migliaia di volte al mese, con lo stesso schema.

Il modello frontier, quello enorme e costoso, eccelle nei passi che restano: i 10% che richiedono ragionamento vero, creatività, il "pensiero" che non si ripete. Lì vale la pena pagare. Ma far passare 9 passi routinari su 10 da un modello frontier è come usare un tir per portare la spesa a casa. Funziona, certo — ma bruciare benzina e pagare a ogni chilometro per un lavoro da bicicletta è uno spreco che si vede in fattura.

I tre numeri, messi in fila

I numeri del report Gartner, ripresi da The Register, sono questi:

ScenarioCosto di un passo routinario
Open-weight rispetto al modello chiuso più economicopari di qualità, a 1/4 del prezzo
Open-weight rispetto a un frontier su ogni passo (teorico)1/20
Open-weight rispetto a un frontier (reale, con ripensamenti e ritentativi)1/5 – 1/6

Il salto tra la riga due e la riga tre è il dettaglio che chi vende "l'IA è gratis" dimentica. I modelli open-weight oggi generano risposte più lunghe e hanno bisogno di più tentativi: quindi il risparmio reale rispetto a un frontier è 5-6 volte, non 20. Ma 5-6 volte su 9 passi su 10, ripetuti ogni giorno, è una cifra che cambia la bolletta.

Facciamo i conti con un numero

Prendiamo un caso concreto, con valori illustrativi per rendere l'ordine di grandezza (i prezzi API reali variano: il punto è la struttura, non il numero esatto).

Un agente di back-office fa 1.000 passi al giorno, 30 giorni al mese: 30.000 passi/mese. Seguendo i dati Gartner, 9.000 passi... no, ricalcoliamo: 9 su 10 sono routinari, quindi 27.000 passi routinari e 3.000 passi "difficili".

  • I 3.000 passi difficili vanno al modello frontier, via API. Un passo da circa 2.000 token (1.000 in input, 1.000 in output), a un prezzo indicativo di 0,005 €/1.000 token in input e 0,025 €/1.000 in output, costa circa 0,03 € per passo. Totale: 3.000 × 0,03 € = 90 €/mese.
  • I 27.000 passi routinari girano sul tuo hardware, su un modello open-weight. La workstation che li serve (una GPU consumer, diciamo 400 W sotto carico) gira circa 300 ore al mese: 0,4 kW × 300 h = 120 kWh. A 0,25 €/kWh sono 30 €/mese di corrente, più l'ammortamento del macchinario: una postazione da 2.500 € divisa su 36 mesi fa circa 69 €/mese. Totale locale: ~100 €/mese per tutti i 27.000 passi routinari, cioè circa 0,0037 € per passo.

La somma del mix: 90 € + 100 € = 190 €/mese. Se invece mandassi tutti e 30.000 i passi al frontier, faresti 30.000 × 0,03 € = 900 €/mese. Il mix open-weight + frontier ti fa risparmiare ~710 €/mese, circa l'80% sulla parte che conta. E su sola la parte routinaria, il confronto è 810 € (tutto API) contro ~100 € (tutto locale): un rapporto di circa 8 a 1, dello stesso ordine dei 5-6 volte che misura Gartner.

Il punto non è il 710 o il 712. È che i numeri si scompongono in due parti che si pagano in modi diversi: la parte difficile si paga a ogni passo (API, variabile), la parte facile si paga una volta (hardware, fisso).

La parte che il report non dice a voce alta

C'è un passaggio che i due analisti mettono al centro e che conviene a un'azienda più del risparmio: "Gli open-weight preservano il controllo. Il risparmio è un bonus." Ogni volta che mandi un passo routinario a un'API frontier, porti fuori dalla tua perimetro uno strato della storia del tuo workflow. Gli open-weight ti lasciano l'esecuzione dentro. Il controllo sui dati è il vantaggio principale; i soldi che risparmi sono la conseguenza.

Questo è esattamente il motivo per cui l'IA locale esiste: non per risparmiare due centesimi, ma per decidere tu dove gira il lavoro.

Dove sta il valore, davvero

Il report sposta anche il concetto di "dove sta il valore". Non è più nel modello più costoso: è nell'harness, lo strato di orchestrazione che decide quale modello usa per quale passo, senza che tu debba pensarci. Le aziende che trattano la maggioranza dei modelli come beni di consumo e investono nel router — "passo routinario → open-weight, passo difficile → frontier" — sono quelle che catturano il vantaggio. In contabilità la stessa idea: il frontier è una capex (ricerca, si paga quando serve), l'open-weight è una opex (operazioni, girano in continuazione a costo quasi fisso).

Per te, in pratica, significa due cose:

  1. Non scegliere un solo modello. Scegli due: uno locale per il lavoro ripetitivo, uno frontier per il ragionamento difficile.
  2. Spendi bene l'hardware. Una workstation che serve i 27.000 passi al mese ti ammortizza in modo che non hai più un prezzo al passo: è un costo fisso che si diluisce. Se vuoi capire come dimensionarla, dai un'occhiata a Come scegliere il tuo primo modello IA locale e a Come leggere le specifiche di un modello.

Per i conti generali su quanto costa un token, il punto di partenza è Quanto costa un token: cinque strade, i conti e il punto di pareggio. E per il confronto locale contro API fatto con i numeri, Costi: locale vs API, fatto coi numeri.

I limiti, onestamente

Il report è una previsione al 2030, non un dato di oggi. I 90% di passi su open-weight è dove le aziende andranno, non dove sono. E il rapporto 5-6 volte è la stima Gartner per il mix medio: i tuoi passi reali, la tua qualità richiesta, il tuo hardware possono spostare il numero in entrambe le direzioni. Se i tuoi passi "difficili" sono più di 10%, il risparmio si riduce. Se il tuo hardware è lento e i ritentativi aumentano, anche la parte locale peggiora. I numeri sono una struttura per ragionare, non una promessa: metti i tuoi valori nella stessa formula e vedi cosa esce.

Fonti

I prezzi API usati nell'esempio sono valori illustrativi per mostrare la struttura del calcolo: verifica i prezzi correnti del modello che intendi usare.

In sintesi

Gartner stima che 9 passi agentici su 10 siano routinari e che entro il 2030 il 90% di essi giri su modelli open-weight. I motivi: i modelli open-weight gestiscono il lavoro ripetitivo a un quarto del prezzo del modello chiuso più economico, a un ventesimo di un frontier (teorico) e a 5-6 volte (nella realtà). Per un agente che lavora ogni giorno, questo cambia la struttura dei costi: la parte difficile si paga a ogni passo via API, la parte facile si paga una volta come hardware. Il vantaggio principale non è il risparmio — è il controllo, di cui il risparmio è il bonus. La mossa concreta: due modelli, un router che decide per ogni passo, e un hardware dimensionato per assorbire il lavoro ripetitivo a costo fisso.

Articolo generato con IA

Condividi:

Ti è piaciuto questo articolo?

Iscriviti alla newsletter per ricevere nuovi tutorial e guide.

Dopo l'iscrizione ricevi una email di conferma (double opt-in). Senza conferma non inviamo nulla. Nessuno spam, ti promettiamo.

Articoli Correlati

Risorse correlate

Strumenti e risorse dell'archivio iaLocale pertinenti a questo contenuto.