Salta al contenuto
Costi & FinOps

Costo per risposta LLM: come si calcola davvero

Token in, token out, contesto, retry e overhead: la formula completa per calcolare il costo reale di ogni risposta generata da un modello AI.

7 min

Quasi tutte le aziende che introducono l'AI generativa iniziano con un conto mensile: quanto costa la licenza. È la metrica sbagliata. L'unità economica reale dell'AI è il costo per risposta, e cambia di due ordini di grandezza a seconda del modello scelto, della lunghezza del contesto e di quante volte la stessa domanda viene rigenerata.

Chi non misura il costo per risposta non può ottimizzarlo: vede solo un totale a fine mese, senza sapere quali reparti, quali casi d'uso e quali abitudini lo hanno generato.

La formula base

Il costo di una singola chiamata a un modello linguistico si compone di tre voci principali: token di input, token di output ed eventuale contesto ricaricato (documenti, cronologia della conversazione, istruzioni di sistema).

In forma semplice: costo = (token_input / 1000 × prezzo_input) + (token_output / 1000 × prezzo_output). Il prezzo di output è quasi sempre superiore a quello di input, spesso di 3-5 volte: significa che una risposta prolissa costa molto più di una domanda lunga.

  • Token di input: prompt utente + istruzioni di sistema + cronologia + documenti allegati
  • Token di output: la risposta generata, incluse le parti che l'utente scarterà
  • Overhead: retry automatici, verifiche di qualità, chiamate di classificazione preliminari

Le voci che quasi nessuno conteggia

La differenza tra la stima teorica e la fattura reale nasce quasi sempre dalle voci invisibili. La cronologia della conversazione viene reinviata a ogni turno: al decimo messaggio l'input può essere dieci volte il primo. I documenti allegati vengono spesso reinviati integralmente invece che come estratti pertinenti. E ogni retry silenzioso, ogni riformulazione automatica, ogni passaggio di verifica è una chiamata a pagamento.

Un sistema di governo dei costi serio registra ogni chiamata a livello di evento — modello, token in, token out, latenza, esito, utente, area — e non a livello di riepilogo mensile.

Dal costo tecnico al costo di business

Il costo per risposta diventa utile quando viene attribuito: a quale reparto, a quale processo, a quale persona. Solo così si scopre che il 70% della spesa proviene dal 10% dei casi d'uso, e che quel 10% spesso può essere servito da un modello molto più economico senza perdita di qualità percepita.

Artiplane registra ogni evento di consumo in micro-euro, lo attribuisce a utente e area aziendale e lo confronta con il budget disponibile prima che la chiamata parta.

Come ridurlo senza perdere qualità

Le tre leve più efficaci, in ordine di impatto: instradare il compito verso il modello più economico che lo risolve, comprimere il contesto trasmesso e limitare la lunghezza dell'output quando la richiesta non la giustifica.

La prima leva è quella che vale di più: la maggior parte delle richieste aziendali quotidiane — riassunti, riscritture, traduzioni, classificazioni — non richiede il modello di punta.

Domande frequenti

Qual è il costo medio di una risposta AI in azienda?+

Dipende dal modello e dalla lunghezza del contesto: una classificazione con un modello leggero può costare frazioni di centesimo, mentre un'analisi documentale lunga con un modello di punta può superare i 20-30 centesimi. È proprio questa distanza che rende decisiva la scelta del modello.

Perché la stima di costo differisce dall'addebito reale?+

Perché la stima si basa sui token previsti, mentre l'addebito conteggia i token effettivamente generati, i retry e le chiamate ausiliarie. Uno scostamento c'è sempre: va monitorato e mantenuto entro una soglia definita.

Conviene un abbonamento per utente o il consumo a token?+

L'abbonamento è prevedibile ma paga anche chi non usa lo strumento; il consumo a token premia l'uso reale ma richiede governo. Un wallet aziendale con budget per area unisce prevedibilità e attribuzione.

Come si attribuisce il costo AI ai singoli reparti?+

Registrando ogni chiamata con l'identificativo di utente e area e sommando gli eventi per periodo. Senza attribuzione a livello di evento, qualsiasi ripartizione a posteriori è una stima.

Continua a leggere

Vuoi vedere Artiplane sui vostri casi d'uso?

Una demo di 30 minuti sul vostro scenario reale: routing, budget per area e tracciamento delle interazioni.

Richiedi una demo