Il tuo agente di supporto funziona, ma la fattura mensile delle API cresce e il prompt ha raggiunto i 2.500 token tra regole, esempi e stile aziendale. Qualcuno nel team dice l’ovvio: facciamo il fine-tuning di un modello più piccolo sui nostri dati, così il prompt si accorcia, il conto scende e le risposte suonano come le nostre. L’idea è ragionevole. Ma la maggior parte delle piccole e medie imprese dovrebbe fare bene i conti prima di agire, perché l’aritmetica non assomiglia alla promessa.
L’addestramento in sé costa poco: pochi dollari, a volte qualche centinaio. Il denaro se ne va altrove: raccolta ed etichettatura degli esempi, test che dicono se il nuovo modello è davvero migliore, riaddestramento quando cambia il modello di base e una persona che risponda di tutto questo. Intanto, quest’autunno, l’offerta è cambiata: la più grande piattaforma self-service di fine-tuning viene smantellata.
Se la tua domanda riguarda innanzitutto dove far girare l’inferenza, la nostra pagina sull’inferenza locale tratta il lato hardware. Questo articolo resta sulla decisione che hai davanti oggi.
Il fine-tuning rende solo con un volume alto e stabile e con un ciclo di valutazione funzionante; altrimenti un prompt migliore, il retrieval e un buon harness danno la maggior parte del beneficio con una frazione dello sforzo. Qui trovi che cosa cambia davvero il fine-tuning, quanto costa una volta contato il lavoro umano, quali provider lo offrono ancora, un break-even calcolato e gli argomenti a favore e contro l’esecuzione del ciclo sul tuo hardware.
Nota di perimetro: il prerequisito delle valutazioni è trattato in valutazioni AI dai ticket reali, e la routine che trasforma le correzioni del personale in regole in il ciclo di feedback dell’AI. Entrambi vengono prima di qualsiasi cosa descritta in questo articolo.
Che cosa cambia il fine-tuning e che cosa lascia com’è
Il fine-tuning modifica i pesi di un modello usando gli esempi che gli fornisci. Hamel Husain, consulente AI che scrive molto di valutazioni, descrive con chiarezza la divisione dei compiti nel suo articolo sulle valutazioni: il fine-tuning è ideale per apprendere sintassi, stile e regole, mentre tecniche come il retrieval forniscono al modello contesto o fatti aggiornati.
La ricerca lo conferma. Gekhman e colleghi, in un articolo del 2024, hanno trovato che gli esempi di fine-tuning che introducono conoscenze nuove vengono appresi in modo nettamente più lento di quelli coerenti con ciò che il modello già sa, e che una volta appresi fanno crescere in modo lineare la sua tendenza ad allucinare. La loro conclusione: i modelli acquisiscono la conoscenza fattuale soprattutto nel pre-addestramento, e il fine-tuning insegna soprattutto a usarla in modo più efficiente.
Per chi guida un’azienda, la ripartizione pratica è questa:
| Vuoi che il modello… | Strumento migliore | Perché |
|---|---|---|
| Conosca il tuo listino, le condizioni, i dati di prodotto | Retrieval (RAG) | Aggiorni un documento e la risposta cambia già domani |
| Segua un formato di output o un tono di voce fissi | Prima il prompt, fine-tuning se il prompt diventa ingestibile | Formato e stile sono ciò che il fine-tuning gestisce bene |
| Applichi in modo affidabile un insieme stabile di regole aziendali | Prima l’harness (controlli, strumenti, validazione), il fine-tuning dopo | Le regole nel codice sono testabili e verificabili |
| Svolga un solo compito circoscritto a costo minimo e ad alto volume | Fine-tuning di un modello piccolo | L’unico caso in cui l’economia per chiamata può davvero cambiare |
Un modello fine-tuned che ha assorbito i prezzi dell’ultimo trimestre li citerà con sicurezza anche nel prossimo. I fatti che cambiano vanno tenuti fuori dai pesi.
Il costo in contanti dell’addestramento è la cifra piccola
Partiamo dalla fattura dell’addestramento, perché è la parte che ci si aspetta più alta. Sulla pagina dei prezzi di OpenAI del 7 novembre 2026, l’addestramento di gpt-4.1-mini era indicato a USD 5,00 per milione di token di addestramento. Un dataset di 2.000 esempi da 500 token ciascuno, per 3 epoche, fa 3 milioni di token di addestramento, cioè circa USD 15.
Husain scrive che il 99% del lavoro nel fine-tuning consiste nel mettere insieme dati di alta qualità che coprano l’intera superficie del tuo prodotto. È l’opinione di un professionista, senza misurazioni dietro alla percentuale, ma chiunque abbia etichettato qualche centinaio di ticket di supporto riconoscerà la proporzione. Anche la guida al fine-tuning di OpenAI apre i suoi consigli con «Good evals first!» e invita a investire nel fine-tuning solo dopo aver impostato le valutazioni. Consiglia inoltre di ottimizzare il prompt su un modello più grande finché i risultati sui tuoi criteri di valutazione sono ottimi.
Le voci di budget da prevedere sono dunque queste:
- Raccolta ed etichettatura degli esempi. Qualcuno che conosce la risposta giusta deve scrivere o approvare ogni esempio di addestramento.
- Il set di valutazione. Un test tenuto da parte, che il modello non vede mai in addestramento, costruito su casi reali.
- Il riaddestramento. Ogni nuovo modello di base e ogni cambio delle tue regole richiedono un’altra esecuzione e un altro giro di valutazioni.
- Un responsabile. Una persona con nome e cognome che decide che cosa sia una buona risposta quando due revisori non sono d’accordo.
Nessuna di queste voci compare sulla fattura del cloud. Tutte compaiono sul tuo libro paga.
Chi offre ancora il fine-tuning a novembre 2026
Il panorama dei provider si è ristretto, e un progetto nato dall’idea di «facciamo il fine-tuning di GPT» va controllato sulle date.
OpenAI sta chiudendo la piattaforma. Secondo la sua pagina delle deprecazioni, dal 7 maggio 2026 la creazione di job è stata chiusa alle organizzazioni che non avevano mai eseguito un fine-tuning. Il 6 gennaio 2027 i clienti esistenti attivi non potranno più creare nuovi job. GPT-4o, GPT-4o mini, GPT-4.1 e GPT-4.1 mini sono in programma per lo spegnimento il 14 gennaio 2027, e le versioni fine-tuned seguono lo stesso calendario dei rispettivi modelli di base.
Il glossario di Anthropic afferma che l’API di Claude al momento non offre fine-tuning e suggerisce, a chi fosse interessato, di rivolgersi al proprio contatto Anthropic.
Mistral segnala la sua documentazione sul fine-tuning come deprecata e non più supportata attivamente.
I modelli open-weight restano la strada percorribile. Puoi addestrare adattatori LoRA su servizi ospitati come Together o Fireworks, su GPU a noleggio o sulla tua macchina. La nostra guida ai modelli open-weight descrive le famiglie di modelli da considerare. Prima dell’uso commerciale controlla la licenza di ogni modello, perché le condizioni variano.
Una nota sui prezzi. I modelli fine-tuned di OpenAI costano di più in esecuzione rispetto al modello base. Sulla sua pagina dei prezzi del 7 novembre 2026, l’inferenza di gpt-4.1-mini fine-tuned era indicata a USD 0,80 per milione di token in ingresso e USD 3,20 per milione di token in uscita, contro USD 0,40 e USD 1,60 del modello base. Lo stesso schema vale per tutti i modelli elencati, da 1,5 a 2 volte il prezzo base. Il risparmio di un fine-tune deve quindi arrivare da un prompt più corto o da un modello più piccolo, perché il prezzo per token sale.
Un break-even calcolato, con le ipotesi in chiaro
Quello che segue è un esempio illustrativo su numeri ipotetici: sostituiscili con i tuoi. Usa i prezzi di gpt-4.1-mini indicati sopra solo perché sono pubblici, e va letto come un esercizio di aritmetica, dato che i nuovi job OpenAI terminano il 6 gennaio 2027.
Ipotesi: ogni chiamata produce 300 token in uscita. Il modello base richiede un prompt da 2.500 token con istruzioni ed esempi. Il modello fine-tuned ha assorbito quegli esempi e richiede un prompt da 300 token.
| Modello base | Fine-tuned | |
|---|---|---|
| Input ogni 1.000 chiamate | 2,5M token a USD 0,40 = USD 1,00 | 0,3M token a USD 0,80 = USD 0,24 |
| Output ogni 1.000 chiamate | 0,3M token a USD 1,60 = USD 0,48 | 0,3M token a USD 3,20 = USD 0,96 |
| Totale ogni 1.000 chiamate | USD 1,48 | USD 1,20 |
Il risparmio è di USD 0,28 ogni 1.000 chiamate. Contro un addestramento da USD 15, il pareggio arriva a circa 54.000 chiamate. A 1.000 chiamate al mese, il risparmio in token è di 28 centesimi di dollaro al mese.
Questa cifra non include etichettatura, valutazioni e riaddestramento, che la sommergerebbero. Quello che l’aritmetica mostra è che il prezzo dei token raramente decide la questione con i volumi di una PMI. Il caso deve poggiare su altro: la qualità delle risposte in un compito in cui il prompting si ferma, la latenza di un prompt più corto e di un modello più piccolo, un requisito di protezione dei dati che esclude l’invio dei prompt a un’API straniera, oppure la fatica di mantenere un prompt molto lungo.
Anche la tendenza gioca contro. Secondo Epoch AI, il prezzo per raggiungere prestazioni di livello GPT-4 su un benchmark scientifico è sceso di circa 40 volte all’anno, con un intervallo da 9 a 900 volte all’anno su sei benchmark. Epoch precisa che i cali più rapidi si sono concentrati nell’ultimo anno, quindi non è chiaro se proseguiranno. Resta il fatto che un prezzo API in calo riduce qualunque vantaggio possa avere un piccolo modello fine-tuned.
LoRA e QLoRA: perché l’addestramento sta su hardware modesto
Per addestrare non serve riscrivere per intero i pesi di un modello grande. LoRA, introdotto da Hu e colleghi, congela il modello base e addestra piccole matrici aggiuntive. Rispetto al fine-tuning completo di GPT-3 175B con Adam, gli autori riportano 10.000 volte meno parametri addestrabili e 3 volte meno memoria GPU, senza latenza aggiuntiva in inferenza.
QLoRA di Dettmers e colleghi aggiunge la quantizzazione del modello congelato. Gli autori riportano il fine-tuning di un modello da 65 miliardi di parametri su una singola GPU da 48GB, mantenendo le prestazioni del fine-tuning completo a 16 bit. L’affermazione principale sui modelli Guanaco risultanti è una misurazione degli autori stessi, e il loro abstract avverte che gli attuali benchmark per chatbot non sono affidabili per valutare le prestazioni di un chatbot.
Per una PMI svizzera ne deriva che una sola scheda di classe workstation può eseguire l’addestramento di adattatori. Quale modello stia su quale scheda dipende dal modello, dalla lunghezza delle sequenze e dalle impostazioni: esegui quindi un piccolo job di prova sulla tua scheda prima di decidere l’acquisto. Uno studio di Thinking Machines, LoRA Without Regret, trova che LoRA eguaglia il fine-tuning completo su dataset da piccoli a medi, ma rende meno quando i dati superano la capacità dell’adattatore. L’azienda vende l’addestramento LoRA con il servizio Tinker, un dato da tenere presente quando si pesano le sue conclusioni.
Un ciclo di apprendimento mensile: hardware proprio o GPU a noleggio
Un ciclo di apprendimento continuo significa che le correzioni e gli output approvati del mese passato diventano dati di addestramento, si addestra un nuovo adattatore, si eseguono i test di regressione e il vecchio adattatore viene sostituito solo se il nuovo li supera. È la versione di lungo periodo del ciclo di feedback descritto altrove, con i pesi come ultimo passaggio.
Ecco il confronto dei costi, ancora come esempio illustrativo. Ipotizziamo un’esecuzione di addestramento e valutazione di 10 ore GPU al mese e un cambio di USD 1,25 per CHF, assunto solo per questo calcolo.
- A noleggio: sulla pagina dei prezzi di RunPod, con prezzi al 4 novembre 2026, una RTX 6000 Ada da 48GB era indicata a USD 0,99 l’ora nel secure cloud, con fatturazione al secondo. Dieci ore costano circa USD 10, cioè circa CHF 8 al mese.
- A noleggio 24 ore su 24: 730 ore a USD 0,99 fanno circa USD 723, cioè circa CHF 578 al mese.
- Di proprietà: nel nostro modello di costo dell’inferenza locale, la workstation di riferimento da CHF 18.000 (nella fascia da CHF 15.000 a 30.000) ammortizzata su 36 mesi, più l’elettricità a CHF 0,237 per kWh per un sistema da circa 1 kW, arriva a circa CHF 671 al mese tutto compreso, sia che la macchina lavori sia che resti ferma.
Letto con onestà, il confronto dice che per un riaddestramento mensile conviene il noleggio. Dieci ore a noleggio costano una piccola frazione della macchina di proprietà, e perfino il noleggio continuo di una scheda da 48GB resta sotto la cifra di proprietà. Chi sostiene che comprare una GPU sia la via economica per il solo fine-tuning ha saltato questo conto.
L’hardware proprio si giustifica per altri due motivi.
Residenza dei dati. Secondo l’articolo 16 della nuova legge federale sulla protezione dei dati, i dati personali possono essere comunicati all’estero se il Consiglio federale ha riconosciuto adeguata la legislazione del paese di destinazione, oppure, in alternativa, solo con garanzie elencate come le clausole contrattuali approvate. RunPod è un provider statunitense. Da settembre 2024 la Svizzera riconosce come adeguati gli Stati Uniti per le aziende certificate nello Swiss-US Data Privacy Framework: verifica dunque la certificazione del provider o scegli prima una regione UE. In assenza di entrambe, inviare dati dei clienti per l’addestramento è una comunicazione all’estero che richiede una delle garanzie elencate. Non è una consulenza legale: confermalo con un legale. Addestrare su una macchina nei tuoi locali elimina la questione, anche se devi comunque informare le persone e proteggere i dati.
Utilizzo. Se la stessa macchina serve anche l’inferenza per il tuo personale durante il giorno, come discusso nell’articolo sull’inferenza locale, il costo mensile si ripartisce sui due usi e il ciclo di riaddestramento non costa quasi nulla in più.
C’è poi il problema dell’oblio. Luo e colleghi, in uno studio del 2023, hanno osservato un oblio catastrofico su modelli da 1 a 7 miliardi di parametri, che colpiva conoscenze di dominio, ragionamento e comprensione del testo, e hanno rilevato che si accentuava al crescere della scala del modello. Ogni riaddestramento mensile può degradare in silenzio capacità su cui non hai addestrato. Il ciclo richiede perciò una valutazione di regressione su compiti tenuti da parte, eseguita prima di ogni sostituzione dell’adattatore, e una regola: se l’esecuzione fallisce, resta in servizio l’adattatore del mese precedente.
Che cosa dimostra il ciclo di Shopify, e che cosa no
Gli ingegneri di Shopify descrivono un ciclo di produzione dettagliato in un post su Sidekick del 5 agosto 2026. C’è una cosa da prendere e diverse da ridimensionare.
Da prendere: la sequenza. Migliorano prima l’harness. Secondo il post, ogni miglioramento confluisce in prompt, definizioni degli strumenti e codice dell’harness, e solo quando questi guadagni si esauriscono passano a ottimizzare i pesi a partire dal traffico di produzione anonimizzato. La fase sui pesi usa il fine-tuning supervisionato seguito da GRPO, un metodo di apprendimento per rinforzo. Quest’ordine coincide con il consiglio di costruire l’harness prima di toccare i pesi.
Da ridimensionare:
- Le cifre di costo sono stime. Shopify afferma che servire il traffico con un modello di frontiera potrebbe costare facilmente una stima di USD 27 milioni l’anno, e che il modello fine-tuned potrebbe avvicinarsi a USD 1 milione. Entrambe sono stime del team, senza derivazione. La riduzione del 96% è aritmetica su questi due numeri.
- La qualità è giudicata dal giudice di Shopify. È calibrato su annotatori umani, ma resta lo stesso team che valuta il proprio lavoro.
- Il risultato sulla latenza viene da un solo test di carico. A 350 richieste al minuto, il tempo al primo token è calato di circa il 19% e la latenza end-to-end di circa il 38%.
- Shopify non è una PMI, e il ciclo non gira sul suo hardware. Dispone di annotatori, revisori esperti e un team di piattaforma.
La lezione trasferibile è la sequenza e il lavoro umano che la sostiene, lasciando da parte le cifre in dollari.
Una checklist prima di impegnarti
Fai il fine-tuning quando la maggior parte dei punti seguenti è vera:
- Il compito è stabile. Gli input e la definizione di buona risposta non cambieranno molto per un anno.
- Il volume è grande, nell’ordine delle centinaia di migliaia di chiamate o più, oppure una norma sulla protezione dei dati impone di lavorare sulle tue macchine.
- Esiste un set di valutazione funzionante, costruito su casi reali, con una parte tenuta da parte che il modello non vede mai in addestramento.
- Una persona con nome e cognome possiede le etichette e decide le controversie.
- La versione con prompt e harness ha toccato un limite che hai misurato, e non è stata abbandonata troppo presto.
- Hai un piano per il prossimo rilascio del modello di base, perché l’adattatore andrà riaddestrato.
Resta su prompting, retrieval e un harness più solido quando vale uno qualsiasi di questi casi: il compito o i fatti cambiano ogni mese, il volume è nell’ordine delle migliaia di chiamate, oppure nessuno ha ancora messo per iscritto come si presenta una risposta corretta. Se hai dubbi, parti da prompting e set di valutazione, perché entrambi ti servono qualunque sia il passo successivo.
Il patrimonio che sopravvive al modello
I pesi sono legati a un modello di base, e i modelli di base scadono. Il calendario di OpenAI mostra lo schema: il fine-tune muore lo stesso giorno del modello su cui poggia. Gli esempi etichettati e il set di valutazione non hanno una scadenza simile. Passano al modello successivo, che tu lo guidi con prompt, lo addestri o cambi fornitore, e sono la parte che è costata fatica.
Questa è l’economia vera. Un team che costruisce il set di valutazione e un corpus pulito di risposte approvate ha comprato un’opzione: quando il volume o un requisito di residenza rendono il fine-tuning sensato, l’addestramento è un piccolo passo finale. Un team che li salta e si getta subito sull’addestramento ha speso il denaro sulla parte che costava poco.
Domande frequenti
Il fine-tuning costa meno del prompting?
Raramente, con i volumi di una PMI. L'addestramento può costare pochi dollari, ma l'inferenza di un modello fine-tuned su OpenAI è tariffata da 1,5 a 2 volte il modello base per token. Il risparmio nasce da un prompt più corto o da un modello più piccolo. Nel nostro esempio illustrativo vale USD 0,28 ogni 1.000 chiamate, quindi servono decine di migliaia di chiamate anche solo per ripagare l'addestramento.
Il fine-tuning può insegnare a un modello i fatti della nostra azienda?
Non in modo affidabile. Gekhman e colleghi hanno rilevato che gli esempi con conoscenze nuove vengono appresi più lentamente e, una volta appresi, aumentano la tendenza ad allucinare. Il fine-tuning è adatto a stile, formato di output e regole. I fatti come prezzi, condizioni e dati di prodotto appartengono al retrieval, dove aggiorni un documento senza riaddestrare nulla.
Nel 2026 posso fare il fine-tuning di Claude o dei modelli GPT?
Per Claude no: il glossario di Anthropic indica che l'API al momento non offre fine-tuning. OpenAI sta chiudendo la piattaforma. I clienti esistenti attivi perdono la creazione di job il 6 gennaio 2027, e i modelli GPT-4o e GPT-4.1 con i relativi fine-tune vengono spenti il 14 gennaio 2027. I modelli open-weight addestrati con LoRA restano disponibili tramite provider ospitati o sul tuo hardware.
Il fine-tuning sul nostro hardware aiuta con la protezione dei dati svizzera?
Può aiutare. Secondo l'articolo 16 della nLPD, comunicare dati personali all'estero richiede una decisione di adeguatezza o garanzie elencate, e un servizio di addestramento statunitense costituisce una comunicazione di questo tipo. Verifica se il provider è certificato nello Swiss-US Data Privacy Framework, che la Svizzera riconosce come adeguato da settembre 2024, oppure scegli le sue regioni UE; in mancanza, ricorri a garanzie contrattuali. Addestrare su una macchina che controlli evita il problema, ma non gli obblighi di informare e proteggere i dati. Non è una consulenza legale: fai confermare il tuo caso da un legale.
Di quanti esempi ho bisogno per il fine-tuning di un modello?
OpenAI indica un minimo di 10 esempi, segnala miglioramenti già tra 50 e 100 e suggerisce di partire da 50 dimostrazioni ben curate. Sono punti di partenza del fornitore, non soglie misurate. Il requisito più impegnativo è un set di valutazione che dica se il modello addestrato è davvero migliore, e una persona con nome e cognome responsabile delle etichette.