Il tuo assistente per le offerte suggerisce un termine di consegna sbagliato per un fornitore e il tuo pianificatore lo corregge. Tre settimane dopo, il suggerimento è di nuovo lo stesso. A quel punto ti chiedi che cosa intendesse davvero il fornitore con “auto-apprendimento” nella sua presentazione.
L’espressione copre cose molto diverse. Alcuni sistemi si scrivono appunti, altri adattano i prompt, pochi riaddestrano i pesi del modello. Se devi decidere cosa acquistare o sviluppare, la domanda utile è dove viene archiviato l’apprendimento e chi decide cosa tenere. Il nostro lavoro di strategia AI parte quasi sempre da qui.
L’AI che impara da sola, in produzione, è soprattutto feedback, regole, memoria e test conservati fuori dal modello, e migliora quando le persone decidono cosa tenere. Modificare i pesi del modello è più raro e, anche in quel caso, lo standard lo fissano gli esseri umani.
Cosa significa “imparare” nella pratica
Un modello linguistico non si riscrive mentre ci conversi. Quando gli mostri degli esempi in un prompt, vi si adatta soltanto per quella conversazione. Il paper su GPT-3 di Brown et al. lo descrive come un funzionamento “senza alcun aggiornamento del gradiente né fine-tuning”. Quando il contesto scompare, scompare anche l’effetto.
L’apprendimento persistente deve quindi vivere altrove. La documentazione dello strumento di memoria di Anthropic ne è un esempio chiaro. Il modello chiede di leggere o scrivere file, e la tua applicazione esegue queste richieste. La memoria risiede nei tuoi sistemi e una conversazione successiva riparte da lì solo se la tua applicazione le mette a disposizione lo stesso archivio.
È così che funziona la maggior parte dei prodotti, e la descrizione vale in generale. Per capire cosa può ricordare un agente e per quanto tempo, leggi come funziona la memoria degli agenti AI.
Ne deriva una conseguenza pratica. Se la lezione sta in un file, puoi aprirlo, correggerlo, versionarlo e cancellarlo. Se sta nei pesi del modello, non puoi leggerla direttamente e per annullarla serve un nuovo addestramento. Questa differenza di verificabilità è un buon motivo per cominciare dalle soluzioni fuori dal modello.
I quattro posti in cui può finire una lezione
- File di memoria. Fatti e preferenze che l’agente legge all’inizio di un compito, come “il fornitore X consegna in 14 giorni”.
- Regole e prompt. Istruzioni permanenti che ogni esecuzione carica.
- Casi di test. Un input reale con la risposta corretta, rieseguito dopo ogni modifica.
- Pesi del modello. Modificati con fine-tuning o apprendimento per rinforzo. Costoso, da trattare come un progetto a sé.
La nostra lettura, che è un’inferenza, è che i primi tre coprano quasi tutto ciò che serve a una piccola o media impresa. Nessuna indagine pubblicata misura quante organizzazioni riaddestrino modelli in produzione, quindi considera “gli aggiornamenti dei pesi sono rari” solo come un’osservazione sui modelli di prodotto, priva di valore statistico.
Cosa migliora da solo e cosa richiede le persone
Quando le lezioni vivono fuori dal modello, la divisione dei compiti si vede bene. Le macchine se la cavano con le parti meccaniche. Il giudizio resta alle persone.
| Compito | Migliora da solo | Richiede le persone |
|---|---|---|
| Trovare la nota archiviata giusta per un compito | Sì, quando le note sono indicizzate e caricate | Qualcuno verifica che vengano recuperate le note giuste |
| Usare una regola archiviata durante una conversazione | Sì, quando la regola è caricata | Qualcuno ha scritto e approvato la regola |
| Redigere una bozza di regola a partire da una correzione | Un agente può proporla | Un responsabile con nome e cognome la approva o la respinge |
| Definire cosa sia una buona risposta (i criteri di valutazione) | No | Sì, sempre |
| Eliminare regole obsolete o in conflitto | Possono essere segnalate in automatico | Una persona decide cosa va tolto |
| Aggiornare i pesi del modello | Le pipeline possono automatizzare l’esecuzione | Le persone fissano lo standard e i criteri di rilascio |
| Decisioni sensibili (credito, assunzioni, sinistri, salute) | No | Sì, con verifica dei singoli esiti |
Lo schema è questo: l’automazione si occupa di recupero e bozze, mentre le persone presidiano lo standard, le approvazioni e le eccezioni. Un sistema con la colonna di sinistra e senza quella di destra va alla deriva.
Rahul Garg, principal engineer di Thoughtworks, sostiene la stessa tesi per i team software nel suo articolo sul Feedback Flywheel. Secondo lui i team hanno bisogno di “una pratica attiva per riportare gli apprendimenti nel sistema”, con un tech lead o un responsabile designato che prende la decisione finale su cosa entra negli artefatti condivisi. Un agente può redigere l’aggiornamento e uno sviluppatore lo rivede. Il suo scritto è un consiglio pratico e non pubblica dati sui risultati. Il nostro articolo di approfondimento sul ciclo di feedback mostra come gestire questa routine con un piccolo team.
Un caso pubblico che aggiorna i pesi
Shopify ha pubblicato un esempio dettagliato di ciclo che arriva fino ai pesi. In un post di ingegneria del 5 agosto 2026 il suo team descrive come migliora l’assistente Sidekick. Quanto segue è riferito dall’azienda, quindi vale come affermazione dell’azienda, senza verifica indipendente.
Stando al post, la pipeline gira ogni giorno. Estrae dalla produzione le conversazioni con punteggio basso, fa criticare ogni errore da un gruppo di modelli di frontiera, rigioca la conversazione con un suggerimento di correzione e la rivaluta con un giudice automatico. Le riesecuzioni superate diventano dati di addestramento e il modello viene poi addestrato ulteriormente. Il post dice che si migliora prima la struttura che lo circonda (prompt, definizioni degli strumenti, codice di orchestrazione), e che si passa ai parametri solo quando “i miglioramenti dell’harness raggiungono un plateau”.
Gli errori entrano nella pipeline in automatico e il ciclo parte senza che nessuno lo avvii. Al suo interno ci sono tre elementi umani:
- Le persone definiscono i criteri di valutazione. I criteri misurati stabiliscono cosa significa “buono”.
- Le persone tarano il giudice. Due dei migliori annotatori etichettano 25 campioni casuali alla cieca e il team misura il loro grado di accordo con il kappa di Cohen. Secondo il post, un valore molto basso, intorno a 0,2, indica che i criteri sono ambigui: ci si riunisce di nuovo e si riprova.
- Le persone gestiscono ciò che la macchina non sa correggere. Gli errori che la critica automatica non risolve non vengono lasciati al ciclo.
La descrizione pubblica non dice se una persona approvi ogni modello rilasciato. Shopify stima inoltre che servire questo traffico con un modello di frontiera “potrebbe facilmente costare” circa 27 milioni di dollari l’anno, contro circa 1 milione per il modello sottoposto a fine-tuning. Sono stime dell’azienda, senza calcolo esplicito, e il confronto di qualità usa il giudice dell’azienda stessa.
Per una PMI svizzera il messaggio riguarda la scala. Non ti serve l’apprendimento per rinforzo per cominciare. Ti servono uno standard, un controllo sul controllore e qualcuno che guardi i casi difficili.
Quando imparare dagli utenti va storto
I sistemi che imparano direttamente dalle reazioni degli utenti hanno un passato documentato di derive. Vale la pena conoscere due esempi, tenendo presente che entrambi sono la versione delle aziende stesse.
GPT-4o e il segnale del pollice su. Nell’aprile 2025 OpenAI ha ritirato un aggiornamento di GPT-4o che rendeva il modello eccessivamente accondiscendente. Nel suo postmortem OpenAI ha spiegato che l’aggiornamento introduceva un ulteriore segnale di ricompensa basato sui dati di pollice su e pollice giù, e che questo aveva indebolito il segnale di ricompensa principale che teneva a freno la piaggeria. Ha aggiunto che il feedback degli utenti può favorire risposte più compiacenti. È la spiegazione di OpenAI, non un audit indipendente.
Microsoft Tay. Nel 2016 il chatbot di Microsoft ha iniziato a pubblicare risposte offensive entro le prime 24 ore online. Peter Lee di Microsoft ha scritto nel suo post “Learning from Tay’s introduction” che un sottogruppo coordinato di persone aveva sfruttato una vulnerabilità di Tay. La formula corrente secondo cui Tay avrebbe “imparato il razzismo dagli utenti” è più approssimativa del resoconto di Microsoft.
La lezione per chi guida un’azienda è semplice. Il feedback è un segnale, e un segnale può essere manipolato, distorto o semplicemente sbagliato. Qualcuno deve decidere quale feedback conta.
Dove la legge svizzera pone un limite
Se un sistema che impara da solo contribuisce a prendere decisioni sulle persone, conta l’articolo 21 della legge federale riveduta sulla protezione dei dati (nLPD). Si applica alle decisioni basate esclusivamente su un trattamento automatizzato che hanno effetti giuridici o conseguenze negative considerevoli per la persona interessata. Il titolare del trattamento deve informare la persona e, su richiesta, darle la possibilità di esprimere il proprio punto di vista e di far riesaminare la decisione da una persona fisica. Gli obblighi non valgono quando la decisione è direttamente connessa alla conclusione o all’esecuzione di un contratto e la richiesta della persona è accolta, oppure quando la persona ha acconsentito espressamente a decisioni automatizzate. La legge riveduta è in vigore dal 1° settembre 2023.
La parola “esclusivamente” è importante: chi prende davvero la decisione con il supporto dell’AI esce dall’ambito dell’articolo, mentre chi si limita a confermare l’esito della macchina potrebbe non uscirne. Le indicazioni svizzere pubblicate sull’applicazione dell’articolo 21 a modelli adattivi o riaddestrati sono limitate, quindi la copertura dipende dai fatti del tuo caso. Ne trattiamo la progettazione in decisioni automatizzate e art. 21 LPD.
Domande da porre prima di comprare o sviluppare
Usale con un fornitore o con il tuo team:
- Dove viene archiviato l’apprendimento e possiamo leggerlo?
- Chi approva una nuova regola o memoria prima che gli agenti la usino?
- Quali sono i criteri di valutazione e chi ha tarato il giudice sulle etichette umane?
- Come si individuano e si rimuovono le regole obsolete?
- I pesi del modello cambiano davvero e chi firma un rilascio?
- Quali decisioni non vengono mai prese senza una persona?
Se la risposta è “ci pensa il sistema”, insisti per avere dei nomi. Un sistema di apprendimento di cui nessuno è responsabile tende a degradare in silenzio, e la qualità di un’implementazione tra un anno dipenderà da quei responsabili più che dal modello.
Se vuoi vedere come tutto questo si traduce in un’intera azienda, l’articolo su come diventare un’azienda AI-native allarga lo sguardo all’organizzazione, mentre governare gli agenti AI chiarisce chi risponde di cosa.
Domande frequenti
Che cosa significa davvero "AI che impara da sola"?
Nella maggior parte dei sistemi aziendali significa che il software registra cosa è successo e cosa ha corretto il personale, e rilegge quella traccia la volta successiva. La traccia vive in file di memoria, regole, prompt e casi di test. Il modello, di solito, resta invariato. Il miglioramento dipende da persone che decidono cosa vale la pena conservare, quindi non va inteso come un miglioramento privo di supervisione.
Gli agenti AI imparano da ogni conversazione?
Non per impostazione predefinita. Una correzione fatta dentro una chat di solito finisce con quella sessione. Un agente porta con sé una lezione solo se qualcosa la archivia, per esempio un file di memoria o una regola, e se l'applicazione la ricarica. Anthropic documenta il proprio strumento di memoria come eseguito nella tua applicazione, quindi sei tu a controllare cosa viene salvato e riletto.
Il fine-tuning equivale a un''AI che impara da sola?
No. Il fine-tuning è una sessione di addestramento voluta, che modifica i pesi del modello, con dati, uno standard di qualità e la decisione di rilasciare il risultato. Costa più che modificare una regola e richiede una valutazione. Molti team raggiungono i loro obiettivi prima con memoria, prompt e test, e passano all'aggiornamento dei pesi solo quando questi strumenti non bastano più.
Un''AI che impara da sola può peggiorare?
Sì. OpenAI ha dichiarato che un aggiornamento di GPT-4o dell'aprile 2025 aveva aggiunto un segnale di ricompensa basato sui dati di pollice su e pollice giù, indebolendo il segnale che teneva sotto controllo la piaggeria, e ha ritirato l'aggiornamento. Anche le regole archiviate possono accumularsi, contraddirsi o diventare obsolete, quindi qualcuno deve occuparsi di ripulirle.
La legge svizzera sulla protezione dei dati riguarda i sistemi che imparano da soli?
Può riguardarli. L'articolo 21 della legge federale riveduta sulla protezione dei dati (nLPD) disciplina le decisioni prese esclusivamente in modo automatizzato che hanno effetti giuridici o conseguenze negative considerevoli. La persona deve essere informata e può far valere il proprio punto di vista e chiedere il riesame da parte di un essere umano. Se un determinato sistema rientri nella norma dipende dai fatti.