Skip to content
Chatta con un agente AI
Fondamenti

Agenti che chiedono prima di agire: human in the loop per i flussi di lavoro AI a più passaggi

Orange ITS — Team di ingegneria AI 13 min di lettura

Un agente di assistenza riceve il messaggio “Rimborsate il mio ultimo ordine, per favore.” Il cliente ha tre ordini nell’ultimo mese. L’agente sceglie il più recente, riaccredita CHF 300 sulla carta e chiude il ticket. Due giorni dopo il cliente riscrive: il rimborso era per l’ordine precedente. Il denaro è partito, il secondo ordine è ancora contestato e un collaboratore passa un’ora a districare entrambe le pratiche.

L’agente ha fatto ciò per cui era stato costruito. Ha riempito un vuoto con un’ipotesi, che è il comportamento predefinito dei modelli linguistici. Ogni flusso di lavoro a più passaggi con un agente AI richiede pochi punti progettati in cui l’agente si ferma e chiede, e questi punti costano molto meno della pulizia dopo un’ipotesi sbagliata. Questo articolo spiega perché gli agenti presumono invece di chiedere, dove le evidenze suggeriscono di collocare le pause, come confrontare il costo di una domanda con quello di un errore e come evitare il difetto opposto, cioè chiedere troppo. Se vuoi progettare questi punti per un tuo flusso di lavoro, il nostro servizio di sviluppo AI parte proprio da una mappa di decisioni di questo tipo.

Nota sul perimetro: questo contributo riguarda i punti di domanda e di approvazione all’interno di un singolo flusso di lavoro. Per il modello operativo più ampio vedi Gestire gli agenti AI in produzione, mentre per regole, responsabilità e obblighi di audit trovi Governance degli agenti AI.


Perché gli agenti presumono invece di chiedere

Una persona che riceve una richiesta vaga di solito se ne accorge. Un modello tende invece a produrre una risposta. La ricerca sulle conversazioni a più turni mostra quanto costi.

Laban e colleghi lo hanno verificato in “LLMs Get Lost In Multi-Turn Conversation”. Hanno suddiviso un’istruzione completa in piccoli frammenti e li hanno rivelati al modello nel corso di più turni, con un altro modello nel ruolo dell’utente. Lo studio ha riguardato 15 modelli di otto famiglie e oltre 200.000 conversazioni simulate. Secondo il paper, le prestazioni medie sono scese da circa il 90% nelle esecuzioni a turno singolo a circa il 65% in quelle a più turni. Gli autori indicano un calo medio del 39% nell’abstract e del 35% nella didascalia di una figura: il riepilogo corretto è quindi un calo tra il 35 e il 39%, a seconda del punto del paper in cui si legge.

La scomposizione dice più del titolo. Le prestazioni dei modelli nel caso migliore sono calate solo di poco, di circa il 16% in media. Il divario tra esecuzioni migliori e peggiori è invece cresciuto di circa il 112%. In parole semplici, i modelli sapevano ancora svolgere il compito, ma sono diventati molto meno coerenti. Gli autori descrivono uno schema ricorrente: i modelli fanno ipotesi nei primi turni, tentano soluzioni finali troppo presto e poi non riescono a correggere una svolta sbagliata.

Prima di citare il dato, leggine il perimetro. Le cifre 90% e 65% sono punteggi assoluti, mentre il 35% e il 39% derivano dalla misura di degrado medio del paper stesso: i due valori non si riconciliano con una semplice sottrazione. I sei compiti di generazione riguardavano codice, SQL, azioni via API, matematica, data-to-text e riassunti; le conversazioni erano simulate e automatizzate, i testi in inglese e i modelli del 2025. Il numero non significa che i modelli linguistici siano in generale peggiori del 39%. Quello che sostiene è più circoscritto e resta rilevante per le operazioni: quando le informazioni arrivano a pezzi, un agente che si impegna subito è meno affidabile di uno che verifica.


Il successo in una sola esecuzione nasconde il problema

Chi guida le operazioni di solito vede una demo, e una demo è una sola esecuzione. Il paper di tau-bench rende misurabile la distanza tra una singola esecuzione e molte.

Yao e colleghi hanno costruito tau-bench per testare un agente che dialoga con un utente simulato mentre richiama strumenti nel rispetto di regole aziendali, come quelle di un servizio clienti retail o di una compagnia aerea. Il successo si misura confrontando lo stato finale del database con l’obiettivo. Il paper definisce una metrica chiamata pass^k, descritta come la probabilità che tutte le k prove indipendenti di un compito riescano, mediata sui compiti. Un punteggio pass^1 corrisponde a una sola esecuzione. Un punteggio pass^8 richiede otto successi consecutivi sullo stesso compito.

Secondo il paper, il miglior modello testato, gpt-4o, ha raggiunto un pass^1 del 61,2% nei compiti retail e del 35,2% in quelli del settore aereo. Nel retail il suo pass^8 era sotto il 25%. Lo stesso agente che sembra accettabile alla prima prova diventa inaffidabile quando serve che si comporti sempre allo stesso modo, che è proprio ciò che richiede un processo aziendale.

Valgono due limiti. I modelli sono del 2024 e quelli attuali differiranno. La lezione che resta è strutturale: un singolo tasso di successo sopravvaluta quanto sia sicuro lasciare che un agente agisca da solo su un passaggio con conseguenze. Da qui il bisogno di un punto di controllo dove l’azione non si può annullare.


Dove mettere le pause in un flusso di lavoro

Le indicazioni dei fornitori e la ricerca portano a un elenco breve di punti. Sono consenso tra professionisti più che soglie misurate, e le fonti non sono ugualmente nette nell’affermarlo.

Prima di un’azione irreversibile o esterna

La guida pratica di OpenAI alla creazione di agenti indica le azioni ad alto rischio come uno dei due inneschi principali dell’intervento umano. Le descrive come azioni sensibili, irreversibili o ad alta posta in gioco, con esempi come l’annullamento di ordini, l’autorizzazione di rimborsi elevati e l’esecuzione di pagamenti. L’AI Red Team di Microsoft si spinge oltre e raccomanda livelli di approvazione graduati in base alla reversibilità dell’azione e al suo raggio d’azione. Inviare un’e-mail a un cliente, scrivere nell’ERP, spostare denaro e cancellare un record rientrano tutti qui.

Davanti a un campo obbligatorio mancante

Se un passaggio richiede un numero d’ordine, un indirizzo di consegna o un limite di approvazione e l’input non lo contiene, l’agente deve chiederlo invece di dedurlo. Le evidenze sono scarse ma coerenti. Nel benchmark CRMArena-Pro di Salesforce AI Research (Huang et al.), gli autori hanno estratto 20 esecuzioni fallite di un modello e hanno trovato che in 9 l’agente non aveva raccolto tutte le informazioni necessarie. Il benchmark è costruito da un fornitore e il campione è piccolo, quindi sostiene un’intuizione progettuale e non una statistica.

In caso di ambiguità tra entità

L’esempio iniziale appartiene a questa categoria: quale ordine, quale cliente, quale fattura, quale contratto. È un giudizio di chi lavora sul campo. Nessuno studio primario verifica nello specifico i controlli di identità, quindi consideralo una regola di progettazione ricavata dalla ricerca generale sull’ambiguità. Merita il suo posto perché il costo di un abbinamento sbagliato è di solito il costo dell’azione che ne segue, e spesso l’agente ha davanti due candidati plausibili.

Dopo errori ripetuti

Il secondo innesco di OpenAI è il superamento delle soglie di errore. La sua guida suggerisce di fissare limiti ai tentativi o alle azioni e di passare il caso a una persona quando l’agente non riesce a capire l’intento del cliente dopo più tentativi. Building effective agents di Anthropic fa un’osservazione affine e nota che è comune prevedere condizioni di arresto, come un numero massimo di iterazioni. Aggiunge che gli agenti possono fermarsi per ricevere feedback umano a determinati punti di controllo o davanti a un ostacolo. La formulazione è permissiva: descrive un’opzione e non impone una regola.

InnescoEsempio tipicoFonte della regola di collocazione
Azione irreversibile o esternaRimborso, pagamento, e-mail in uscita, scrittura nell’ERPGuida OpenAI; AI Red Team di Microsoft (graduato per reversibilità)
Campo obbligatorio mancanteNessun numero d’ordine in una richiesta di resoCampione CRMArena-Pro (9 fallimenti su 20, un modello)
Ambiguità tra entitàDue ordini aperti per lo stesso clienteGiudizio dei professionisti, nessuno studio primario
Errori ripetutiTerzo tentativo fallito di classificare l’intentoGuida OpenAI (soglie di errore)
Bassa confidenzaL’agente segnala di non essere sicuroSolo un modello di progettazione, nessuna soglia convalidata

L’ultima riga merita un’enfasi particolare. Molte guide dicono “chiedi quando la confidenza è bassa”, ma nessuno studio pubblicato indica una soglia di confidenza misurata che funzioni in produzione. La confidenza dichiarata da un modello non è una probabilità calibrata: costruisci quindi gli inneschi su fatti del caso (un campo è vuoto, due record corrispondono, l’azione è irreversibile) prima di basarli sulle sensazioni dell’agente.


Quanto costa una domanda rispetto a un errore

Ogni domanda ha un prezzo, soprattutto il tempo di chi risponde. Anche ogni azione sbagliata ha un prezzo, spesso più alto. Una regola semplice li mette a confronto.

Chiedi quando la probabilità che l’ipotesi sia sbagliata, moltiplicata per il costo dell’azione errata, supera il costo della domanda. In forma riordinata, l’agente deve chiedere ogni volta che quella probabilità è sopra un valore di pareggio, P*, dove P* è uguale al costo della domanda diviso il costo dell’azione errata.

Le cifre che seguono sono illustrative e servono a mostrare il meccanismo. Non sono benchmark e vanno sostituite con le tue.

  • Costo di una domanda. Un operatore che guadagna l’equivalente di CHF 60 all’ora vi dedica due minuti, quindi la domanda costa circa CHF 2 (illustrativo).
  • Rimborso di CHF 300 difficile da annullare. P* è 2 diviso 300, circa lo 0,7%. Se anche solo un’ipotesi su cento è sbagliata, chiedere costa meno (illustrativo).
  • Ticket di assistenza etichettato male, con un costo di correzione di CHF 5. P* è 2 diviso 5, cioè il 40%. A meno che l’agente non sbagli quattro volte su dieci, conviene lasciarlo etichettare, registrare il risultato e far correggere alle persone l’eventuale svista (illustrativo).

Porta il calcolo su base mensile per vedere lo schema. Prendi 500 richieste di rimborso in cui l’agente ha il 3% di probabilità di scegliere l’ordine sbagliato. Lasciarlo agire da solo porta a circa 15 rimborsi errati, cioè CHF 4.500 di pulizia. Chiedere a ogni richiesta costa 500 volte CHF 2, ovvero CHF 1.000. Prendi ora 2.000 ticket in cui un tasso di errore del 10% produce circa 200 errori da CHF 5, quindi CHF 1.000. Chiedere su tutti costa CHF 4.000. Lo stesso agente giustifica una domanda in un caso e spreca denaro nell’altro (tutte le cifre sono illustrative).

L’impostazione corrisponde al modo in cui oggi ragiona la comunità di ricerca. Un benchmark del 2026 chiamato RegretBench, descritto in un abstract su arXiv, valuta le politiche di chiarimento in base al costo di interazione, alle domande inutili e al rimpianto, anche se l’abstract non fornisce alcuna formula. Nessuna fonte propone un modello di costo convalidato, quindi l’aritmetica qui sopra è uno strumento di ragionamento e non un risultato di ricerca.

Due elementi alzano la soglia reale per i compiti frequenti e a basso rischio. Uno è l’attesa del cliente mentre la domanda resta nella coda di qualcuno. L’altro è l’effetto descritto nella prossima sezione. A fissare la soglia deve essere la reversibilità, mai la sicurezza che l’agente percepisce di avere.


Il difetto opposto: chiedere troppo

Aggiungere una domanda ovunque dà una sensazione di sicurezza. Le evidenze dicono il contrario.

Zheng e colleghi hanno condotto un esperimento controllato con 180 partecipanti in sei scenari decisionali quotidiani (arXiv 2611.01087). Le domande di chiarimento hanno aumentato la comprensione percepita e la soddisfazione. Hanno però anche spinto i partecipanti a dedicare meno tempo alla revisione delle risposte e ad accettarne di più senza modifiche, comprese quelle errate. Il contesto erano decisioni di consumo e non azioni di agenti in un’azienda, e il paper non rileva variazioni della fiducia generale: applica quindi il risultato con cautela. Resta il fatto che una domanda può far sentire le persone coinvolte mentre controllano di meno.

Sul fronte della sicurezza il quadro è più netto. Il post dell’AI Red Team di Microsoft già citato afferma che l’elusione dei controlli human in the loop è stata la modalità di guasto sfruttata con più costanza nel suo lavoro, ottenuta tramite la stanchezza da consenso. Raccomanda di monitorare la frequenza delle approvazioni per individuare i segnali di questa stanchezza. Anthropic ha riferito, nel suo post sulla modalità automatica di Claude Code, che nella pratica gli utenti accettano il 93% delle richieste di autorizzazione manuali. È un’affermazione di un fornitore, senza metodo pubblicato: leggila come un segnale e non come un dato di settore.

La conseguenza per la progettazione è diretta:

  • Riserva l’approvazione completa al piccolo insieme di azioni in cui un errore costa caro ed è difficile da annullare.
  • Lascia che gli agenti agiscano, con registrazione, sui passaggi reversibili e poco costosi.
  • Monitora il tasso di approvazione. Se un punto di controllo viene approvato senza modifiche quasi ogni volta, o l’innesco è troppo ampio o chi controlla ha smesso di leggere, e in entrambi i casi serve intervenire.
  • Mostra all’approvatore ciò che conta. Una richiesta che dice “Approvare l’azione?” invita a un clic. Una richiesta che mostra l’ordine, l’importo e l’unico dettaglio su cui l’agente era incerto invita a una decisione.

Uno studio su un agente di programmazione di Edwards e Schuster (arXiv 2603.26233) mostra con quanta facilità le domande si moltiplichino. Il loro sistema di chiarimento multi-agente ha posto circa 3 domande per compito con un modello e quasi 9 con un altro, e ha avuto un costo per compito in tariffe API superiore a quello di una versione con un solo agente. Ha però anche migliorato i risultati. Chiedere ha dunque un valore concreto, e un’impalcatura può comunque chiedere moltissimo: pianifica le domande come pianifichi ogni altro costo.


Una checklist di progettazione per i punti di chiarimento

Per ogni pausa in un flusso di lavoro, annota quattro cose prima di costruire. Una tabella aiuta a restare rigorosi ed è il documento che un responsabile operativo può rivedere senza leggere codice.

Domanda di progettazioneChe cosa specificareEsempio per un flusso di rimborso
InnescoIl fatto che causa la pausaRimborso superiore a CHF 100, oppure due ordini aperti corrispondono alla richiesta
Chi rispondeUn ruolo con nome, con autorità e un sostitutoResponsabile di team in turno, con il vice come riserva
Contenuto della domandaIl caso, le opzioni, l’azione proposta dall’agente e l’unica cosa di cui è incerto”Gli ordini 4411 e 4418 corrispondono entrambi. Proposta: rimborso dell’ordine 4418, CHF 300. Conferma o scegli.”
RegistroChe cosa viene registrato per la revisioneDomanda, risposta, tempo di risposta, azione finale e se la persona ha modificato la proposta

Aggiungi tre regole operative attorno alla tabella.

  1. Fissa un tempo limite e un comportamento predefinito. Se nessuno risponde entro il tempo concordato, il caso deve essere passato a un livello superiore o attendere in sicurezza. Non deve mai proseguire sulla base dell’ipotesi dell’agente.
  2. Rivedi il registro ogni mese. Conta quante volte la risposta è diversa dalla proposta dell’agente. Un punto di controllo che non cambia mai nulla è candidato alla rimozione. Un passaggio saltato che continua a produrre errori è candidato a un nuovo punto di controllo.
  3. Prova le pause prima del lancio. Fai passare nel flusso casi storici reali e verifica che gli inneschi scattino dove te lo aspetti. La nostra guida su come costruire valutazioni a partire da ticket reali descrive come mettere insieme quell’insieme di casi.

Mappare prima il processo semplifica tutto questo, perché l’elenco degli inneschi emerge dalla colonna delle eccezioni. La guida alla mappatura dei flussi di lavoro mostra come costruire quella mappa in mezza giornata.


Che cosa le evidenze non dicono

Prima di mettere a punto qualsiasi cosa, chiarisci i limiti.

  • Non esiste una soglia convalidata. Nessuno ha pubblicato uno studio sul campo che colleghi numero di domande, costi di errore e soglie di confidenza in produzione. La regola di pareggio è un ausilio decisionale e i dati di partenza sono i tuoi.
  • I benchmark sono simulati. L’utente di ogni studio è un modello linguistico o un interlocutore automatizzato, e diversi compiti sono esercizi di generazione o ruotano attorno al CRM di un fornitore. I clienti reali sono più imprevedibili.
  • I modelli sono più vecchi. Laban et al. e tau-bench hanno usato modelli del 2024 e del 2025. I modelli attuali potrebbero chiedere di più, di meno o riprendersi meglio da una svolta sbagliata. Misura il tuo sistema.
  • La revisione umana non è una garanzia. Le evidenze sulla stanchezza da consenso significano che un punto di controllo ti protegge solo se la persona che lo presidia ha il tempo e le informazioni per decidere.

Gli obblighi di legge possono aggiungere requisiti. L’articolo 14 dell’AI Act dell’UE stabilisce obblighi di sorveglianza umana, compresa la possibilità di intervenire o di arrestare un sistema, per i sistemi di IA ad alto rischio. Se un determinato flusso di lavoro sia ad alto rischio è una questione giuridica da valutare caso per caso, e non rientra in ciò a cui questo articolo può rispondere.

La conclusione pratica è modesta e verificabile. Scegli le tre o quattro azioni del tuo flusso di lavoro che non potresti annullare facilmente, metti davanti a ciascuna una domanda ben formulata, lascia stare i passaggi poco costosi e leggi il registro dopo un mese. I numeri dei tuoi casi ti diranno se spostare una pausa, toglierne una o aggiungerne un’altra, e varranno più di qualsiasi benchmark citato qui.

Domande frequenti

Che cosa significa human in the loop per un agente AI?

Significa che l'agente si ferma in punti definiti e una persona risponde, approva o corregge prima che il flusso di lavoro prosegua. I punti si decidono in anticipo, per esempio prima di pagare un rimborso, quando manca un campo obbligatorio o dopo vari tentativi falliti. Tutto ciò che sta tra un punto e l'altro procede senza intervento umano. L'obiettivo è collocare poche pause ben scelte dove un errore costerebbe caro.

Quando un agente AI deve fare una domanda invece di presumere?

Deve chiedere quando un'ipotesi sbagliata sarebbe costosa o difficile da annullare, e può presumere quando un errore si corregge a poco prezzo. Nella sua guida pratica agli agenti, OpenAI indica due inneschi: il superamento delle soglie di errore e le azioni ad alto rischio, come rimborsi o pagamenti di importo elevato. Un controllo utile in più è un campo obbligatorio mancante. Nessuno studio convalida una soglia numerica di confidenza, quindi fissa i limiti in base ai tuoi costi di errore.

Come confronto il costo di una domanda con quello di un''azione sbagliata?

Dividi il costo della domanda per il costo dell'azione errata. Il risultato è la probabilità di errore oltre la quale conviene chiedere. Con le cifre illustrative di CHF 2 per una domanda da due minuti e CHF 300 per un rimborso difficile da annullare, il punto di pareggio è circa lo 0,7%. Per un'etichetta sbagliata da CHF 5 è il 40%. Sostituisci le cifre dell'esempio con il tempo reale dei tuoi operatori e con i tuoi costi di errore.

Troppe richieste di approvazione possono rendere un agente meno sicuro?

Sì. L'AI Red Team di Microsoft segnala l'elusione dei controlli human in the loop come la modalità di guasto sfruttata con più costanza nei suoi lavori sui sistemi agentici, ottenuta in parte tramite la stanchezza da consenso. Un esperimento controllato con 180 partecipanti ha mostrato che chi riceveva domande di chiarimento controllava meno le risposte e ne accettava di più tra quelle errate. Gradua le approvazioni in base alle conseguenze e tieni traccia di quanto spesso le persone approvano senza modifiche.

I risultati dei benchmark valgono per il mio flusso di lavoro aziendale?

Solo in parte. Gli studi citati usano utenti simulati, per lo più compiti di generazione o di assistenza clienti, testi in inglese e modelli del 2024 e del 2025. Mostrano una tendenza: presumere presto e agire senza controlli riduce l'affidabilità. Non forniscono una soglia da copiare. Considerali un motivo per mettere alla prova il tuo flusso con casi registrati prima di decidere dove collocare i punti di controllo.

Insights

Metti queste idee al lavoro

Bastano 30 minuti per capire se un agente AI si adatta al tuo flusso di lavoro — e quanto può rendere.