Skip to content
Chatta con un agente AI
Business e governance

Decisioni automatizzate che i clienti svizzeri accettano: progettare agenti che imparano attorno all'art. 21 LPD

Orange ITS — Team di ingegneria AI 9 min di lettura

Un cliente chiede al tuo servizio clienti perché la sua richiesta di un limite di credito più alto, di una consegna più rapida o del rinnovo di una polizza è stata respinta. La risposta si trova in un sistema che ha imparato dalle correzioni dell’ultimo trimestre, e nessuno sa dire quale regola sia scattata. L’unica risposta onesta sarebbe «ha deciso il software», una frase poco presentabile davanti a un cliente di Zurigo o di Lugano. E chiude anche la conversazione.

I clienti che vale la pena conquistare raramente si oppongono all’automazione in sé. Vogliono sapere che c’è una persona da contattare, che il motivo si può spiegare e che la loro versione dei fatti viene ascoltata. Il nostro lavoro sull’inferenza locale mantiene l’agente e i suoi registri decisionali su un’infrastruttura che controlli tu, il luogo in cui queste prove sono più facili da proteggere.

Progetta l’agente in modo che ogni decisione rilevante lasci una traccia di spiegazione e un percorso verso una persona: l’obbligo di legge diventa così un motivo per cui i clienti scelgono te. Questo articolo è una guida alla progettazione e non un’analisi giuridica.

Nota di perimetro: Agenti AI e protezione dei dati in Svizzera tratta residenza dei dati, DPIA e contratti con i responsabili del trattamento. Sistemi AI che imparano spiega che cosa migliora da solo e che cosa richiede l’intervento di persone. Questo articolo li unisce nel punto in cui un agente decide qualcosa su una persona. Sono informazioni generali e non una consulenza legale.


Che cosa chiede l’art. 21

L’art. 21 della legge federale riveduta sulla protezione dei dati (LPD, RS 235.1) è breve. Il capoverso 1 dice che il titolare informa la persona interessata di «ogni decisione» presa «esclusivamente» sulla base di un trattamento automatizzato di dati personali e che abbia per lei «effetti giuridici o conseguenze significative». La legge la chiama decisione individuale automatizzata. Secondo il capoverso 2, su richiesta il titolare dà alla persona la possibilità di esprimere un parere, e la persona può esigere che la decisione individuale automatizzata sia riesaminata da una persona fisica.

Il capoverso 3 elimina entrambi gli obblighi in due casi: la decisione è in relazione diretta con la conclusione o l’esecuzione di un contratto e la richiesta della persona è soddisfatta, oppure la persona ha dato il suo espresso consenso a che la decisione sia presa in maniera automatizzata. La legge è in vigore dal 1° settembre 2023 e l’Incaricato federale della protezione dei dati e della trasparenza (IFPDT) afferma che si applica direttamente ai trattamenti supportati dall’AI.

Due espressioni di quel testo guidano la progettazione. «Esclusivamente» significa che una persona che valuta davvero il caso resta fuori dall’articolo. «Conseguenze significative» significa che un segmento di newsletter etichettato male non basta, mentre una domanda respinta di norma sì. La giurisprudenza svizzera pubblicata e le indicazioni dell’IFPDT sull’art. 21 per gli agenti che si adattano nel tempo sono ancora scarse, quindi se un dato sistema sia coperto dipende dai fatti. Lo stabilisce il tuo consulente legale. Il resto di questo articolo spiega come costruire in modo che la domanda abbia una risposta semplice.


Dividi le decisioni dell’agente in tre gruppi

La maggior parte degli agenti in azienda compie decine di piccole scelte e una manciata che contano per una persona. Dividile prima di progettare qualsiasi cosa.

GruppoEsempioConseguenza per la progettazione
Interne e reversibiliEtichettare un ticket, preparare una risposta, ordinare una codaRegistrala. Non serve un percorso speciale
Raccomandazione con vera decisione umanaL’agente propone un rimborso, un collaboratore decideMantieni genuino l’intervento umano e misuralo
Rilevanti e automatizzateRespingere un ordine, scartare un candidato, interrompere un servizioInforma e ascolta la persona, poi offri il riesame da parte di una persona

La riga centrale è quella che tenta di più i team. Se un collaboratore approva 400 proposte dell’agente all’ora, il passaggio umano è solo scenografia. O gli dai tempo e dati per dissentire, oppure tratti la riga come automatizzata e costruisci il percorso di riesame. Un controllo utile è il tasso di ribaltamento. Se chi decide non contraddice mai l’agente, non lo si può indicare come garanzia quando un cliente si lamenta.

Tieni piccolo il terzo gruppo, di proposito. Ogni decisione che sposti da automatizzata a raccomandata è una in meno che richiede un’audizione e una coda di riesame, e una in più su cui il cliente può parlare con un essere umano.


Perché l’apprendimento rende le spiegazioni più difficili

Un motore a regole fisse dà la stessa risposta il martedì e il venerdì. Un agente che impara può non farlo. Come descrive la guida ai sistemi che imparano, la maggior parte dei sistemi in produzione impara scrivendo lezioni in file di memoria, regole e casi di test esterni al modello, e a volte aggiornando i pesi. Ogni correzione cambia ciò che l’agente farà in seguito.

È utile per la qualità e scomodo per la responsabilità. Quando un cliente chiede di una decisione di tre settimane prima, «l’agente funziona così oggi» è la risposta sbagliata. Devi poter dire come funzionava allora. L’apprendimento richiede anche una persona nel ciclo: una lezione diventa regola attiva solo dopo l’approvazione di qualcuno, così la cronologia delle versioni ha un autore e una data.


La traccia di spiegazione: che cosa registrare per ogni decisione

Il momento conta. Costruisci il registro quando la decisione viene presa, perché ricostruirlo dopo un reclamo significa tirare a indovinare. Per ogni decisione rilevante conserva:

  • Input. I campi di dati che l’agente ha davvero usato, con i valori di quel momento, e quelli che ha ignorato.
  • Versioni. L’identificativo del modello, la versione del prompt, le regole attive e le voci di memoria recuperate.
  • Esito e grado di confidenza. Che cosa è stato deciso, quali alternative sono state valutate e quale soglia valeva.
  • Percorso. Se la decisione è uscita direttamente o è stata trattenuta per il riesame, e chi era il revisore indicato per nome.
  • Comunicazione. Quando e come la persona è stata informata.

Genera la spiegazione in linguaggio semplice da questo registro. Una spiegazione che il modello scrive a posteriori dalle proprie impressioni può sembrare plausibile e descrivere comunque un percorso diverso da quello seguito. Un modello compilato con i campi registrati, come «la tua richiesta è stata respinta perché il CAP di consegna è fuori dalla zona coperta, versione della regola 14», può essere verificato dal revisore e dal cliente.

Registri di questo tipo contengono dati personali, quindi applica gli stessi limiti di conservazione e di accesso del fascicolo di base. Tenerli in un sistema che gestisci tu è più semplice che ricostruirli dai log di un fornitore. Il playbook di governance degli agenti AI approfondisce audit logging e responsabilità.


Il diritto di essere ascoltati: un canale vero

Il capoverso 2 dà alla persona la possibilità di esprimere il proprio parere. In pratica significa un canale di risposta nella comunicazione della decisione, un modulo o una casella di posta, che apra un caso e non un ticket che nessuno legge.

Tre scelte di progettazione lo fanno funzionare:

  1. La comunicazione indica il canale. Dice che si può chiedere il riesame da parte di una persona e come, nella lingua che usa il cliente.
  2. La dichiarazione entra nel caso. Quello che la persona scrive viene allegato al registro della decisione ed è visibile a chi riesamina. Se aggiunge un fatto che all’agente mancava, la decisione viene rieseguita con quel fatto.
  3. La risposta arriva da un ruolo nominato. Un revisore con un nome o un ruolo, un tempo di risposta obiettivo e l’autorità di cambiare il risultato.

A titolo di esempio, un’azienda potrebbe promettere una risposta entro due giorni lavorativi e verificare se mantiene la promessa. Il numero conta meno dell’averne uno, pubblicarlo e misurarlo.


Riesame da parte di una persona fisica senza il timbro automatico

Per rendere reale il riesame, chi lo svolge ha bisogno di quattro cose: il registro completo della decisione, la dichiarazione della persona, l’autorità di ribaltare l’esito e nessuna conseguenza negativa per averlo fatto. Un revisore a cui viene mostrata solo la conclusione dell’agente tenderà a confermarla.

Monitora ogni mese queste misure:

  • quante decisioni rilevanti sono state emesse e quante contestate
  • quanti riesami hanno cambiato l’esito
  • quanto è durato un riesame dalla richiesta alla risposta
  • quanti casi ribaltati derivavano da un dato di input mancante o errato

Un tasso di contestazione vicino a zero può significare che i clienti sono soddisfatti oppure che la comunicazione è difficile da trovare. Un tasso di ribaltamento pari a zero su centinaia di riesami merita la domanda se i revisori abbiano i mezzi per dissentire. Un tasso di ribaltamento moderato con riesami rapidi mostra che il percorso funziona. Mostralo ai clienti.


Le decisioni ribaltate sono i dati di apprendimento migliori

Ogni volta che una persona cambia l’esito dell’agente, hai un esempio etichettato da un esperto di dove l’agente ha sbagliato. È il materiale che serve a un ciclo di miglioramento supervisionato, e collega questo articolo al resto della serie: porta questi casi nel tuo set di test, verifica che la correzione regga sui casi passati e fai approvare la modifica della regola a un responsabile nominato prima che entri in produzione.

La regola è semplice. Qui apprendimento significa un ciclo approvato da una persona di raccolta, test, approvazione e rilascio. Un agente che riscrivesse da solo le proprie regole decisionali a ogni reclamo produrrebbe esattamente il comportamento inspiegabile che questo articolo vuole eliminare. Poiché ogni regola attiva ha una versione, una data e un approvatore, la traccia di spiegazione e il ciclo di apprendimento usano gli stessi registri.


Trasforma l’obbligo in un argomento di vendita

I team acquisti di banche, assicurazioni, sanità, risorse umane e settore pubblico pongono spesso le stesse domande sui sistemi automatizzati: con chi può parlare una persona, come viene spiegata una decisione, che cosa viene registrato e dove si trova. Un fornitore che risponde con una descrizione di una pagina del percorso di riesame, un esempio di registro decisionale e le misure mensili qui sopra è più facile da approvare di uno che risponde con un PDF di policy.

Tre mosse pratiche:

  1. Inserisci il percorso di riesame nell’offerta. Un solo schema: decisione, comunicazione, dichiarazione, revisore, esito, modifica registrata.
  2. Mostra un registro decisionale anonimizzato. Dimostra che la traccia esiste.
  3. Includi le misure nel report di servizio. Tasso di contestazione, tasso di ribaltamento e tempo di riesame danno al cliente qualcosa su cui misurarti.

I clienti UE aggiungono una regola parallela. L’articolo 22 del GDPR protegge le persone da decisioni basate unicamente su un trattamento automatizzato, e l’AI Act dell’UE aggiunge obblighi per i sistemi ad alto rischio. Il Digital Omnibus, in vigore dal 27 luglio 2026, ha spostato la scadenza principale per l’alto rischio a dicembre 2027, come spieghiamo in La scadenza dell’AI Act UE per l’alto rischio slitta a dicembre 2027. Un unico progetto serve entrambi i pubblici.


Che cosa è ancora in movimento

La Svizzera sta preparando regole specifiche sull’AI. Nel febbraio 2025 il Consiglio federale ha deciso di ratificare la Convenzione quadro del Consiglio d’Europa sull’AI e di regolamentare per settore dove possibile, con regole generali solo in ambiti come la protezione dei dati. Secondo l’Ufficio federale delle comunicazioni (UFCOM), la consultazione su questa proposta è prevista per la primavera 2027. Le tempistiche precedenti indicavano la fine del 2026, quindi il calendario è slittato. Verificato il 7 novembre 2026; lo riesamineremo quando apparirà il progetto.

L’art. 21 si applica già oggi, qualunque sia il calendario. Un percorso di riesame, una traccia di spiegazione e un ciclo di apprendimento supervisionato serviranno in quasi ogni versione delle regole in arrivo, e costruirli ora costa meno che adattarli dopo la prima contestazione.

Domande frequenti

L'art. 21 LPD si applica a ogni agente AI?

No. L'art. 21 LPD riguarda le decisioni basate esclusivamente su un trattamento automatizzato che hanno effetti giuridici per la persona o la toccano in modo significativo. Un agente che prepara risposte o suggerisce una priorità, mentre a decidere è una persona, resta fuori da questa definizione se la persona decide davvero. Un rifiuto, una disdetta o un prezzo fissato senza intervento umano sono il caso tipico che vi rientra.

Che cosa deve fornire un''azienda a chi riceve una decisione automatizzata?

Il titolare deve informare la persona della decisione. Su richiesta deve darle la possibilità di esprimere il proprio parere, e la persona può esigere che la decisione sia riesaminata da una persona fisica. Il capoverso 3 prevede due eccezioni: una decisione legata a un contratto in cui la richiesta della persona è soddisfatta, e il consenso espresso all'automazione. Chiedi al tuo consulente legale come si applicano al tuo caso.

Un agente che impara può prendere decisioni automatizzate?

Sì, se puoi spiegarle e riesaminarle. La difficoltà è che un agente le cui regole cambiano può dare risposte diverse allo stesso caso in giorni diversi. Registrare la versione di regole e memoria con ogni decisione e far approvare le nuove regole da una persona rende ogni decisione riproducibile e verificabile in seguito.

Perché un percorso di revisione umana aiuta a conquistare clienti?

Gli acquirenti di finanza, assicurazioni, risorse umane e settore pubblico chiedono spesso, nelle gare e nelle verifiche d'acquisto, come una persona possa contestare un esito automatizzato. Un percorso di revisione documentato, con un ruolo nominato, un tempo di risposta e un registro delle decisioni, risponde alla domanda prima che venga posta e accorcia la verifica di sicurezza e conformità.

Basta un umano che clicca su approva per evitare l''art. 21?

Non necessariamente. L'articolo parla di decisioni basate esclusivamente su un trattamento automatizzato. Chi si limita a confermare l'output dell'agente, senza tempo, dati o autorità per dissentire, potrebbe non rappresentare una vera decisione umana. Misura quanto spesso chi revisiona cambia l'esito: un tasso pari a zero è un campanello d'allarme.

Insights

Metti queste idee al lavoro

Bastano 30 minuti per capire se un agente AI si adatta al tuo flusso di lavoro — e quanto può rendere.