Skip to content
Discutez avec un agent IA
Business et gouvernance

Décisions automatisées que les clients suisses acceptent : concevoir des agents qui apprennent autour de l'art. 21 LPD

Orange ITS — Équipe d’ingénierie IA 10 min de lecture

Un client demande à votre service clientèle pourquoi sa demande de limite de crédit plus élevée, de créneau de livraison plus rapide ou de renouvellement de police a été refusée. La réponse se trouve dans un système qui a appris des corrections du trimestre précédent, et personne ne sait dire quelle règle s’est déclenchée. La seule réponse honnête serait « c’est le logiciel qui a décidé », ce qui est difficile à dire à un client de Genève ou de Zurich. Et la conversation s’arrête là.

Les clients qui valent la peine d’être conquis s’opposent rarement à l’automatisation en elle-même. Ils veulent savoir qu’une personne est joignable, que le motif peut être expliqué et que leur version des faits est entendue. Notre travail sur l’inférence locale garde l’agent et ses journaux de décision sur une infrastructure que vous maîtrisez, là où ces preuves sont les plus faciles à protéger.

Concevez l’agent pour que chaque décision importante laisse une piste d’explication et une voie vers un humain : l’obligation légale devient alors une raison pour laquelle les clients vous choisissent. Cet article est un guide de conception et non une analyse juridique.

Note de périmètre : Agents IA et protection des données en Suisse traite de la résidence des données, des AIPD et des contrats avec les sous-traitants. Systèmes d’IA auto-apprenants explique ce qui s’améliore seul et ce qui exige des personnes. Cet article les réunit au moment où un agent décide quelque chose au sujet d’une personne. Il s’agit d’informations générales et non d’un conseil juridique.


Ce que demande l’art. 21

L’art. 21 de la loi fédérale révisée sur la protection des données (LPD, RS 235.1) est court. L’alinéa 1 prévoit que le responsable du traitement informe la personne concernée de « toute décision qui est prise exclusivement sur la base d’un traitement de données personnelles automatisé » et qui a « des effets juridiques pour elle » ou l’affecte « de manière significative ». La loi parle de décision individuelle automatisée. Selon l’alinéa 2, si la personne le demande, le responsable du traitement lui donne la possibilité de faire valoir son point de vue, et la personne peut exiger que la décision individuelle automatisée soit revue par une personne physique.

L’alinéa 3 écarte les deux obligations dans deux cas : la décision est en relation directe avec la conclusion ou l’exécution d’un contrat et la demande de la personne est satisfaite, ou la personne a expressément consenti à ce que la décision soit prise de manière automatisée. La loi est en vigueur depuis le 1er septembre 2023, et le Préposé fédéral à la protection des données et à la transparence (PFPDT) indique qu’elle s’applique directement aux traitements assistés par l’IA.

Deux mots de ce texte orientent la conception. « Exclusivement » signifie qu’une personne qui examine réellement le cas sort du champ de l’article. « De manière significative » signifie qu’un segment de newsletter mal étiqueté ne suffit pas, alors qu’une demande refusée suffit en général. La jurisprudence suisse publiée et les recommandations du PFPDT sur l’art. 21 pour les agents qui s’adaptent au fil du temps restent rares ; la couverture d’un système donné dépend donc des faits. C’est à votre conseil juridique d’en décider. Le reste de cet article explique comment construire pour que la question reçoive une réponse simple.


Classer les décisions de l’agent en trois groupes

La plupart des agents d’une entreprise font des dizaines de petits choix et une poignée qui comptent pour une personne. Classez-les avant de concevoir quoi que ce soit.

GroupeExempleConséquence pour la conception
Interne et réversibleÉtiqueter un ticket, rédiger une réponse, ordonner une fileJournalisez-la. Aucune voie spécifique nécessaire
Recommandation avec une vraie décision humaineL’agent propose un remboursement, un collaborateur trancheGardez l’intervention humaine authentique et mesurez-la
Importante et automatiséeRefuser une commande, écarter un candidat, mettre fin à un serviceInformez et entendez la personne, puis offrez une revue par une personne

La ligne du milieu est celle qui tente le plus les équipes. Si un collaborateur approuve 400 propositions de l’agent par heure, l’étape humaine n’est que du décor. Soit vous lui donnez le temps et les données pour contredire, soit vous traitez la ligne comme automatisée et vous construisez la voie de revue. Un contrôle utile est le taux de renversement. Si la personne qui décide ne contredit jamais l’agent, on ne peut pas la citer en garantie lorsqu’un client se plaint.

Gardez volontairement le troisième groupe petit. Chaque décision que vous faites passer d’automatisée à recommandée est une décision de moins qui nécessite une audition et une file de revue, et une de plus sur laquelle un client peut parler à un humain.


Pourquoi l’apprentissage rend les explications plus difficiles

Un moteur à règles fixes donne la même réponse le mardi et le vendredi. Un agent qui apprend n’en est pas forcément capable. Comme le décrit le guide des systèmes auto-apprenants, la plupart des systèmes en production apprennent en inscrivant des leçons dans des fichiers de mémoire, des règles et des cas de test extérieurs au modèle, et parfois en mettant à jour les poids. Chaque correction modifie ce que l’agent fera ensuite.

C’est utile pour la qualité et gênant pour la redevabilité. Lorsqu’un client s’interroge sur une décision vieille de trois semaines, « l’agent fonctionne ainsi aujourd’hui » est la mauvaise réponse. Il faut pouvoir dire comment il fonctionnait à l’époque. L’apprentissage exige aussi une personne dans la boucle : une leçon ne devient une règle active qu’après approbation, de sorte que l’historique des versions a un auteur et une date.


La piste d’explication : que consigner pour chaque décision

Le moment compte. Constituez l’enregistrement au moment de la décision, car le reconstituer après une réclamation relève de la conjecture. Pour chaque décision importante, conservez :

  • Les entrées. Les champs de données que l’agent a réellement utilisés, avec leurs valeurs à cet instant, et ceux qu’il a ignorés.
  • Les versions. L’identifiant du modèle, la version du prompt, les règles actives et les entrées de mémoire consultées.
  • Le résultat et la confiance. Ce qui a été décidé, les alternatives envisagées et le seuil appliqué le cas échéant.
  • Le parcours. Si la décision est partie directement ou a été retenue pour revue, et qui était le réviseur désigné par son nom.
  • L’information. Quand et comment la personne a été informée.

Générez l’explication en langage clair à partir de cet enregistrement. Une explication que le modèle rédige après coup à partir de ses propres impressions peut sembler plausible tout en décrivant un chemin différent de celui qui a été suivi. Un modèle de texte rempli avec les champs journalisés, par exemple « votre demande a été refusée parce que le code postal de livraison est hors de la zone couverte, règle version 14 », peut être vérifié par le réviseur comme par le client.

Ces enregistrements contiennent des données personnelles : appliquez donc les mêmes limites de conservation et d’accès que pour le dossier d’origine. Les garder dans un système que vous exploitez est plus simple que de les reconstituer à partir des journaux d’un fournisseur. Le guide de gouvernance des agents IA approfondit la journalisation d’audit et les responsabilités.


Le droit d’être entendu : en faire un vrai canal

L’alinéa 2 donne à la personne la possibilité de faire valoir son point de vue. En pratique, cela signifie une voie de réponse dans la notification de la décision, un formulaire ou une boîte de réception, qui ouvre un dossier plutôt qu’un ticket que personne ne lit.

Trois points de conception le rendent efficace :

  1. La notification nomme le canal. Elle indique qu’on peut demander la revue par une personne, et comment, dans la langue du client.
  2. La déclaration entre dans le dossier. Ce que la personne écrit est joint à l’enregistrement de la décision et visible par le réviseur. Si elle apporte un fait qui manquait à l’agent, la décision est rejouée avec ce fait.
  3. La réponse vient d’un rôle nommé. Un réviseur identifié par son nom ou son rôle, un délai de réponse cible et l’autorité de modifier le résultat.

À titre d’illustration, une entreprise pourrait promettre une réponse sous deux jours ouvrables et suivre si elle tient sa promesse. Le chiffre compte moins que le fait d’en avoir un, de le publier et de le mesurer.


La revue par une personne physique, sans tampon automatique

Pour que la revue soit réelle, le réviseur a besoin de quatre choses : l’enregistrement complet de la décision, la déclaration de la personne, l’autorité de renverser le résultat et l’absence de sanction s’il le fait. Un réviseur à qui l’on ne montre que la conclusion de l’agent aura tendance à la confirmer.

Suivez ces indicateurs chaque mois :

  • combien de décisions importantes ont été rendues et combien ont été contestées
  • combien de revues ont modifié le résultat
  • la durée d’une revue entre la demande et la réponse
  • combien de cas renversés provenaient d’une donnée d’entrée manquante ou erronée

Un taux de contestation proche de zéro peut signifier que les clients sont satisfaits ou que la notification est difficile à trouver. Un taux de renversement de zéro sur des centaines de revues appelle la question de savoir si les réviseurs ont les moyens de contredire. Un taux de renversement modéré avec des revues rapides montre que la voie fonctionne. Montrez-le à vos clients.


Les décisions renversées sont les meilleures données d’apprentissage

Chaque fois qu’une personne modifie le résultat de l’agent, vous obtenez un exemple annoté par un expert de l’endroit où l’agent s’est trompé. C’est la matière dont une boucle d’amélioration supervisée a besoin, et elle relie cet article au reste de la série : versez ces cas dans votre jeu de tests, vérifiez que la correction tient sur les cas passés et faites approuver la modification de la règle par un responsable nommé avant sa mise en production.

La règle est simple. L’apprentissage consiste ici en un cycle approuvé par une personne de collecte, de test, d’approbation et de mise en production. Un agent qui réécrirait seul ses règles de décision à chaque réclamation produirait exactement le comportement inexplicable que cet article cherche à supprimer. Comme chaque règle active porte une version, une date et un approbateur, la piste d’explication et la boucle d’apprentissage reposent sur les mêmes enregistrements.


Transformer l’obligation en argument de vente

Les équipes achats des banques, assurances, établissements de santé, RH et du secteur public posent souvent les mêmes questions sur les systèmes automatisés : à qui une personne peut-elle s’adresser, comment une décision est-elle expliquée, qu’est-ce qui est journalisé et où cela est-il conservé. Un fournisseur qui répond par une description d’une page de la voie de revue, un exemple d’enregistrement de décision et les indicateurs mensuels ci-dessus est plus facile à valider que celui qui répond par un PDF de politique.

Trois démarches concrètes :

  1. Mettez la voie de revue dans la proposition. Un seul schéma : décision, notification, déclaration, réviseur, résultat, modification journalisée.
  2. Montrez un enregistrement de décision anonymisé. Il prouve que la piste existe.
  3. Intégrez les indicateurs à votre rapport de service. Taux de contestation, taux de renversement et durée de revue donnent au client de quoi vous mesurer.

Les clients de l’UE ajoutent une règle parallèle. L’article 22 du RGPD protège les personnes contre les décisions fondées exclusivement sur un traitement automatisé, et l’AI Act de l’UE ajoute des obligations pour les systèmes à haut risque. Le Digital Omnibus, en vigueur depuis le 27 juillet 2026, a repoussé la principale échéance haut risque à décembre 2027, comme nous l’expliquons dans L’échéance haut risque de l’AI Act UE repoussée à décembre 2027. Une seule conception sert les deux publics.


Ce qui bouge encore

La Suisse prépare des règles propres à l’IA. En février 2025, le Conseil fédéral a décidé de ratifier la Convention-cadre du Conseil de l’Europe sur l’IA et de réglementer par secteur dans la mesure du possible, avec des règles générales uniquement dans des domaines comme la protection des données. Selon l’Office fédéral de la communication (OFCOM), la consultation sur ce projet est prévue au printemps 2027. Les calendriers antérieurs indiquaient la fin de 2026 : l’échéance a donc été repoussée. Vérifié le 7 novembre 2026 ; nous y reviendrons à la parution du projet.

L’art. 21 s’applique dès maintenant, quel que soit le calendrier. Une voie de revue, une piste d’explication et une boucle d’apprentissage supervisée seront nécessaires dans presque toutes les versions des règles à venir, et les construire maintenant coûte moins cher que de les ajouter après la première contestation.

Questions fréquentes

L'art. 21 LPD s'applique-t-il à tous les agents IA ?

Non. L'art. 21 LPD couvre les décisions prises exclusivement sur la base d'un traitement automatisé, qui ont des effets juridiques pour la personne ou l'affectent de manière significative. Un agent qui rédige des réponses ou suggère une priorité, alors qu'une personne décide, sort de cette définition si cette personne décide réellement. Un refus, une résiliation ou un prix fixé sans intervention humaine en sont le cas typique.

Que doit fournir une entreprise à la personne qui reçoit une décision automatisée ?

Le responsable du traitement doit informer la personne de la décision. À sa demande, il doit lui donner la possibilité de faire valoir son point de vue, et la personne peut exiger que la décision soit revue par une personne physique. L'alinéa 3 prévoit deux exceptions : une décision liée à un contrat dont la demande de la personne est satisfaite, et le consentement exprès à l'automatisation. Demandez à votre conseil juridique comment elles s'appliquent à votre situation.

Un agent qui apprend peut-il prendre des décisions automatisées ?

Oui, à condition de pouvoir les expliquer et les revoir. La difficulté tient à ce qu'un agent dont les règles évoluent peut donner des réponses différentes au même cas selon les jours. Consigner la version des règles et de la mémoire avec chaque décision, et faire approuver les nouvelles règles par une personne, rend chaque décision reproductible et vérifiable après coup.

Pourquoi une voie de revue humaine aide-t-elle à gagner des clients ?

Les acheteurs de la finance, de l'assurance, des RH et du secteur public demandent souvent, lors des appels d'offres, comment une personne peut contester un résultat automatisé. Une voie de revue documentée, avec un rôle nommé, un délai de réponse et un journal des décisions, répond à la question avant qu'elle ne soit posée et raccourcit la revue de sécurité et de conformité.

Un humain qui clique sur « approuver » suffit-il pour échapper à l'art. 21 ?

Pas forcément. L'article parle de décisions prises exclusivement sur la base d'un traitement automatisé. Un réviseur qui se contente de confirmer le résultat de l'agent, sans le temps, les données ou l'autorité pour le contredire, ne représente peut-être pas une véritable décision humaine. Mesurez la fréquence à laquelle les réviseurs modifient le résultat : un taux de zéro est un signal d'alerte.

Insights

Passez de l’idée à l’action

Un appel de 30 minutes suffit pour savoir si un agent IA s’intègre à votre flux de travail — et ce qu’il rapporterait.