Un agent de support reçoit le message « Remboursez ma dernière commande, s’il vous plaît. » Le client a passé trois commandes le mois dernier. L’agent choisit la plus récente, recrédite CHF 300 sur la carte et clôt le ticket. Deux jours plus tard, le client écrit à nouveau : le remboursement visait la commande précédente. L’argent est parti, la seconde commande reste contestée et un collaborateur passe une heure à démêler les deux dossiers.
L’agent a fait ce pour quoi il avait été construit. Il a comblé un vide par une hypothèse, ce qui est le comportement par défaut des modèles de langage. Tout workflow en plusieurs étapes confié à un agent IA a besoin de quelques points conçus à l’avance où l’agent s’arrête et pose une question, et ces points coûtent bien moins cher que le nettoyage après une mauvaise supposition. Cet article explique pourquoi les agents supposent au lieu de demander, où les données suggèrent de placer les arrêts, comment comparer le coût d’une question à celui d’une erreur et comment éviter l’excès inverse, qui consiste à trop demander. Si vous souhaitez concevoir ces points pour l’un de vos workflows, notre service de développement IA commence précisément par une cartographie de ces décisions.
Note de périmètre : cet article traite des points de question et de validation à l’intérieur d’un seul workflow. Pour le modèle d’exploitation plus large, consultez Gérer des agents IA en production ; pour la politique, les responsabilités et les obligations d’audit, voyez Gouvernance des agents IA.
Pourquoi les agents supposent au lieu de demander
Une personne qui reçoit une demande floue remarque généralement le flou. Un modèle, lui, tend à produire une réponse. La recherche sur les conversations multi-tours montre ce que cela coûte.
Laban et ses collègues l’ont testé dans “LLMs Get Lost In Multi-Turn Conversation”. Ils ont découpé une instruction complète en petits morceaux et les ont révélés au modèle sur plusieurs tours, un autre modèle jouant le rôle de l’utilisateur. L’étude couvrait 15 modèles issus de huit familles et plus de 200 000 conversations simulées. Selon l’article, la performance moyenne est passée d’environ 90 % en exécution à tour unique à environ 65 % en configuration multi-tours. Les auteurs indiquent une baisse moyenne de 39 % dans le résumé et de 35 % dans la légende d’une figure : le constat honnête est donc une baisse d’environ 35 à 39 %, selon l’endroit où l’on lit l’article.
Le détail est plus instructif que le chiffre-titre. La performance des modèles dans le meilleur des cas n’a reculé que modestement, d’environ 16 % en moyenne. L’écart entre leurs meilleures et leurs pires exécutions, lui, a augmenté d’environ 112 %. En clair, les modèles savaient encore accomplir la tâche, mais ils sont devenus beaucoup moins réguliers. Les auteurs décrivent un schéma récurrent : les modèles font des hypothèses dans les premiers tours, tentent des solutions finales trop tôt, puis ne parviennent pas à corriger une mauvaise piste.
Lisez le périmètre avant de citer ce chiffre. Les valeurs de 90 % et 65 % sont des scores absolus, alors que les 35 % et 39 % proviennent de la mesure de dégradation moyenne propre à l’article : les deux ne se concilient pas par un simple calcul. Les six tâches de génération portaient sur le code, le SQL, les actions par API, les mathématiques, le data-to-text et la synthèse ; les conversations étaient simulées et automatisées, les textes en anglais, les modèles de 2025. Le chiffre ne signifie pas que les modèles de langage sont globalement moins bons de 39 %. Ce qu’il étaie est plus étroit et reste pertinent pour l’exploitation : lorsque l’information arrive par morceaux, un agent qui s’engage tôt est moins fiable qu’un agent qui vérifie.
Un succès sur une seule exécution masque le problème
Les responsables des opérations voient en général une démonstration, et une démonstration correspond à une seule exécution. L’article de tau-bench permet de mesurer l’écart entre une exécution et plusieurs.
Yao et ses collègues ont construit tau-bench pour tester un agent qui dialogue avec un utilisateur simulé tout en appelant des outils soumis à des règles métier, comme celles d’un service client retail ou d’une compagnie aérienne. Le succès se juge en comparant l’état final de la base de données à l’objectif. L’article définit une métrique appelée pass^k, décrite comme la probabilité que les k essais indépendants d’une même tâche réussissent tous, moyennée sur les tâches. Un score pass^1 correspond à une seule exécution. Un score pass^8 exige huit réussites consécutives sur la même tâche.
Selon l’article, le meilleur modèle testé, gpt-4o, a obtenu un pass^1 de 61,2 % sur les tâches retail et de 35,2 % sur les tâches aériennes. En retail, son pass^8 était inférieur à 25 %. Le même agent qui paraît acceptable une fois devient peu fiable dès qu’on exige qu’il se comporte toujours de la même façon, ce qu’un processus d’entreprise réclame précisément.
Deux limites s’appliquent. Les modèles datent de 2024 et les systèmes actuels diffèrent. L’enseignement qui demeure est structurel : un taux de réussite isolé surestime la sécurité d’une action confiée seule à un agent sur une étape lourde de conséquences. C’est ce qui justifie un point de contrôle là où l’action ne peut pas être annulée.
Où placer les arrêts dans un workflow
Les recommandations des éditeurs et la recherche convergent vers une courte liste d’emplacements. Il s’agit d’un consensus de praticiens et non de seuils mesurés, et les sources ne l’affirment pas toutes avec la même fermeté.
Avant une action irréversible ou externe
Le guide pratique d’OpenAI pour construire des agents range les actions à haut risque parmi les deux principaux déclencheurs d’une intervention humaine. Il les décrit comme des actions sensibles, irréversibles ou à fort enjeu, avec pour exemples l’annulation de commandes, l’autorisation de remboursements importants et les paiements. L’AI Red Team de Microsoft va plus loin et recommande des niveaux d’approbation gradués selon la réversibilité de l’action et son rayon d’impact. L’envoi d’un e-mail à un client, l’écriture dans l’ERP, le transfert d’argent et la suppression d’un enregistrement relèvent tous de cette catégorie.
En cas de champ obligatoire manquant
Si une étape exige un numéro de commande, une adresse de livraison ou un plafond d’approbation et que l’entrée n’en contient aucun, l’agent doit le demander plutôt que le déduire. Les données sont minces mais cohérentes. Dans le benchmark CRMArena-Pro de Salesforce AI Research (Huang et al.), les auteurs ont échantillonné 20 exécutions échouées d’un modèle et constaté que, dans 9 d’entre elles, l’agent n’avait pas recueilli toutes les informations nécessaires. Le benchmark a été conçu par un éditeur et l’échantillon est petit : il appuie une intuition de conception, pas une statistique.
En cas d’ambiguïté entre plusieurs entités
L’exemple d’ouverture appartient à cette catégorie : quelle commande, quel client, quelle facture, quel contrat. Il s’agit d’un jugement de praticien. Aucune étude primaire ne teste spécifiquement les vérifications d’identité ; considérez donc cette règle comme un principe de conception tiré de la recherche générale sur l’ambiguïté. Elle mérite sa place, car le coût d’un mauvais rapprochement est généralement celui de l’action qui en découle, et l’agent a souvent devant lui deux candidats plausibles.
Après des échecs répétés
Le second déclencheur d’OpenAI est le dépassement de seuils d’échec. Son guide suggère de limiter les nouvelles tentatives ou les actions et de passer la main à une personne lorsque l’agent ne comprend pas l’intention du client après plusieurs essais. Building effective agents d’Anthropic fait une remarque voisine : il est courant d’inclure des conditions d’arrêt, comme un nombre maximal d’itérations. Le texte précise aussi que les agents peuvent s’interrompre pour obtenir un retour humain à des points de contrôle ou face à un blocage. La formulation est permissive : elle décrit une option et n’impose aucune règle.
| Déclencheur | Exemple typique | Source de la règle de placement |
|---|---|---|
| Action irréversible ou externe | Remboursement, paiement, e-mail sortant, écriture dans l’ERP | Guide OpenAI ; AI Red Team de Microsoft (gradué par réversibilité) |
| Champ obligatoire manquant | Aucun numéro de commande sur une demande de retour | Échantillon CRMArena-Pro (9 échecs sur 20, un modèle) |
| Ambiguïté entre entités | Deux commandes ouvertes pour un même client | Jugement de praticiens, aucune étude primaire |
| Échecs répétés | Troisième tentative infructueuse de classer l’intention | Guide OpenAI (seuils d’échec) |
| Faible confiance | L’agent indique qu’il n’est pas sûr | Simple modèle de conception, aucun seuil validé |
La dernière ligne mérite d’être soulignée. De nombreux guides disent « demandez lorsque la confiance est faible », mais aucune étude publiée ne fournit de seuil de confiance mesuré qui fonctionne en production. La confiance déclarée par un modèle n’est pas une probabilité calibrée : bâtissez donc vos déclencheurs sur des faits du dossier (un champ est vide, deux enregistrements correspondent, l’action est irréversible) avant de les fonder sur le ressenti de l’agent.
Ce que coûte une question face à une erreur
Chaque question a un prix, essentiellement le temps de la personne qui répond. Chaque action erronée a aussi un prix, souvent plus élevé. Une règle simple permet de les comparer.
Posez la question lorsque la probabilité que l’hypothèse soit fausse, multipliée par le coût de l’action erronée, dépasse le coût de la question. Réécrite, la règle dit que l’agent doit demander dès que cette probabilité dépasse une valeur seuil P*, où P* est égal au coût de la question divisé par le coût de l’action erronée.
Les chiffres ci-dessous sont illustratifs et servent à montrer le mécanisme. Ce ne sont pas des benchmarks et vous devriez les remplacer par les vôtres.
- Coût d’une question. Un collaborateur dont le temps équivaut à CHF 60 de l’heure y consacre deux minutes : la question coûte donc environ CHF 2 (illustratif).
- Remboursement de CHF 300 difficile à annuler. P* vaut 2 divisé par 300, soit environ 0,7 %. Si ne serait-ce qu’une hypothèse sur cent est fausse, demander revient moins cher (illustratif).
- Ticket de support mal classé, avec CHF 5 de correction. P* vaut 2 divisé par 5, soit 40 %. Sauf si l’agent se trompe quatre fois sur dix, il est moins coûteux de le laisser classer, de consigner le résultat et de faire corriger l’exception par les équipes (illustratif).
Ramenez le calcul à un mois pour voir le schéma. Prenez 500 demandes de remboursement pour lesquelles l’agent a 3 % de chances de choisir la mauvaise commande. Le laisser agir seul conduit à environ 15 remboursements erronés, soit CHF 4 500 de remise en ordre. Demander à chaque demande coûte 500 fois CHF 2, soit CHF 1 000. Prenez maintenant 2 000 tickets dont un taux de classement erroné de 10 % produit environ 200 erreurs à CHF 5, donc CHF 1 000. Demander sur tous coûte CHF 4 000. Le même agent justifie une question dans un cas et gaspille de l’argent dans l’autre (tous les chiffres sont illustratifs).
Ce cadre correspond à la façon dont la communauté de recherche aborde désormais le sujet. Un benchmark de 2026 appelé RegretBench, décrit dans un résumé arXiv, évalue les politiques de clarification selon le coût d’interaction, les questions inutiles et le regret, même si le résumé ne donne aucune formule. Aucune source ne fournit de modèle de coût validé : le calcul ci-dessus est donc un outil de réflexion et non un résultat de recherche.
Deux éléments relèvent le seuil réel pour les tâches fréquentes à faible enjeu. Le premier est l’attente du client pendant que la question reste dans la file de quelqu’un. Le second est l’effet décrit dans la section suivante. C’est la réversibilité qui doit fixer le seuil, et en aucun cas le degré de certitude que l’agent éprouve.
L’excès inverse : trop demander
Ajouter une question partout donne une impression de sécurité. Les données disent le contraire.
Zheng et ses collègues ont mené une expérience contrôlée auprès de 180 participants dans six scénarios de décision du quotidien (arXiv 2611.01087). Les questions de clarification ont accru la compréhension perçue et la satisfaction. Elles ont aussi conduit les participants à consacrer moins de temps à la relecture des réponses et à en accepter davantage telles quelles, y compris des réponses erronées. Le cadre était celui de décisions de consommation et non d’actions d’agents en entreprise, et l’article ne rapporte aucune variation de la confiance générale : appliquez ce résultat avec prudence. Il montre néanmoins qu’une question peut donner aux gens le sentiment d’être impliqués alors qu’ils contrôlent moins.
Côté sécurité, le constat est plus net. L’article de l’AI Red Team de Microsoft cité plus haut affirme que le contournement des contrôles human in the loop a été le mode de défaillance exploité le plus systématiquement dans ses travaux, par le biais de la lassitude du consentement. Il recommande de surveiller la fréquence des approbations pour détecter les signes de cette lassitude. Anthropic a indiqué, dans son article sur le mode automatique de Claude Code, que les utilisateurs acceptent en pratique 93 % des demandes d’autorisation manuelles. C’est une déclaration d’éditeur, sans méthode publiée : lisez-la comme un signal et non comme un fait établi pour l’ensemble du secteur.
La conséquence pour la conception est directe :
- Réservez la validation complète au petit nombre d’actions dont l’erreur coûte cher et se défait difficilement.
- Laissez les agents agir, avec journalisation, sur les étapes réversibles et peu coûteuses.
- Suivez le taux d’approbation. Si un point de contrôle est approuvé sans modification presque à chaque fois, soit le déclencheur est trop large, soit le validateur ne lit plus, et les deux cas appellent une réaction.
- Montrez au validateur ce qui compte. Une invite qui dit « Approuver l’action ? » invite à cliquer. Une invite qui présente la commande, le montant et l’unique détail dont l’agent doutait invite à décider.
Une étude sur un agent de programmation d’Edwards et Schuster (arXiv 2603.26233) montre avec quelle facilité les questions se multiplient. Leur dispositif de clarification multi-agents posait environ 3 questions par tâche avec un modèle et près de 9 avec un autre, et coûtait plus cher par tâche en frais d’API qu’une version à agent unique. Il a toutefois aussi amélioré les résultats. Demander a donc une vraie valeur, et une architecture peut malgré tout poser énormément de questions : budgétez-les comme n’importe quel autre coût.
Une liste de contrôle pour concevoir les points de clarification
Pour chaque arrêt d’un workflow, notez quatre éléments avant de construire. Un tableau garde la rigueur, et c’est le livrable qu’un responsable des opérations peut relire sans lire de code.
| Question de conception | À préciser | Exemple pour un workflow de remboursement |
|---|---|---|
| Déclencheur | Le fait qui provoque l’arrêt | Remboursement supérieur à CHF 100, ou deux commandes ouvertes correspondent à la demande |
| Qui répond | Un rôle nommé, doté d’autorité, avec un suppléant | Chef d’équipe de service, avec son adjoint en relais |
| Contenu de la question | Le cas, les options, l’action proposée par l’agent et l’unique point dont il doute | « Les commandes 4411 et 4418 correspondent toutes deux. Proposition : rembourser la 4418, CHF 300. Confirmez ou choisissez. » |
| Journal | Ce qui est consigné pour la revue | Question, réponse, délai de réponse, action finale et indication si la personne a modifié la proposition |
Ajoutez trois règles d’exploitation autour du tableau.
- Fixez un délai et un comportement par défaut. Si personne ne répond dans le délai convenu, le dossier doit être escaladé ou attendre en toute sécurité. Il ne doit jamais avancer sur une simple supposition de l’agent.
- Passez le journal en revue chaque mois. Comptez combien de fois la réponse a différé de la proposition de l’agent. Un point de contrôle qui ne change jamais rien est candidat à la suppression. Une étape sautée qui continue à produire des erreurs est candidate à un nouveau point de contrôle.
- Testez les arrêts avant le lancement. Faites passer des cas historiques réels dans le workflow et vérifiez que les déclencheurs s’activent là où vous l’attendez. Notre guide sur la création d’évaluations à partir de tickets réels explique comment constituer cet ensemble de cas.
Cartographier d’abord le processus facilite tout cela, car la liste des déclencheurs ressort de la colonne des exceptions. Le guide de cartographie des workflows montre comment établir cette carte en une demi-journée.
Ce que les données ne disent pas
Soyez au clair sur les limites avant de régler quoi que ce soit.
- Il n’existe aucun seuil validé. Personne n’a publié d’étude de terrain reliant nombre de questions, coûts d’erreur et seuils de confiance en production. La règle du seuil est une aide à la décision et les données d’entrée sont les vôtres.
- Les benchmarks sont simulés. L’utilisateur de chaque étude est un modèle de langage ou un interlocuteur scripté, et plusieurs tâches sont des exercices de génération ou s’articulent autour du CRM d’un éditeur. Les vrais clients sont plus imprévisibles.
- Les modèles sont plus anciens. Laban et al. et tau-bench ont utilisé des modèles de 2024 et 2025. Les modèles actuels peuvent demander davantage, moins, ou mieux se rattraper après une fausse piste. Mesurez votre propre système.
- La revue humaine n’est pas une garantie. Les données sur la lassitude du consentement signifient qu’un point de contrôle ne vous protège que si la personne qui le tient dispose du temps et des informations pour décider.
Des obligations légales peuvent ajouter des exigences. L’article 14 de l’AI Act de l’UE fixe des obligations de supervision humaine, dont la capacité de passer outre un système ou de l’arrêter, pour les systèmes d’IA à haut risque. Savoir si un workflow donné est à haut risque est une question juridique propre à chaque situation, qui dépasse ce que cet article peut trancher.
La conclusion pratique est modeste et vérifiable. Choisissez les trois ou quatre actions de votre workflow que vous ne pourriez pas annuler facilement, placez devant chacune une question bien formulée, laissez les étapes peu coûteuses tranquilles et lisez le journal au bout d’un mois. Les chiffres de vos propres cas vous diront s’il faut déplacer un arrêt, en retirer un ou en ajouter un autre, et ils auront plus de valeur que n’importe quel benchmark cité ici.
Questions fréquentes
Que signifie human in the loop pour un agent IA ?
L'agent s'arrête à des points définis et une personne répond, valide ou corrige avant que le workflow se poursuive. Ces points sont fixés à l'avance, par exemple avant le versement d'un remboursement, lorsqu'un champ obligatoire manque ou après plusieurs échecs de l'agent. Tout ce qui se passe entre ces points s'exécute sans intervention humaine. L'objectif est de placer peu d'arrêts, bien choisis, là où une erreur coûterait cher.
Quand un agent IA doit-il poser une question plutôt que supposer ?
Il doit demander lorsqu'une hypothèse erronée serait coûteuse ou difficile à annuler, et il peut supposer lorsqu'une erreur se corrige à peu de frais. Dans son guide pratique des agents, OpenAI cite deux déclencheurs : le dépassement de seuils d'échec et les actions à haut risque, comme les remboursements ou paiements importants. Un contrôle complémentaire utile est l'absence d'un champ obligatoire. Aucune étude ne valide un seuil de confiance chiffré : fixez donc vos limites d'après vos propres coûts d'erreur.
Comment comparer le coût d''une question à celui d''une action erronée ?
Divisez le coût de la question par le coût de l'action erronée. Le résultat est la probabilité d'erreur au-delà de laquelle il est rentable de demander. Avec des chiffres illustratifs de CHF 2 pour une question de deux minutes et de CHF 300 pour un remboursement difficile à annuler, le seuil est d'environ 0,7 %. Pour un classement erroné à CHF 5, il est de 40 %. Remplacez ces exemples par le temps réel de vos collaborateurs et vos propres coûts d'erreur.
Trop de demandes de validation peuvent-elles rendre un agent moins sûr ?
Oui. L'AI Red Team de Microsoft indique que le contournement du human in the loop est le mode de défaillance exploité le plus systématiquement dans ses travaux sur les systèmes agentiques, en partie grâce à la lassitude du consentement. Une expérience contrôlée auprès de 180 participants a montré que ceux qui recevaient des questions de clarification relisaient moins les réponses et acceptaient davantage de réponses erronées. Graduez les validations selon les conséquences et suivez la fréquence des approbations sans modification.
Les résultats des benchmarks s''appliquent-ils à mon workflow d''entreprise ?
Seulement en partie. Les études citées reposent sur des utilisateurs simulés, des tâches surtout de génération ou de service client, des textes en anglais et des modèles de 2024 et 2025. Elles révèlent une tendance : supposer tôt et agir sans contrôle réduit la fiabilité. Elles ne fournissent pas de seuil à recopier. Voyez-y une raison de tester votre propre workflow sur des cas consignés avant de décider où placer les points de contrôle.