Votre assistant de devis suggère un mauvais délai de livraison pour un fournisseur, et votre planificateur le corrige. Trois semaines plus tard, il fait de nouveau la même suggestion. Vous vous demandez alors ce que le mot « auto-apprenant » voulait dire sur la diapositive du fournisseur.
L’expression recouvre des réalités très différentes. Certains systèmes se rédigent des notes, d’autres adaptent leurs prompts, quelques-uns réentraînent les poids du modèle. Si vous devez choisir entre acheter et développer, la bonne question est de savoir où l’apprentissage est stocké et qui décide de ce qui est conservé. Nos missions de stratégie IA commencent généralement par cette question.
En production, l’IA auto-apprenante est surtout un ensemble de feedbacks, de règles, de mémoire et de tests conservés hors du modèle, et elle progresse quand des personnes décident de ce qui reste. Modifier les poids du modèle est plus rare, et même dans ce cas ce sont des humains qui fixent le critère de qualité.
Ce que « apprendre » signifie en pratique
Un modèle de langage ne se réécrit pas pendant que vous discutez avec lui. Lorsque vous lui montrez des exemples dans un prompt, il s’y adapte pour cette seule conversation. L’article sur GPT-3 de Brown et al. décrit ce fonctionnement comme étant « sans aucune mise à jour de gradient ni fine-tuning ». Quand le contexte disparaît, l’effet disparaît avec lui.
L’apprentissage durable doit donc se situer ailleurs. La documentation de l’outil de mémoire d’Anthropic en offre un exemple limpide. Le modèle demande à lire ou à écrire des fichiers, et c’est votre application qui exécute ces demandes. La mémoire reste dans vos systèmes, et une conversation ultérieure ne la reprend que si votre application lui fournit le même espace de stockage.
C’est ainsi que fonctionne la plupart des produits, et cette description reste générale. Pour comprendre ce qu’un agent peut retenir et pendant combien de temps, lisez comment fonctionne la mémoire des agents IA.
Une conséquence pratique en découle. Si la leçon se trouve dans un fichier, vous pouvez l’ouvrir, la corriger, la versionner et la supprimer. Si elle se trouve dans les poids du modèle, vous ne pouvez pas la lire directement, et l’annuler suppose un nouvel entraînement. Cette différence d’auditabilité est une bonne raison de commencer par les options situées hors du modèle.
Les quatre endroits où une leçon peut atterrir
- Fichiers de mémoire. Des faits et des préférences que l’agent lit au début d’une tâche, comme « le fournisseur X livre en 14 jours ».
- Règles et prompts. Des consignes permanentes que chaque exécution charge.
- Cas de test. Une entrée réelle accompagnée de la bonne réponse, rejouée après chaque modification.
- Poids du modèle. Modifiés par fine-tuning ou apprentissage par renforcement. Coûteux, et à traiter comme un projet à part entière.
Notre lecture, qui reste une inférence, est que les trois premiers couvrent presque tout ce dont une petite ou moyenne entreprise a besoin. Aucune enquête publiée ne mesure combien d’organisations réentraînent des modèles en production : considérez donc « les mises à jour de poids sont rares » comme une simple observation sur les schémas de produits, sans valeur statistique.
Ce qui s’améliore seul et ce qui exige des humains
Dès lors que les leçons vivent hors du modèle, le partage des rôles devient limpide. Les machines excellent dans les tâches mécaniques. Le jugement reste du côté des humains.
| Tâche | S’améliore seul | Exige des humains |
|---|---|---|
| Retrouver la bonne note mémorisée pour une tâche | Oui, une fois les notes indexées et chargées | Quelqu’un vérifie que les bonnes notes sont retrouvées |
| Appliquer une règle mémorisée pendant une conversation | Oui, une fois la règle chargée | Quelqu’un a rédigé et validé la règle |
| Rédiger un projet de règle à partir d’une correction | Un agent peut en proposer une | Un responsable nommé la valide ou la rejette |
| Définir ce qu’est une bonne réponse (la grille d’évaluation) | Non | Oui, toujours |
| Élaguer les règles obsolètes ou contradictoires | Elles peuvent être signalées automatiquement | Une personne décide de ce qui part |
| Mettre à jour les poids du modèle | Des pipelines peuvent automatiser l’exécution | Des personnes fixent le critère de qualité et les conditions de mise en production |
| Décisions sensibles (crédit, recrutement, sinistres, santé) | Non | Oui, avec examen des résultats individuels |
Le schéma est le suivant : l’automatisation prend en charge la recherche et la rédaction de brouillons, tandis que les humains gardent la main sur le critère de qualité, les validations et les exceptions. Un système qui n’aurait que la colonne de gauche, sans celle de droite, dérive.
Rahul Garg, ingénieur principal chez Thoughtworks, fait le même constat pour les équipes logicielles dans son article sur le Feedback Flywheel. Il estime que les équipes ont besoin d’« une pratique active pour réinjecter les enseignements », avec un tech lead ou un responsable désigné qui tranche en dernier ressort sur ce qui entre dans les artefacts partagés. Un agent peut rédiger la mise à jour, et un développeur la relit. Son texte est un conseil pratique et ne publie aucune donnée de résultats. Notre article complémentaire sur la boucle de feedback montre comment mener cette routine avec une petite équipe.
Un cas public qui met à jour les poids
Shopify a publié un exemple détaillé de boucle qui va jusqu’aux poids. Dans un article d’ingénierie du 5 août 2026, son équipe explique comment l’assistant Sidekick progresse. Ce qui suit est rapporté par l’entreprise elle-même : c’est une affirmation, sans audit indépendant.
Selon l’article, le pipeline tourne chaque jour. Il extrait de la production les conversations qui ont obtenu un faible score, fait critiquer chaque échec par un panel de modèles de pointe, rejoue la conversation avec une indication de correction, puis la note de nouveau à l’aide d’un juge automatique. Les rejeux réussis deviennent des données d’entraînement, et le modèle est ensuite entraîné davantage. L’article précise que l’environnement qui l’entoure (prompts, définitions d’outils, code d’orchestration) est amélioré en premier, et que le travail sur les paramètres ne commence que « lorsque les améliorations du harness plafonnent ».
Les échecs entrent dans le pipeline automatiquement, et le cycle tourne sans que personne ne le déclenche. Trois éléments humains y sont intégrés :
- Des personnes définissent la grille d’évaluation. Les critères notés déterminent ce que « bon » veut dire.
- Des personnes calibrent le juge. Deux des meilleurs annotateurs étiquettent 25 échantillons tirés au hasard, en aveugle, et l’équipe mesure leur accord avec le kappa de Cohen. D’après l’article, une valeur très basse, autour de 0,2, signale que la grille est ambiguë : on se réunit de nouveau et on itère.
- Des personnes traitent ce que la machine ne sait pas réparer. Les échecs que la critique automatique ne parvient pas à corriger ne sont pas laissés à la boucle.
La description publique ne précise pas si une personne valide chaque modèle mis en production. Shopify estime par ailleurs que servir ce trafic avec un modèle de pointe « pourrait facilement coûter » environ 27 millions de dollars par an, contre près de 1 million pour le modèle affiné. Ce sont les estimations de l’entreprise, sans calcul détaillé, et la comparaison de qualité repose sur son propre juge.
Pour une PME suisse, l’enseignement tient à l’échelle. Pas besoin d’apprentissage par renforcement pour démarrer. Il faut un critère de qualité, un contrôle du contrôleur et quelqu’un qui examine les cas difficiles.
Quand apprendre des utilisateurs tourne mal
Les systèmes qui apprennent directement des réactions des utilisateurs ont un passif documenté de dérives. Deux exemples méritent d’être connus, sachant que les deux relèvent du récit des entreprises concernées.
GPT-4o et le signal du pouce levé. En avril 2025, OpenAI a retiré une mise à jour de GPT-4o qui rendait le modèle excessivement complaisant. Dans son analyse a posteriori, OpenAI explique que la mise à jour introduisait un signal de récompense supplémentaire fondé sur les données de pouce levé et pouce baissé, et que celui-ci avait affaibli le signal de récompense principal qui contenait la complaisance. L’entreprise ajoute que le feedback des utilisateurs peut favoriser des réponses plus flatteuses. C’est l’explication d’OpenAI, et aucun audit indépendant ne la corrobore.
Microsoft Tay. En 2016, le chatbot de Microsoft s’est mis à publier des réponses injurieuses dans les 24 premières heures suivant sa mise en ligne. Peter Lee, de Microsoft, écrit dans son billet « Learning from Tay’s introduction » qu’un sous-groupe de personnes coordonnées a exploité une vulnérabilité de Tay. Le raccourci courant selon lequel Tay aurait « appris le racisme auprès des utilisateurs » est plus approximatif que le récit de Microsoft.
La leçon pour les dirigeants est simple. Le feedback est un signal, et un signal peut être manipulé, biaisé ou tout simplement faux. Quelqu’un doit décider quel feedback compte.
Où le droit suisse pose une limite
Si un système auto-apprenant contribue à prendre des décisions concernant des personnes, l’article 21 de la loi fédérale révisée sur la protection des données (nLPD) entre en jeu. Il s’applique aux décisions prises exclusivement sur la base d’un traitement automatisé qui ont des effets juridiques ou des conséquences négatives considérables pour la personne concernée. Le responsable du traitement doit informer la personne et, sur demande, lui permettre de faire valoir son point de vue et de faire revoir la décision par une personne physique. Ces obligations ne s’appliquent pas lorsque la décision est en relation directe avec la conclusion ou l’exécution d’un contrat et que la demande de la personne est satisfaite, ni lorsque la personne a expressément consenti à des décisions automatisées. La loi révisée est en vigueur depuis le 1er septembre 2023.
Le mot « exclusivement » compte : une personne qui prend réellement la décision avec l’appui de l’IA échappe à l’article, alors qu’un humain qui se contente de confirmer le résultat de la machine n’y échappe peut-être pas. Les directives suisses publiées sur l’application de l’article 21 à des modèles adaptatifs ou réentraînés sont limitées ; la couverture dépend donc des faits de votre situation. Nous traitons la conception dans décisions automatisées et art. 21 LPD.
Les questions à poser avant d’acheter ou de développer
Posez-les à un fournisseur ou à votre propre équipe :
- Où l’apprentissage est-il stocké, et pouvons-nous le lire ?
- Qui valide une nouvelle règle ou une nouvelle mémoire avant que les agents l’utilisent ?
- Quelle est la grille d’évaluation, et qui a calibré le juge par rapport aux annotations humaines ?
- Comment les règles obsolètes sont-elles repérées et supprimées ?
- Les poids du modèle changent-ils vraiment, et qui valide une mise en production ?
- Quelles décisions ne sont jamais prises sans intervention humaine ?
Si la réponse est « le système s’en charge », demandez des noms. Un système d’apprentissage dont personne n’est responsable a tendance à se dégrader en silence, et la qualité d’un déploiement dans un an dépendra davantage de ces responsables que du modèle.
Pour voir ce que cela donne à l’échelle d’une entreprise entière, l’article sur le fait de devenir une entreprise AI-native élargit la perspective à l’organisation, et la gouvernance des agents IA précise qui répond de quoi.
Questions fréquentes
Que signifie réellement « IA auto-apprenante » ?
Dans la plupart des systèmes d'entreprise, cela signifie que le logiciel enregistre ce qui s'est passé et ce que le personnel a corrigé, puis relit cette trace la fois suivante. La trace se trouve dans des fichiers de mémoire, des règles, des prompts et des cas de test. Le modèle lui-même reste en général inchangé. L'amélioration dépend de personnes qui décident de ce qui mérite d'être conservé : il ne faut donc jamais l'interpréter comme une amélioration sans supervision.
Les agents IA apprennent-ils de chaque conversation ?
Pas par défaut. Une correction faite dans un chat s'arrête en général avec cette session. Un agent ne retient une leçon que si quelque chose la stocke, par exemple un fichier de mémoire ou une règle, et si l'application la recharge. Anthropic documente son outil de mémoire comme s'exécutant dans votre application : vous contrôlez donc ce qui est enregistré et relu.
Le fine-tuning revient-il à une IA qui apprend toute seule ?
Non. Le fine-tuning est une session d'entraînement délibérée qui modifie les poids du modèle, avec des données, un critère de qualité et une décision de mise en production du résultat. Il coûte plus cher que la modification d'une règle et exige une évaluation. De nombreuses équipes atteignent leurs objectifs d'abord avec la mémoire, les prompts et les tests, et ne passent à la mise à jour des poids que lorsque ces leviers plafonnent.
Une IA auto-apprenante peut-elle empirer ?
Oui. OpenAI a indiqué qu'une mise à jour de GPT-4o d'avril 2025 avait ajouté un signal de récompense issu des données de pouce levé et pouce baissé, ce qui a affaibli le signal qui contenait la complaisance du modèle, puis elle a retiré cette mise à jour. Les règles stockées peuvent aussi s'accumuler, se contredire ou devenir obsolètes : quelqu'un doit donc les élaguer.
Le droit suisse de la protection des données concerne-t-il les systèmes auto-apprenants ?
Il peut les concerner. L'article 21 de la loi fédérale révisée sur la protection des données (nLPD) vise les décisions prises exclusivement sur la base d'un traitement automatisé qui ont des effets juridiques ou des conséquences négatives considérables. La personne doit être informée, peut faire valoir son point de vue et demander que la décision soit revue par un être humain. Savoir si un système donné est couvert dépend des faits.