Skip to content
Discutez avec un agent IA
Sur mesure vs plateforme

Fine-tuning ou prompts mieux écrits ? L'économie d'une boucle d'apprentissage sur votre propre matériel

Orange ITS — Équipe d’ingénierie IA 14 min de lecture

Votre agent de support fonctionne, mais la facture mensuelle de l’API grossit et le prompt atteint 2 500 tokens de règles, d’exemples et de style maison. Quelqu’un dans l’équipe dit ce qui paraît évident : faisons le fine-tuning d’un modèle plus petit sur nos données, le prompt raccourcit, la facture baisse, les réponses nous ressemblent. L’idée est raisonnable. Mais la plupart des petites et moyennes entreprises devraient la chiffrer avec soin avant d’agir, car l’arithmétique ne ressemble pas au discours commercial.

L’entraînement lui-même coûte peu : quelques dollars, parfois quelques centaines. L’argent part ailleurs : collecte et étiquetage des exemples, tests qui disent si le nouveau modèle est meilleur, réentraînement quand le modèle de base change, et une personne qui répond de l’ensemble. Par ailleurs, l’offre a évolué cet automne : la plus grande plateforme de fine-tuning en libre-service est en cours de démantèlement.

Si votre première question est de savoir où tourne l’inférence, notre page sur l’inférence locale traite le côté matériel. Cet article reste sur la décision qui se présente à vous maintenant.

Le fine-tuning ne rapporte que si le volume est élevé et stable et si une boucle d’évaluation fonctionne ; sinon, un meilleur prompt, du retrieval et un bon harness apportent l’essentiel du bénéfice pour une fraction de l’effort. Vous trouverez ci-dessous ce que le fine-tuning change vraiment, ce qu’il coûte une fois le travail humain compté, quels fournisseurs le proposent encore, un seuil de rentabilité chiffré, et les arguments pour et contre l’exécution de la boucle sur votre propre matériel.

Note de périmètre : le prérequis des évaluations est traité dans évaluations IA à partir de tickets réels, et la routine qui transforme les corrections du personnel en règles dans la boucle de feedback de l’IA. Ces deux sujets passent avant tout ce que décrit cet article.


Ce que le fine-tuning change, et ce qu’il laisse intact

Le fine-tuning ajuste les poids d’un modèle à partir des exemples que vous fournissez. Hamel Husain, consultant en IA qui écrit beaucoup sur les évaluations, décrit clairement le partage des rôles dans son article sur les évaluations : le fine-tuning est le plus adapté pour apprendre la syntaxe, le style et les règles, tandis que des techniques comme le retrieval apportent au modèle du contexte ou des faits à jour.

La recherche va dans le même sens. Gekhman et ses collègues, dans un article de 2024, ont constaté que les exemples de fine-tuning qui introduisent des connaissances nouvelles sont appris nettement plus lentement que ceux qui concordent avec ce que le modèle sait déjà, et qu’une fois appris, ils augmentent de façon linéaire sa tendance à halluciner. Leur conclusion : les modèles acquièrent l’essentiel des connaissances factuelles lors du pré-entraînement, et le fine-tuning leur apprend surtout à les exploiter plus efficacement.

Pour un dirigeant, la répartition pratique se présente ainsi :

Vous voulez que le modèle…Meilleur outilPourquoi
Connaisse votre tarif, vos conditions, vos données produitRetrieval (RAG)Vous mettez un document à jour et la réponse change dès demain
Suive un format de sortie ou un ton fixesD’abord le prompt, fine-tuning si le prompt devient ingérableLe format et le style sont ce que le fine-tuning gère bien
Applique de façon fiable un ensemble stable de règles métierD’abord le harness (contrôles, outils, validation), le fine-tuning ensuiteLes règles dans le code sont testables et auditables
Accomplisse une seule tâche étroite à très bas coût et à fort volumeFine-tuning d’un petit modèleLe seul cas où l’économie par appel peut vraiment bouger

Un modèle fine-tuné qui a absorbé les prix du trimestre dernier les citera avec aplomb le trimestre prochain. Les faits qui changent doivent rester hors des poids.


Le coût en espèces de l’entraînement est le petit chiffre

Commençons par la facture d’entraînement, car c’est la partie que l’on croit élevée. Sur la page de tarifs d’OpenAI au 7 novembre 2026, l’entraînement de gpt-4.1-mini était affiché à USD 5,00 par million de tokens d’entraînement. Un jeu de 2 000 exemples de 500 tokens chacun, sur 3 époques, représente 3 millions de tokens d’entraînement, soit environ USD 15.

Husain écrit que 99% du travail du fine-tuning consiste à réunir des données de haute qualité couvrant toute la surface de votre produit. C’est l’opinion d’un praticien, sans mesure derrière le pourcentage, mais quiconque a étiqueté quelques centaines de tickets de support en reconnaîtra l’ordre de grandeur. Le guide de fine-tuning d’OpenAI ouvre lui aussi ses conseils par « Good evals first! » et recommande de n’investir dans le fine-tuning qu’après avoir mis en place des évaluations. Il conseille aussi d’affiner le prompt sur un modèle plus grand jusqu’à obtenir d’excellents résultats sur vos critères d’évaluation.

Les postes de budget à prévoir sont donc les suivants :

  • Collecte et étiquetage des exemples. Quelqu’un qui connaît la bonne réponse doit rédiger ou valider chaque exemple d’entraînement.
  • Le jeu d’évaluation. Un test mis de côté, que le modèle ne voit jamais à l’entraînement, construit à partir de cas réels.
  • Le réentraînement. Chaque nouveau modèle de base et chaque évolution de vos règles imposent un nouvel entraînement et un nouveau cycle d’évaluations.
  • Un responsable. Une personne nommément désignée qui décide de ce qu’est une bonne réponse quand deux relecteurs ne sont pas d’accord.

Aucun de ces postes n’apparaît sur la facture du cloud. Tous apparaissent sur votre masse salariale.


Qui propose encore le fine-tuning en novembre 2026

Le paysage des fournisseurs s’est réduit, et un projet parti de l’idée « on fait simplement le fine-tuning de GPT » doit être confronté aux dates.

OpenAI démantèle la plateforme. Selon sa page des dépréciations, la création de jobs a été fermée dès le 7 mai 2026 aux organisations qui n’avaient jamais lancé de fine-tuning. Le 6 janvier 2027, les clients existants actifs ne pourront plus créer de nouveaux jobs. GPT-4o, GPT-4o mini, GPT-4.1 et GPT-4.1 mini sont annoncés à l’arrêt le 14 janvier 2027, et les versions fine-tunées suivent le même calendrier que leurs modèles de base.

Le glossaire d’Anthropic indique que l’API de Claude ne propose pas de fine-tuning pour le moment et suggère, si le sujet vous intéresse, de vous adresser à votre contact chez Anthropic.

Mistral signale sa documentation sur le fine-tuning comme dépréciée et n’étant plus activement maintenue.

Les modèles open-weight restent la voie praticable. Vous pouvez entraîner des adaptateurs LoRA sur des services hébergés comme Together ou Fireworks, sur des GPU loués ou sur votre propre machine. Notre guide des modèles open-weight décrit les familles de modèles à considérer. Vérifiez la licence de chaque modèle avant un usage commercial, car les conditions diffèrent.

Un mot sur les prix. Les modèles fine-tunés d’OpenAI coûtent plus cher à l’exécution que le modèle de base. Sur sa page de tarifs au 7 novembre 2026, l’inférence de gpt-4.1-mini fine-tuné était affichée à USD 0,80 par million de tokens en entrée et USD 3,20 par million de tokens en sortie, contre USD 0,40 et USD 1,60 pour le modèle de base. Le même schéma vaut pour tous les modèles listés, de 1,5 à 2 fois le prix de base. L’économie d’un fine-tune doit donc venir d’un prompt plus court ou d’un modèle plus petit, puisque le prix par token augmente.


Un seuil de rentabilité chiffré, hypothèses à l’appui

L’exemple suivant est illustratif et repose sur des chiffres supposés : remplacez-les par les vôtres. Il utilise les prix de gpt-4.1-mini ci-dessus uniquement parce qu’ils sont publiés, et se lit comme un exercice d’arithmétique, puisque les nouveaux jobs OpenAI prennent fin le 6 janvier 2027.

Hypothèses : chaque appel produit 300 tokens en sortie. Le modèle de base a besoin d’un prompt de 2 500 tokens contenant instructions et exemples. Le modèle fine-tuné a absorbé ces exemples et se contente d’un prompt de 300 tokens.

Modèle de baseFine-tuné
Entrée pour 1 000 appels2,5M tokens à USD 0,40 = USD 1,000,3M tokens à USD 0,80 = USD 0,24
Sortie pour 1 000 appels0,3M tokens à USD 1,60 = USD 0,480,3M tokens à USD 3,20 = USD 0,96
Total pour 1 000 appelsUSD 1,48USD 1,20

L’économie est de USD 0,28 pour 1 000 appels. Face à un entraînement à USD 15, le seuil de rentabilité arrive à environ 54 000 appels. À 1 000 appels par mois, l’économie de tokens est de 28 cents américains par mois.

Ce chiffre exclut l’étiquetage, le travail d’évaluation et le réentraînement, qui l’écraseraient. Ce que montre l’arithmétique, c’est que le prix des tokens tranche rarement la question avec des volumes de PME. L’argumentaire doit reposer sur autre chose : la qualité des réponses sur une tâche où le prompting plafonne, la latence d’un prompt plus court et d’un modèle plus petit, une exigence de protection des données qui exclut l’envoi des prompts vers une API étrangère, ou la charge de maintenir un prompt très long.

La tendance joue aussi contre vous. Selon Epoch AI, le prix pour atteindre des performances de niveau GPT-4 sur un benchmark scientifique a baissé d’environ 40 fois par an, avec une plage de 9 à 900 fois par an sur six benchmarks. Epoch précise que les baisses les plus rapides se sont concentrées sur la dernière année, et qu’il n’est pas certain qu’elles se prolongent. Reste qu’un prix d’API en baisse réduit l’avantage éventuel d’un petit modèle fine-tuné.


LoRA et QLoRA : pourquoi l’entraînement tient sur un matériel modeste

L’entraînement n’exige pas de réécrire entièrement les poids d’un grand modèle. LoRA, introduit par Hu et ses collègues, fige le modèle de base et entraîne de petites matrices supplémentaires. Par rapport à un fine-tuning complet de GPT-3 175B avec Adam, les auteurs rapportent 10 000 fois moins de paramètres entraînables et 3 fois moins de mémoire GPU, sans latence d’inférence supplémentaire.

QLoRA, de Dettmers et ses collègues, ajoute la quantification du modèle figé. Les auteurs rapportent le fine-tuning d’un modèle de 65 milliards de paramètres sur un seul GPU de 48GB, avec les performances d’un fine-tuning complet en 16 bits. L’affirmation phare sur les modèles Guanaco obtenus est une mesure des auteurs eux-mêmes, et leur résumé met en garde : les benchmarks actuels de chatbots ne sont pas fiables pour évaluer les performances d’un chatbot.

Pour une PME suisse, il en découle qu’une seule carte de classe station de travail peut suffire à entraîner des adaptateurs. La taille de modèle qui tient sur telle carte dépend du modèle, de la longueur des séquences et des réglages : lancez donc un petit job d’essai sur votre carte avant d’engager un achat. Une étude de Thinking Machines, LoRA Without Regret, conclut que LoRA égale le fine-tuning complet sur des jeux de données petits à moyens, mais fait moins bien quand les données dépassent la capacité de l’adaptateur. L’entreprise vend de l’entraînement LoRA avec son service Tinker, ce qu’il faut garder en tête pour peser ses conclusions.


Une boucle d’apprentissage mensuelle : matériel propre ou GPU loué

Une boucle d’apprentissage continu signifie que les corrections et les sorties validées du mois écoulé deviennent des données d’entraînement, qu’un nouvel adaptateur est entraîné, que des tests de non-régression sont exécutés, et que l’ancien adaptateur n’est remplacé que si le nouveau les réussit. C’est la version à long terme de la boucle de feedback décrite ailleurs, avec les poids comme dernière étape.

Voici la comparaison des coûts, toujours à titre illustratif. Nous supposons un entraînement et une évaluation de 10 heures GPU par mois, et un taux de USD 1,25 pour CHF 1, retenu pour ce seul calcul.

  • Loué : sur la page de tarifs de RunPod, prix au 4 novembre 2026, une RTX 6000 Ada de 48GB était affichée à USD 0,99 l’heure en secure cloud, facturée à la seconde. Dix heures coûtent environ USD 10, soit à peu près CHF 8 par mois.
  • Loué en continu : 730 heures à USD 0,99 font environ USD 723, soit à peu près CHF 578 par mois.
  • Acheté : dans notre modèle de coûts de l’inférence locale, la station de référence à CHF 18 000 (dans la fourchette de CHF 15 000 à 30 000) amortie sur 36 mois, plus l’électricité à CHF 0,237 le kWh pour un système d’environ 1 kW, revient à environ CHF 671 par mois tout compris, que la machine travaille ou reste à l’arrêt.

Lue honnêtement, cette comparaison dit que, pour un réentraînement mensuel, la location l’emporte. Dix heures louées coûtent une petite fraction de la machine achetée, et même une location continue d’une carte de 48GB reste sous le chiffre de l’achat. Quiconque prétend qu’acheter un GPU est la voie économique pour le seul fine-tuning a sauté ce calcul.

Le matériel propre se justifie pour deux autres raisons.

Résidence des données. Selon l’article 16 de la nouvelle loi fédérale sur la protection des données, des données personnelles peuvent être communiquées à l’étranger si le Conseil fédéral a reconnu la législation du pays de destination comme adéquate, ou sinon uniquement moyennant des garanties énumérées, telles que des clauses contractuelles approuvées. RunPod est un prestataire américain. Depuis septembre 2024, la Suisse reconnaît les États-Unis comme adéquats pour les entreprises certifiées au Swiss-US Data Privacy Framework : vérifiez donc la certification du prestataire ou choisissez d’abord une région UE. Sans l’une ou l’autre, envoyer des dossiers clients pour l’entraînement constitue une communication à l’étranger qui exige l’une des garanties énumérées. Ceci n’est pas un avis juridique : faites confirmer avec un juriste. Entraîner sur une machine dans vos propres locaux écarte cette question, même si vous devez toujours informer les personnes concernées et sécuriser les données.

Taux d’utilisation. Si la même machine assure aussi l’inférence pour vos collaborateurs en journée, comme expliqué dans l’article sur l’inférence locale, le coût mensuel se partage entre les deux usages et le cycle de réentraînement ne coûte presque rien de plus.

Reste l’oubli. Luo et ses collègues, dans une étude de 2023, ont observé un oubli catastrophique sur des modèles de 1 à 7 milliards de paramètres, touchant les connaissances de domaine, le raisonnement et la compréhension de lecture, et ont constaté qu’il s’accentuait avec la taille du modèle. Chaque réentraînement mensuel peut dégrader discrètement des capacités sur lesquelles vous n’avez pas entraîné. La boucle exige donc une évaluation de non-régression sur des tâches mises de côté, exécutée avant chaque remplacement d’adaptateur, et une règle : si l’exécution échoue, l’adaptateur du mois précédent reste en place.


Ce que la boucle de Shopify prouve, et ce qu’elle ne prouve pas

Les ingénieurs de Shopify décrivent une boucle de production détaillée dans un article sur Sidekick daté du 5 août 2026. Il y a une chose à retenir et plusieurs à relativiser.

À retenir : la séquence. Ils améliorent d’abord le harness. D’après l’article, chaque amélioration arrive dans les prompts, les définitions d’outils et le code du harness, et ce n’est qu’une fois ces gains épuisés qu’ils commencent à optimiser les poids à partir du trafic de production anonymisé. L’étape sur les poids utilise le fine-tuning supervisé suivi de GRPO, une méthode d’apprentissage par renforcement. Cet ordre correspond au conseil de construire le harness avant de toucher aux poids.

À relativiser :

  • Les chiffres de coût sont des estimations. Shopify affirme que servir le trafic avec un modèle de pointe pourrait facilement coûter, selon une estimation, USD 27 millions par an, et que le modèle fine-tuné pourrait s’approcher de USD 1 million. Les deux sont des estimations de l’équipe, sans calcul détaillé. La réduction de 96% est de l’arithmétique sur ces deux nombres.
  • La qualité est jugée par le juge de Shopify. Il est calibré sur des annotateurs humains, mais c’est toujours la même équipe qui note son propre travail.
  • Le résultat de latence provient d’un seul test de charge. À 350 requêtes par minute, le délai avant le premier token a baissé d’environ 19% et la latence de bout en bout d’environ 38%.
  • Shopify n’est pas une PME, et la boucle ne tourne pas sur son propre matériel. L’entreprise dispose d’annotateurs, de relecteurs experts et d’une équipe plateforme.

L’enseignement transférable est la séquence et le travail humain qui la soutient, les chiffres en dollars mis de côté.


Une liste de contrôle avant de vous engager

Faites le fine-tuning lorsque la plupart des points suivants sont vrais :

  1. La tâche est stable. Les entrées et la définition d’une bonne réponse ne changeront guère pendant un an.
  2. Le volume est important, de l’ordre de centaines de milliers d’appels ou plus, ou une règle de protection des données impose de travailler sur vos propres machines.
  3. Un jeu d’évaluation opérationnel existe, construit à partir de cas réels, avec une partie mise de côté que le modèle ne voit jamais à l’entraînement.
  4. Une personne nommément désignée possède les étiquettes et tranche les litiges.
  5. La version fondée sur le prompt et le harness a atteint un plafond que vous avez mesuré, et n’a pas été abandonnée trop tôt.
  6. Vous avez un plan pour la prochaine version du modèle de base, car l’adaptateur devra être réentraîné.

Restez sur le prompting, le retrieval et un harness plus solide dès que l’un de ces cas s’applique : la tâche ou les faits changent chaque mois, le volume se compte en milliers d’appels, ou personne n’a encore mis par écrit à quoi ressemble une réponse correcte. Dans le doute, commencez par le prompting et le jeu d’évaluation, car les deux restent utiles quelle que soit la suite.


L’actif qui survit au modèle

Les poids sont liés à un modèle de base, et les modèles de base expirent. Le calendrier d’OpenAI en donne le schéma : le fine-tune disparaît le jour même où disparaît le modèle sur lequel il repose. Les exemples étiquetés et le jeu d’évaluation n’ont pas de telle échéance. Ils se transfèrent au modèle suivant, que vous le pilotiez par prompt, l’entraîniez ou changiez de fournisseur, et c’est la partie qui a demandé le travail.

Voilà la vraie économie. Une équipe qui construit le jeu d’évaluation et un corpus propre de réponses validées s’est offert une option : quand le volume ou une exigence de résidence rend le fine-tuning pertinent, l’entraînement n’est plus qu’une petite dernière étape. Une équipe qui les saute et passe directement à l’entraînement a dépensé son argent sur la partie qui coûtait peu.

Questions fréquentes

Le fine-tuning coûte-t-il moins cher que le prompting ?

Rarement, avec les volumes d'une PME. L'entraînement peut coûter quelques dollars, mais l'inférence d'un modèle fine-tuné chez OpenAI est facturée de 1,5 à 2 fois le modèle de base par token. L'économie vient d'un prompt plus court ou d'un modèle plus petit. Dans notre exemple illustratif, elle atteint USD 0,28 par 1 000 appels : il faut donc des dizaines de milliers d'appels pour amortir ne serait-ce que l'entraînement.

Le fine-tuning peut-il apprendre à un modèle les faits propres à notre entreprise ?

Pas de façon fiable. Gekhman et ses collègues ont constaté que les exemples qui apportent des connaissances nouvelles sont appris plus lentement et, une fois appris, augmentent la tendance à halluciner. Le fine-tuning convient au style, au format de sortie et aux règles. Les faits comme les prix, les conditions et les données produit relèvent du retrieval : vous mettez à jour un document sans rien réentraîner.

Peut-on faire le fine-tuning de Claude ou des modèles GPT en 2026 ?

Pour Claude, non : le glossaire d'Anthropic indique que l'API ne propose pas de fine-tuning pour le moment. OpenAI démantèle sa plateforme. Les clients existants actifs perdent la création de jobs le 6 janvier 2027, et les modèles GPT-4o et GPT-4.1 ainsi que leurs fine-tunes sont arrêtés le 14 janvier 2027. Les modèles open-weight entraînés avec LoRA restent accessibles via des hébergeurs ou sur votre propre matériel.

Le fine-tuning sur notre propre matériel aide-t-il pour la protection des données en Suisse ?

Il peut aider. Selon l'article 16 de la nLPD, communiquer des données personnelles à l'étranger exige une décision d'adéquation ou des garanties énumérées, et un service d'entraînement américain constitue une telle communication. Vérifiez si le prestataire est certifié au Swiss-US Data Privacy Framework, que la Suisse reconnaît comme adéquat depuis septembre 2024, ou utilisez ses régions UE ; à défaut, appuyez-vous sur des garanties contractuelles. Entraîner sur une machine que vous maîtrisez écarte la question, mais pas vos devoirs d'information et de sécurité. Ceci ne constitue pas un avis juridique : faites confirmer votre cas par un juriste.

De combien d'exemples ai-je besoin pour le fine-tuning d'un modèle ?

OpenAI indique un minimum de 10 exemples, observe des améliorations dès 50 à 100 et suggère de commencer avec 50 démonstrations soignées. Ce sont des points de départ du fournisseur, pas des seuils mesurés. L'exigence la plus difficile est un jeu d'évaluation qui dit si le modèle entraîné est meilleur, et une personne nommément désignée qui répond des étiquettes.

Insights

Passez de l’idée à l’action

Un appel de 30 minutes suffit pour savoir si un agent IA s’intègre à votre flux de travail — et ce qu’il rapporterait.