Aller au contenu
NET&PRO...
IA PRO

Fine-tuning ou RAG : comment trancher, chiffres à l'appui

La plupart des entreprises qui veulent entraîner un modèle sur mesure n'en ont pas besoin. Voici les mesures qui le disent.

Vue de dessus sur fond blanc : deux livres identiques côte à côte, celui de gauche fermé, celui de droite ouvert en son milieu avec un signet rouge

« Il nous faudrait un modèle entraîné sur nos données. » La phrase revient dans presque toutes les réunions de cadrage, et elle décrit presque toujours le mauvais outil. Trancher entre fine-tuning ou RAG n'est pas affaire de préférence technique : c'est une question à laquelle les mesures publiées répondent assez clairement, à condition de poser le bon critère.

Trois leviers, et ce que chacun change réellement

Il faut d'abord séparer trois choses qu'on confond en permanence.

L'invite modifie ce que le modèle fait de ce qu'il sait déjà. Gratuite, instantanée, réversible. C'est le seul levier qu'on peut essayer trente fois dans l'après-midi.

La recherche augmentée, souvent appelée RAG, va chercher des documents pertinents et les place dans le contexte avant de poser la question. Le modèle ne sait rien de plus qu'avant ; il a simplement le bon document sous les yeux au bon moment.

L'ajustement fin, ou fine-tuning, modifie les poids du modèle à partir d'exemples. C'est le seul des trois qui change le modèle lui-même.

L'image la plus juste, largement reprise dans la littérature : l'ajustement fin, c'est l'examen à livre fermé, où le candidat a révisé et doit répondre de mémoire ; la recherche augmentée, c'est l'examen à livre ouvert. Cette image n'est pas décorative, elle prédit les modes de défaillance de chacun, et nous y reviendrons.

Ce que disent les mesures

L'étude comparative la plus citée porte sur un corpus agricole et a le mérite de tester les trois combinaisons plutôt que d'opposer deux camps.

ConfigurationExactitude
Modèle de base75 %
Avec ajustement fin81 %
Avec ajustement fin et recherche augmentée86 %

Deux enseignements. Le premier : l'ajustement fin apporte quelque chose, environ six points. Le second, plus important : les deux approches s'additionnent, la recherche augmentée ajoutant cinq points supplémentaires par-dessus. Ce ne sont pas des solutions concurrentes.

Un second travail, portant sur des connaissances peu répandues, va plus loin : l'ajustement fin seul ne parvient pas à égaler la recherche augmentée seule. C'est la combinaison qui donne les meilleurs résultats, particulièrement sur les petits modèles.

Enfin, la pratique du marché tranche à sa manière. D'après l'état des lieux publié par Menlo Ventures en 2024 sur l'IA générative en entreprise, 51 % des déploiements en production reposaient sur la recherche augmentée, contre 9 % s'appuyant principalement sur l'ajustement fin. Le chiffre a probablement bougé depuis, mais l'écart d'ordre de grandeur, lui, est parlant.

Sur un bureau clair, un presse-papier de verre retient quelques cartes crème, et d'autres ont glissé devant.

Le vrai critère : la stabilité de la connaissance

Si vous ne deviez retenir qu'une question, ce serait celle-ci : à quelle fréquence change ce que le modèle doit savoir ?

Un tarif, un catalogue, une procédure interne, un stock, une réglementation : cela change toutes les semaines. Réentraîner à cette cadence est absurde, et un modèle entraîné il y a deux mois répondra avec l'assurance de celui qui ne sait pas qu'il est périmé. La recherche augmentée, elle, sert le document du jour.

À l'inverse, un vocabulaire métier, un format de sortie, une structure de rapport, un ton de réponse : cela ne change pas. C'est là que l'ajustement fin est chez lui.

D'où la formule qui résume l'essentiel : on ajuste finement un comportement, pas une connaissance.

Une étude sur la complétion de code en contexte industriel apporte une nuance qui va dans le même sens, et qui surprend souvent : les gains de l'ajustement fin plafonnent à mesure que la base de code grandit, alors que la recherche augmentée continue de progresser. Le même travail relève que l'ajustement fin peut dégrader les capacités générales du modèle, ce qui en fait un mauvais choix quand vous avez besoin à la fois de compétences métier et de compétences générales.

Quand l'ajustement fin gagne vraiment

Trois situations, et elles sont plus étroites qu'on ne l'imagine.

Un format de sortie que l'invite n'obtient pas de façon fiable. Vous avez essayé les sorties structurées, la validation par schéma, l'exemple détaillé, et le modèle dévie encore une fois sur vingt. Quelques centaines d'exemples corrigent cela mieux que trois pages d'instructions.

Un ton ou un style propre à la maison. Difficile à spécifier, facile à montrer. C'est l'exemple type de ce qui s'apprend par l'exemple et se décrit mal.

Un petit modèle qu'on veut hisser sur une tâche étroite. C'est le cas le plus rentable : ajuster un petit modèle pour qu'il fasse aussi bien qu'un grand sur une tâche précise, et payer ensuite le tarif du petit à chaque appel. Sur un volume important, l'économie dépasse largement le coût d'entraînement. C'est le prolongement naturel du routage par difficulté que nous décrivons dans maîtriser la facture d'API IA.

Notez ce qui ne figure pas dans cette liste : « le modèle doit connaître nos produits ». Ça, c'est de la recherche augmentée.

LoRA, QLoRA, et ce que ça change au budget

L'ajustement fin complet réécrit tous les poids du modèle. Les méthodes dites à faible rang, LoRA et sa variante quantifiée QLoRA, n'entraînent qu'un petit ensemble de paramètres additionnels et laissent le modèle d'origine intact.

Ce n'est pas un détail d'implémentation, c'est ce qui a fait passer l'ajustement fin du laboratoire à l'atelier. Sur un modèle de sept milliards de paramètres, un ajustement complet demande environ 60 Go de mémoire vidéo, ce qui exclut toute carte grand public ; la même opération en LoRA tourne autour de 23 Go, ce qui tient sur une seule carte de 24 Go.

Deux repères issus des travaux empiriques, utiles pour dimensionner :

  • En dessous d'environ 256 exemples, LoRA fait mieux qu'un ajustement complet. Sa modification légère de toutes les couches s'adapte mieux au peu de données disponibles.
  • Au-delà d'un millier d'exemples, l'ajustement complet reprend l'avantage.

Et un piège documenté : entraîner plus longtemps dégrade souvent le résultat. Doubler le nombre d'itérations sur un jeu de cinquante mille exemples a fait baisser les performances dans les expériences de Sebastian Raschka, surapprentissage à la clé. L'intuition « plus d'époques, meilleur modèle » est fausse ici.

💡 Le test qui évite six semaines de travail

Avant de parler d'entraînement, prenez vingt cas où votre système actuel échoue et rangez-les en deux tas : ceux où il lui manquait une information, et ceux où il avait l'information mais l'a mal utilisée. Si le premier tas domine, vous avez un problème de recherche documentaire, et aucun entraînement ne le résoudra. Si c'est le second, l'ajustement fin devient une piste sérieuse. Ce tri prend une heure et tranche mieux que trois réunions.

Linogravure : dans un casier de bois aux étiquettes vierges, une enveloppe est à cheval sur un compartiment, une seconde reste sur la tablette.

Deux modes de défaillance opposés

C'est ce qui devrait décider, et c'est ce dont on parle le moins.

La recherche augmentée échoue en silence, avec assurance. Un cas d'école bien documenté : un système naïf renvoyant des montants, des politiques et des plafonds franchement faux, avec des scores de confiance de 78 à 81 %, exactement les mêmes que sur ses réponses justes. Le score de confiance ne distingue rien. La panne n'est pas dans le modèle, elle est dans la récupération du mauvais document, et le modèle ne peut pas le savoir. C'est aussi pour cette raison que le travail utile porte sur le découpage et la recherche plutôt que sur le modèle, comme le détaille notre pas-à-pas pour construire un RAG qui répond juste.

Le modèle ajusté échoue par péremption et par dérive. Il ne récupère pas le mauvais document, puisqu'il ne récupère rien. Il répond avec ce qu'il a appris, y compris quand ce n'est plus vrai. Le remède existe et il est unique : réentraîner.

Ces deux profils appellent des dispositifs différents. Pour la recherche augmentée : demander les sources dans la réponse et les vérifier, car c'est le seul contrôle qui attrape le mauvais document. Pour l'ajustement fin : dater le modèle, surveiller la dérive, budgéter le réentraînement dès le premier jour.

L'arbre de décision

Dans cet ordre, sans sauter d'étape.

  1. Essayez l'invite. Sérieusement, pas dix minutes : instructions explicites, exemples, sortie structurée, découpage de la tâche. C'est gratuit et c'est réversible. Une part importante des projets d'ajustement fin meurent ici, et c'est une bonne nouvelle.
  2. La connaissance manque-t-elle ? Si le modèle échoue parce qu'il ignore vos données, c'est de la recherche augmentée. Sans exception, quelle que soit l'envie d'un modèle maison.
  3. La connaissance change-t-elle souvent ? Si oui, c'est de la recherche augmentée, définitivement. Un modèle réentraîné toutes les semaines est un projet qui s'effondrera au premier départ de son mainteneur.
  4. Le comportement dévie-t-il malgré une bonne invite ? Alors l'ajustement fin devient pertinent. Comptez quelques centaines d'exemples de qualité, et commencez par LoRA.
  5. Le volume justifie-t-il de descendre en gamme ? Ajuster un petit modèle pour remplacer un grand sur une tâche étroite est le cas où le calcul est le plus favorable.
  6. Les deux, enfin, quand l'échelle le justifie. C'est ce que montrent les mesures, et c'est aussi la configuration la plus coûteuse à maintenir. Ce n'est pas un point de départ.

Un dernier mot sur la méthode d'évaluation, parce qu'elle décide de tout le reste. Le choix ne se fait pas sur des tableaux comparatifs publiés, il se fait sur votre trafic : constituez un jeu de cas issus de vos vrais échecs, mesurez chaque option dessus, et tranchez sur ces chiffres. Et gardez en tête le constat qui traverse toute cette littérature : la qualité de la récupération compte davantage que la qualité du modèle. Le modèle est rarement le goulot d'étranglement.

Si votre système ne se contente pas de répondre mais agit, l'arbitrage se complique d'un cran, et les questions de fiabilité prennent le pas : nous les traitons dans ce qui casse entre la démo et le service. Et si la difficulté vient plutôt de la quantité de contexte à manipuler, ce que change le contexte long pose le cadre.

Partager

Le sujet de fond, dans les mémos

Un article éclaire un angle ; un mémo du Lab prend le sujet de A à Z, sommaire compris. Sur ce thème, voici où creuser.

À lire ensuite

NET&PRO

L'IA, c'est bien. L'IA qui tourne chez vous, c'est mieux.

Vous avez lu la théorie. NET&PRO s'occupe de la mise en œuvre : automatisation de process, intégration de modèles dans vos outils métier, formation de vos équipes.