RAG, brancher une IA sur vos propres documents

Un modèle de langage ne consulte rien quand il vous répond. Il prédit le mot suivant, à partir de ce qu’il a lu pendant son entraînement. C’est un système statistique, remarquablement doué, mais qui n’a aucun moyen de vérifier.

Il en découle 3 limites, et elles sont structurelles, pas passagères.

Sa mémoire est arrêtée à une date. Tout ce qui s’est passé après la fin de son entraînement lui est inconnu.

Il n’a jamais vu vos documents. Vos contrats, vos tarifs, vos procédures, vos comptes rendus ne font pas partie de son apprentissage, et c’est heureux.

Il ne sait pas qu’il ne sait pas. C’est le point qui coûte cher. Devant une question dont la réponse lui échappe, il produit quand même une réponse plausible. C’est ce qu’on appelle une hallucination, et le mot est trompeur, car rien ne distingue à l’écran une réponse inventée d’une réponse exacte.

Dans une conversation de curiosité, ce n’est pas grave. Sur un montant de contrat, une clause ou un dosage, ça l’est.

Le RAG consiste à faire chercher l’IA dans vos documents avant qu’elle réponde.

Voilà. Tout le reste n’est que de la mécanique.

Les 3 lettres viennent de l’anglais, Retrieval Augmented Generation, qu’on traduit par génération augmentée par récupération. Elles décrivent 3 temps.

Récupérer. On cherche, dans votre documentation, les passages qui concernent la question posée.

Augmenter. On ajoute ces passages à la question, avant de l’envoyer au modèle.

Générer. Le modèle rédige sa réponse à partir de ces passages, et non plus de sa mémoire.

L’image la plus juste est celle d’un examen. Sans RAG, vous interrogez quelqu’un de mémoire. Avec RAG, vous lui donnez les bonnes pages ouvertes devant lui, puis vous posez la question.

Vous utilisez d’ailleurs déjà du RAG sans le savoir. Quand un assistant grand public consulte le web avant de répondre, c’est le même procédé, avec le web à la place de vos dossiers.

C’est la pièce technique qui rend le reste possible, et elle mérite 2 minutes.

Un moteur de recherche classique cherche des mots. Si votre procédure dit « les animaux de compagnie sont admis » et que l’on demande « est-ce que je peux venir avec mon chien », il ne trouve rien. Aucun mot commun.

Le RAG cherche du sens. Chaque passage de vos documents est transformé en une suite de nombres qui représente sa signification. La question subit le même traitement. On compare ensuite les nombres, et l’on retrouve le bon passage sans qu’un seul mot ne coïncide.

Ces suites de nombres sont rangées dans ce qu’on appelle une base vectorielle, dont le seul métier est de retrouver très vite les plus proches. C’est ce qui permet d’interroger des milliers de fichiers en une fraction de seconde, là où lire l’ensemble à chaque question serait impensable.

Une conséquence pratique, souvent mal comprise. Vos utilisateurs n’ont plus à connaître le vocabulaire de vos documents. Ils posent la question avec leurs mots, ce qui est exactement ce qu’on n’a jamais réussi à obtenir des moteurs internes.

Et la recherche par le sens seule ne suffit pas. Elle est excellente sur une idée, mauvaise sur une référence. Demandez-lui la pièce 4471-B et elle vous rendra des passages qui parlent de pièces, pas la bonne. Les dispositifs sérieux font donc tourner les 2 recherches en parallèle, celle qui cherche les mots exacts et celle qui cherche le sens, puis fusionnent les résultats. C’est ce qu’on appelle la recherche hybride, et c’est aujourd’hui le réglage par défaut de tout ce qui fonctionne vraiment.

Voilà l’erreur d’appréciation la plus fréquente. On croit que le résultat dépend du modèle choisi. Il dépend surtout de la façon dont vos documents ont été découpés.

Le principe est simple. On ne range pas des fichiers entiers, on les coupe en morceaux, et ce sont ces morceaux que la recherche rend. La taille de la coupe décide de tout.

Trop petit, le morceau perd son contexte. Une phrase qui commence par « dans ce cas, le délai est de 15 jours » ne veut plus rien dire, isolée de ce qui la précède.

Trop grand, la recherche rend 3 pages pour répondre à une question de 2 lignes. Le modèle se noie, et les vraies informations se diluent.

On ajoute donc un recouvrement, chaque morceau reprenant la fin du précédent, pour qu’une idée coupée en 2 se retrouve entière quelque part.

Et il n’existe pas de bon réglage universel, parce que vos documents n’ont pas tous la même forme. Un contrat s’écrit en longs paragraphes structurés qu’il faut garder d’un bloc. Un compte rendu de réunion ou un échange avec un client se découpe plus fin, avec un fort recouvrement pour ne pas casser le fil de la conversation.

Et il y a un oubli qui coûte cher, ce qu’on range AUTOUR du texte. Un morceau de document sans sa date, sans son auteur, sans son adresse, sera bien retrouvé, mais l’IA ne pourra vous dire ni quand il a été écrit, ni où le lire, ni quelle version vous avez sous les yeux.

Le symptôme est facile à reconnaître. Vous obtenez une bonne réponse, et vous êtes incapable de savoir si elle date de cette année ou d’il y a 4 ans. Sur un tarif ou une procédure, c’est rédhibitoire.

Chaque morceau doit donc emporter avec lui sa date, sa source et sa version. Ça ne se rattrape pas après coup sans tout réindexer, et c’est la raison numéro 1 pour laquelle un dispositif se refait au bout de 6 mois.

C’est cette différence qui fait qu’un dispositif se règle, se mesure et se corrige. C’est un travail d’artisan, pas un bouton à activer, et c’est le genre de chantier que nous menons dans notre expertise en intelligence artificielle.

Beaucoup imaginent qu’utiliser l’IA sur ses données suppose de réentraîner un modèle avec. C’est une autre technique, elle existe, elle est lourde, et ce n’est pas ce que fait le RAG.

Le RAG ne modifie rien dans le modèle. Il lui glisse les bons extraits au moment de la question, comme on tend une note à un collègue avant qu’il décroche le téléphone.

Les conséquences sont très concrètes.

Une mise à jour est immédiate. Vous corrigez un tarif dans un document, la réponse suivante en tient compte. Sans réentraînement, sans délai, sans facture de calcul.

Vous pouvez retirer un document. Ce qui est impossible avec un modèle réentraîné, où l’information se dissout dans le modèle et ne s’enlève plus.

Vous pouvez tracer la réponse. Un bon dispositif affiche les passages qui ont servi. Vous vérifiez la source au lieu de croire sur parole, ce qui est la seule façon de faire confiance à un outil dans un cadre professionnel.

3 contresens reviennent systématiquement, et ils font échouer des projets.

Il ne supprime pas les hallucinations, il leur retire leur cause principale. Si la recherche ne trouve rien de pertinent, le modèle peut encore broder. C’est pour cela qu’on lui impose de répondre qu’il ne sait pas quand rien de solide ne remonte. Cette consigne-là vaut plus que le choix du modèle.

Il ne compense pas une documentation en désordre. Si vos procédures se contredisent, si 3 versions du même tarif circulent, le RAG rendra fidèlement cette contradiction. Il révèle le désordre, il ne le range pas. C’est d’ailleurs son effet secondaire le plus utile, beaucoup d’entreprises découvrent l’état réel de leur documentation le jour où elles la branchent.

Il ne remplace pas une recherche exacte. Pour retrouver la pièce numéro 4471-B, la recherche par le sens est moins bonne qu’une recherche par référence. Les 2 se complètent, elles ne se concurrencent pas.

C’est le point que les guides passent trop vite, alors qu’il commande le reste.

Brancher une IA sur vos documents, c’est décider où ils vont. Et le RAG a une propriété qu’il faut connaître, vos documents ne sont pas envoyés en bloc. À chaque question, seuls les quelques extraits jugés utiles partent vers le modèle.

Cela ouvre 3 montages très différents, du plus ouvert au plus fermé.

Le modèle et vos documents chez un fournisseur. Le plus simple à mettre en route, le moins maîtrisé. Vos extraits circulent, et le contrat compte autant que la technique.

Vos documents chez vous, le modèle ailleurs. Le compromis le plus courant. Votre base reste sur votre infrastructure, seuls les extraits nécessaires sortent. Ce qui suppose de savoir lesquels, et donc de journaliser.

Tout chez vous. Base et modèle sur vos serveurs. Rien ne sort. C’est possible aujourd’hui avec des modèles ouverts, c’est plus exigeant à exploiter, et c’est la seule réponse quand les documents sont sensibles.

Ce 3e montage a longtemps été réservé aux grosses structures. Ce n’est plus vrai. Des travaux de recherche récents ont fait fondre la taille des bases vectorielles, au point qu’indexer plusieurs milliers de documents tient désormais sur un ordinateur portable ordinaire, sans serveur et sans abonnement. Ce qui était un argument théorique de souveraineté est devenu une option praticable, y compris pour une PME.

Le choix ne se fait pas sur la technique, il se fait sur la nature de vos documents. Un catalogue produit et un dossier médical ne posent pas la même question. Nous détaillons cet arbitrage dans choisir une IA souveraine en entreprise.

Une fois qu’une IA sait de quoi elle parle, la question suivante arrive vite, peut-elle faire quelque chose.

C’est le passage du RAG à l’agent. Le RAG apporte la connaissance, l’agent apporte l’action. Un agent qui répond à vos clients a besoin des 2, savoir ce que dit votre documentation, et savoir créer un ticket ou envoyer un devis.

Les 2 ne se confondent pas, et l’ordre compte. Un agent branché sur rien invente. Un RAG sans agent informe sans jamais agir. La plupart des projets utiles commencent par le RAG, parce qu’il rend service tout de suite et qu’une erreur reste une mauvaise réponse, pas une mauvaise action.

Si la question du bon niveau se pose chez vous, elle est traitée dans agent IA ou automatisation, lequel choisir, et la mécanique de l’action elle-même dans appel d’outil.

La bonne porte d’entrée n’est pas technique, elle est documentaire.

1. Partez des questions, pas des fichiers. Notez pendant 2 semaines les questions qui reviennent, à vous et à votre équipe. Si les mêmes 20 reviennent sans cesse et que la réponse dort dans un dossier, vous tenez votre projet. Sinon, le sujet peut attendre.

2. Prenez le corpus le plus propre, pas le plus gros. Une documentation à jour de 80 pages donne un meilleur résultat que 4 000 fichiers dont personne ne connaît la version. Le volume viendra après.

3. Testez avant d’investir. Déposez une vingtaine de documents dans un assistant qui accepte des fichiers, et posez vos vraies questions. Ce test ne dit rien de la confidentialité ni de la tenue à l’échelle, mais il répond à la seule chose qui compte au départ, est-ce que ça sert.

4. Traitez la confidentialité avant la mise en service, pas après. C’est le seul point sur lequel revenir en arrière coûte cher.

5. Mesurez sur des questions dont vous connaissez la réponse. Une quarantaine suffit. C’est la seule façon de savoir si un réglage améliore ou dégrade, plutôt que d’en avoir l’impression.

Le RAG n’est pas une révolution de laboratoire. C’est une plomberie, bien comprise, qui transforme une IA bavarde en outil qui répond juste sur votre métier. Et comme toute plomberie, elle vaut par la qualité de sa pose. Si vous préférez apprendre à la poser vous-même plutôt que déléguer, c’est l’objet de nos conseils et formations.