IA
RAG sur documents internes : l'architecture qui tient en production
Par François Castellani, fondateur de SIMGSOFT ·Publié le 1 septembre 2026 · Mis à jour le 18 octobre 2026 · 14 min de lecture
Réponse courte
Les réglages qui marchent
- Taille de chunk
- 300–800
- Recouvrement
- 10–15 %
- Candidats rerankés
- 50 → 5
- Prod réaliste
- 8–14 sem.
Presque toutes les démos de RAG fonctionnent. Presque aucune ne survit au contact de vrais documents d'entreprise : PDF scannés, tableaux fusionnés, versions contradictoires, permissions par service. Ce guide décrit l'architecture qui tient réellement en production et les réglages qui font la différence.
L'architecture en cinq briques
Documents (SharePoint, GED, Drive, e-mails)
│
├─ 1. Ingestion → extraction + normalisation + métadonnées + ACL
├─ 2. Découpage → chunks sémantiques 300-800 tokens, overlap 12 %
├─ 3. Indexation → embeddings + index lexical BM25 + filtres ACL
├─ 4. Récupération → hybride (BM25 + vecteurs) → 50 candidats → reranker → 5
└─ 5. Génération → prompt contraint + citations obligatoires + seuil de refus
│
└─ Observabilité : trace de chaque requête, feedback, coûtLes projets qui échouent sautent presque toujours la brique 4 (reranking) et la brique 1 (métadonnées et ACL), en pensant qu'un simple index vectoriel suffit.
Ingestion et découpage : 60 % de la qualité finale
La qualité d'un RAG se joue avant tout appel de modèle. Un PDF mal extrait produit des réponses fausses quelle que soit la sophistication du reste. Les documents scannés posent un problème à part, détaillé dans RAG sur des PDF scannés.
Ce qu'il faut extraire en plus du texte
- La hiérarchie des titres, pour préfixer chaque chunk de son chemin (« Politique RH > Congés > Congés exceptionnels »).
- Les tableaux, convertis en Markdown, jamais aplatis en texte brut.
- Les métadonnées : auteur, date, version, service propriétaire, statut (brouillon / validé).
- Les listes de contrôle d'accès du système source, recopiées sur chaque chunk.
La règle de découpage
Découpez d'abord sur les frontières structurelles réelles (sections, articles, lignes de tableau), puis seulement à longueur fixe à l'intérieur d'une section trop longue. Un chunk doit rester compréhensible seul : préfixez-le du titre du document et du chemin de section.
| Type de document | Stratégie | Taille cible |
|---|---|---|
| Procédure, politique interne | Par section H2/H3 | 400–700 tokens |
| Contrat, texte juridique | Par article | 200–600 tokens |
| Documentation technique | Par sous-section + bloc de code entier | 300–800 tokens |
| Tableaux, catalogues produits | Une ligne = un chunk + en-têtes | 80–200 tokens |
| Fils d'e-mails, tickets | Par message, avec le fil en métadonnée | 150–400 tokens |
Recherche hybride et reranking
La recherche purement vectorielle échoue systématiquement sur les références exactes : numéros de contrat, codes articles, noms propres, acronymes internes. La recherche lexicale seule échoue sur les reformulations. La combinaison des deux résout les deux problèmes.
- Requête lexicale BM25 → 50 candidats.
- Requête vectorielle → 50 candidats.
- Fusion par Reciprocal Rank Fusion, sans avoir à calibrer des scores hétérogènes.
- Reranking des ~50 candidats fusionnés par un modèle cross-encoder.
- Envoi des 5 meilleurs passages au modèle génératif.
Le reranking est le meilleur rapport effort/gain de tout le pipeline. Il ajoute un surcoût de latence limité et, d'après le tableau ci-dessous, environ 1 à 6 € pour mille requêtes, et il élimine la majorité des réponses hors sujet.
Permissions : le piège numéro un
Le filtrage des droits doit s'appliquer dans la requête de recherche, jamais en post-traitement de la réponse générée.
Filtrer après génération est une faille : le modèle a déjà lu le contenu confidentiel et peut le paraphraser dans une réponse qui ne cite plus la source interdite. Concrètement :
- Chaque chunk porte la liste des groupes autorisés, copiée du système source.
- La requête de recherche inclut un filtre sur les groupes de l'utilisateur appelant.
- Les changements de droits déclenchent une réindexation des métadonnées, pas des embeddings.
- Chaque réponse journalise l'identifiant utilisateur et les chunks réellement utilisés.
Évaluer avant de déployer
Sans jeu d'évaluation, aucune modification n'est pilotable : vous saurez que « ça a l'air mieux » sans pouvoir le prouver. Le minimum viable est un jeu de 60 à 120 questions réelles, écrites par les futurs utilisateurs, avec la réponse attendue et le document source.
| Métrique | Ce qu'elle mesure | Cible |
|---|---|---|
| Recall@5 | Le bon passage est-il dans les 5 envoyés ? | > 90 % |
| Fidélité | Chaque affirmation est-elle appuyée par un passage ? | > 95 % |
| Taux de refus correct | Refuse-t-il quand la réponse est absente ? | > 85 % |
| Latence p95 | Expérience utilisateur réelle | < 4 s |
Coût mensuel réel
Ordres de grandeur pour un corpus de 50 000 documents et 200 utilisateurs actifs, environ 15 000 requêtes par mois :
| Poste | Coût mensuel |
|---|---|
| Base vectorielle managée | 80–350 € |
| Embeddings (indexation incrémentale) | 15–60 € |
| Reranking | 20–90 € |
| Génération | 150–700 € |
| Application, workers, observabilité | 120–400 € |
| Total | 385–1 600 € |
Le coût de génération domine et se réduit d'abord par le cache et par la réduction du nombre de passages envoyés, pas par le changement de fournisseur.
Si votre RAG est exposé à des utilisateurs externes, vérifiez aussi vos obligations de transparence : voir AI Act : ce qui s'applique vraiment à une PME.
Sources
Textes et pages officielles consultés le 18 octobre 2026.
- Reciprocal Rank Fusion outperforms Condorcet and individual Rank Learning Methods (SIGIR 2009)
G. V. Cormack, C. L. A. Clarke, S. Büttcher, ACM SIGIR
Article d'origine de la fusion par rang réciproque, qui combine des classements sans calibrer leurs scores.
- Data controls in the OpenAI platform
OpenAI, documentation API
Pas d'entraînement sur les données API sans opt-in, journaux conservés jusqu'à 30 jours, rétention nulle sur approbation.
- API and data retention
Anthropic, documentation Claude
Pas d'entraînement sans autorisation expresse, conditions de la rétention nulle (ZDR) selon les fonctionnalités.
Questions fréquentes
Entre 300 et 800 tokens, avec un recouvrement de 10 à 15 %. En dessous de 300 tokens le contexte se perd et le modèle invente les liaisons ; au-dessus de 800, le passage contient trop de bruit et la similarité vectorielle se dilue. Découpez sur les frontières sémantiques réelles (titres, sections) plutôt qu'à longueur fixe.
Non dans la très grande majorité des cas. Le fine-tuning apprend un style et un format, pas des faits à jour. Si votre besoin est « répondre à partir de nos documents », le RAG est la bonne réponse : il se met à jour en réindexant, il cite ses sources, et il respecte les permissions. Le fine-tuning se justifie pour imposer un format de sortie strict.
Trois garde-fous cumulés : imposer au modèle de ne répondre qu'à partir des passages fournis et de dire explicitement qu'il ne sait pas, exiger une citation de source par affirmation, et appliquer un seuil de score minimum sur les passages récupérés en dessous duquel on refuse de répondre plutôt que de générer.
Un prototype convaincant sur un corpus propre prend deux à trois semaines. La mise en production réelle, avec permissions par utilisateur, réindexation incrémentale, observabilité, jeu d'évaluation et gestion des formats sales (PDF scannés, tableaux, e-mails) prend huit à quatorze semaines.
Cela dépend du contrat. Les offres entreprise des principaux fournisseurs excluent contractuellement l'entraînement sur vos données et proposent une rétention nulle ou courte. Si votre corpus est sensible, la question à trancher au cadrage est la localisation du traitement et la durée de rétention, pas la marque du modèle.
À lire ensuite
Besoin d'un avis sur votre cas ?
Décrivez votre contexte en trois lignes. On répond avec une estimation argumentée, pas un formulaire de qualification.
Poser la question →