Aller au contenu

IA

RAG sur documents internes : l'architecture qui tient en production

Par , fondateur de SIMGSOFT ·Publié le 1 septembre 2026 · Mis à jour le 18 octobre 2026 · 14 min de lecture

Réponse courte

Un RAG d'entreprise fiable repose sur cinq briques : une ingestion qui préserve la structure des documents, un découpage sémantique de 300 à 800 tokens, une recherche hybride BM25 + vecteurs, un reranker sur les 50 premiers résultats, et un filtrage des permissions appliqué avant la recherche, jamais après.

Les réglages qui marchent

Taille de chunk
300–800
Recouvrement
10–15 %
Candidats rerankés
50 → 5
Prod réaliste
8–14 sem.

Presque toutes les démos de RAG fonctionnent. Presque aucune ne survit au contact de vrais documents d'entreprise : PDF scannés, tableaux fusionnés, versions contradictoires, permissions par service. Ce guide décrit l'architecture qui tient réellement en production et les réglages qui font la différence.

L'architecture en cinq briques

Documents (SharePoint, GED, Drive, e-mails)
  │
  ├─ 1. Ingestion      → extraction + normalisation + métadonnées + ACL
  ├─ 2. Découpage      → chunks sémantiques 300-800 tokens, overlap 12 %
  ├─ 3. Indexation     → embeddings + index lexical BM25 + filtres ACL
  ├─ 4. Récupération   → hybride (BM25 + vecteurs) → 50 candidats → reranker → 5
  └─ 5. Génération     → prompt contraint + citations obligatoires + seuil de refus
                        │
                        └─ Observabilité : trace de chaque requête, feedback, coût

Les projets qui échouent sautent presque toujours la brique 4 (reranking) et la brique 1 (métadonnées et ACL), en pensant qu'un simple index vectoriel suffit.

Ingestion et découpage : 60 % de la qualité finale

La qualité d'un RAG se joue avant tout appel de modèle. Un PDF mal extrait produit des réponses fausses quelle que soit la sophistication du reste. Les documents scannés posent un problème à part, détaillé dans RAG sur des PDF scannés.

Ce qu'il faut extraire en plus du texte

  • La hiérarchie des titres, pour préfixer chaque chunk de son chemin (« Politique RH > Congés > Congés exceptionnels »).
  • Les tableaux, convertis en Markdown, jamais aplatis en texte brut.
  • Les métadonnées : auteur, date, version, service propriétaire, statut (brouillon / validé).
  • Les listes de contrôle d'accès du système source, recopiées sur chaque chunk.

La règle de découpage

Découpez d'abord sur les frontières structurelles réelles (sections, articles, lignes de tableau), puis seulement à longueur fixe à l'intérieur d'une section trop longue. Un chunk doit rester compréhensible seul : préfixez-le du titre du document et du chemin de section.

Type de documentStratégieTaille cible
Procédure, politique internePar section H2/H3400–700 tokens
Contrat, texte juridiquePar article200–600 tokens
Documentation techniquePar sous-section + bloc de code entier300–800 tokens
Tableaux, catalogues produitsUne ligne = un chunk + en-têtes80–200 tokens
Fils d'e-mails, ticketsPar message, avec le fil en métadonnée150–400 tokens

Recherche hybride et reranking

La recherche purement vectorielle échoue systématiquement sur les références exactes : numéros de contrat, codes articles, noms propres, acronymes internes. La recherche lexicale seule échoue sur les reformulations. La combinaison des deux résout les deux problèmes.

  1. Requête lexicale BM25 → 50 candidats.
  2. Requête vectorielle → 50 candidats.
  3. Fusion par Reciprocal Rank Fusion, sans avoir à calibrer des scores hétérogènes.
  4. Reranking des ~50 candidats fusionnés par un modèle cross-encoder.
  5. Envoi des 5 meilleurs passages au modèle génératif.

Le reranking est le meilleur rapport effort/gain de tout le pipeline. Il ajoute un surcoût de latence limité et, d'après le tableau ci-dessous, environ 1 à 6 € pour mille requêtes, et il élimine la majorité des réponses hors sujet.

Permissions : le piège numéro un

Le filtrage des droits doit s'appliquer dans la requête de recherche, jamais en post-traitement de la réponse générée.

Filtrer après génération est une faille : le modèle a déjà lu le contenu confidentiel et peut le paraphraser dans une réponse qui ne cite plus la source interdite. Concrètement :

  • Chaque chunk porte la liste des groupes autorisés, copiée du système source.
  • La requête de recherche inclut un filtre sur les groupes de l'utilisateur appelant.
  • Les changements de droits déclenchent une réindexation des métadonnées, pas des embeddings.
  • Chaque réponse journalise l'identifiant utilisateur et les chunks réellement utilisés.

Évaluer avant de déployer

Sans jeu d'évaluation, aucune modification n'est pilotable : vous saurez que « ça a l'air mieux » sans pouvoir le prouver. Le minimum viable est un jeu de 60 à 120 questions réelles, écrites par les futurs utilisateurs, avec la réponse attendue et le document source.

MétriqueCe qu'elle mesureCible
Recall@5Le bon passage est-il dans les 5 envoyés ?> 90 %
FidélitéChaque affirmation est-elle appuyée par un passage ?> 95 %
Taux de refus correctRefuse-t-il quand la réponse est absente ?> 85 %
Latence p95Expérience utilisateur réelle< 4 s

Coût mensuel réel

Ordres de grandeur pour un corpus de 50 000 documents et 200 utilisateurs actifs, environ 15 000 requêtes par mois :

PosteCoût mensuel
Base vectorielle managée80–350 €
Embeddings (indexation incrémentale)15–60 €
Reranking20–90 €
Génération150–700 €
Application, workers, observabilité120–400 €
Total385–1 600 €

Le coût de génération domine et se réduit d'abord par le cache et par la réduction du nombre de passages envoyés, pas par le changement de fournisseur.

Si votre RAG est exposé à des utilisateurs externes, vérifiez aussi vos obligations de transparence : voir AI Act : ce qui s'applique vraiment à une PME.

Sources

Textes et pages officielles consultés le 18 octobre 2026.

  1. Reciprocal Rank Fusion outperforms Condorcet and individual Rank Learning Methods (SIGIR 2009)

    G. V. Cormack, C. L. A. Clarke, S. Büttcher, ACM SIGIR

    Article d'origine de la fusion par rang réciproque, qui combine des classements sans calibrer leurs scores.

  2. Data controls in the OpenAI platform

    OpenAI, documentation API

    Pas d'entraînement sur les données API sans opt-in, journaux conservés jusqu'à 30 jours, rétention nulle sur approbation.

  3. API and data retention

    Anthropic, documentation Claude

    Pas d'entraînement sans autorisation expresse, conditions de la rétention nulle (ZDR) selon les fonctionnalités.

Questions fréquentes

Entre 300 et 800 tokens, avec un recouvrement de 10 à 15 %. En dessous de 300 tokens le contexte se perd et le modèle invente les liaisons ; au-dessus de 800, le passage contient trop de bruit et la similarité vectorielle se dilue. Découpez sur les frontières sémantiques réelles (titres, sections) plutôt qu'à longueur fixe.

Non dans la très grande majorité des cas. Le fine-tuning apprend un style et un format, pas des faits à jour. Si votre besoin est « répondre à partir de nos documents », le RAG est la bonne réponse : il se met à jour en réindexant, il cite ses sources, et il respecte les permissions. Le fine-tuning se justifie pour imposer un format de sortie strict.

Trois garde-fous cumulés : imposer au modèle de ne répondre qu'à partir des passages fournis et de dire explicitement qu'il ne sait pas, exiger une citation de source par affirmation, et appliquer un seuil de score minimum sur les passages récupérés en dessous duquel on refuse de répondre plutôt que de générer.

Un prototype convaincant sur un corpus propre prend deux à trois semaines. La mise en production réelle, avec permissions par utilisateur, réindexation incrémentale, observabilité, jeu d'évaluation et gestion des formats sales (PDF scannés, tableaux, e-mails) prend huit à quatorze semaines.

Cela dépend du contrat. Les offres entreprise des principaux fournisseurs excluent contractuellement l'entraînement sur vos données et proposent une rétention nulle ou courte. Si votre corpus est sensible, la question à trancher au cadrage est la localisation du traitement et la durée de rétention, pas la marque du modèle.

À lire ensuite

Besoin d'un avis sur votre cas ?

Décrivez votre contexte en trois lignes. On répond avec une estimation argumentée, pas un formulaire de qualification.

Poser la question →