Aller au contenu

Conformité

Un RAG sur des données sensibles sans les exposer

Par , fondateur de SIMGSOFT ·Publié le 1 septembre 2026 · Mis à jour le 17 octobre 2026 · 12 min de lecture

Réponse courte

Le risque d'un RAG sur données sensibles n'est pas que le modèle mémorise : c'est qu'il restitue à un utilisateur un extrait qu'il n'avait pas le droit de lire. Le filtrage par habilitation doit donc s'appliquer à la recherche elle-même, avant que le moindre extrait n'atteigne le modèle.

Les quatre principes

Filtrage
À la source
Protection par prompt
Nulle
Journal
Obligatoire
Décision
Par finalité

Brancher un assistant sur les documents internes devient une évidence dès que l'on constate le temps passé à chercher une information. Le sujet se complique dès que ces documents contiennent des dossiers du personnel, des pièces contentieuses ou des données de santé : les mêmes gains d'efficacité s'accompagnent alors d'un risque de divulgation interne.

Le vrai risque n'est pas la mémorisation

La crainte spontanée porte sur le modèle : va-t-il retenir nos données ? Dans une architecture de recherche augmentée, ce n'est pas là que se situe le danger, puisque les documents sont fournis au moment de la question et non appris. Le risque réel est plus banal et bien plus fréquent : le système remonte à un utilisateur un extrait qu'il n'avait pas le droit de lire, parce que la recherche a été faite sans tenir compte de qui posait la question.

Un assistant documentaire mal cloisonné ne fuit pas vers l'extérieur : il fuit vers l'intérieur. C'est un problème d'habilitation, pas de modèle.

Filtrer à la recherche, jamais à la réponse

Le principe est simple à énoncer et systématiquement mal appliqué : le filtrage par droits doit s'exécuter au moment de la recherche, avant que le moindre extrait n'atteigne le modèle. Toute autre approche revient à demander au modèle de garder un secret qu'on vient de lui confier.

ApprocheFonctionnementRobustesse
Filtre à l'indexationUn index séparé par population d'utilisateursTrès bonne, coût de duplication
Filtre à la rechercheLa requête porte les habilitations de l'utilisateurBonne, à condition qu'aucun chemin ne l'oublie
Filtre après rechercheOn écarte les extraits interdits avant l'appel au modèleMoyenne : la pertinence se dégrade, mais rien ne fuit
Consigne dans le promptOn demande au modèle de ne pas divulguerNulle : contournable, et non auditable

Le modèle d'habilitation utilisé doit être celui de l'application, pas un modèle parallèle créé pour l'assistant. Deux modèles finissent toujours par diverger, et c'est le plus permissif qui fait foi. Notre guide sur lesmodèles de droits et de rôles détaille la séparation entre permissions et périmètre de données, qui s'applique ici sans modification.

Minimiser ce qui entre dans le système

La meilleure protection reste de ne pas indexer ce qui n'a rien à faire là. Sur la plupart des corpus internes, une part importante des données personnelles est présente par accident : des pièces jointes oubliées, des exports de test, des copies de dossiers dans des dossiers partagés.

  • Cartographier avant d'indexer. Quels répertoires, quels types de documents, quelles catégories de données. C'est aussi ce qui alimente le registre des traitements.
  • Exclure par défaut. On indexe une liste de sources choisies, jamais un serveur de fichiers entier « pour voir ».
  • Retirer ce qui n'est pas nécessaire à la finalité. Si l'assistant répond sur des procédures, les noms des personnes citées en exemple peuvent être remplacés.
  • Fixer une durée. L'index et les journaux ont une durée de conservation, définie et appliquée automatiquement.

Choisir où les données passent

Trois architectures se rencontrent, et le choix se fait sur la sensibilité réelle du corpus plutôt que sur une préférence de principe. Chacune a un coût et une contrainte d'exploitation qu'il faut assumer.

ArchitectureCe qui sort de chez vousQuand la retenir
Service géré, modèle du fournisseurLes extraits pertinents et la questionCorpus peu sensible, priorité au délai de mise en œuvre
Service géré en environnement dédiéIdem, avec engagements contractuels renforcésDonnées confidentielles d'entreprise, sans catégorie particulière
Modèle hébergé par vos soinsRienCatégories particulières, contrainte réglementaire ou contractuelle forte

L'auto-hébergement d'un modèle n'est pas gratuit : il déplace le coût vers l'infrastructure et l'exploitation, et il impose de suivre l'évolution des modèles par vos propres moyens. Il se justifie quand la nature des données l'exige, pas comme réflexe.

Traçabilité et preuve

Un assistant sur données sensibles doit pouvoir répondre à une question posée six mois plus tard : qui a eu accès à quoi, et par quel chemin. Cela suppose une journalisation pensée dès la conception, et elle-même encadrée.

  1. Identité du demandeur, horodatage, question posée.
  2. Identifiants des documents fournis au modèle, et non leur contenu.
  3. Réponse rendue, et sources citées.
  4. Durée de conservation du journal, et accès restreint à ce journal lui-même.

Ces éléments servent trois usages : instruire un incident, prouver le cloisonnement lors d'un contrôle, et alimenter le jeu d'évaluation avec les cas réels où le système a mal répondu. Ils s'inscrivent naturellement dans la documentation attendue par le règlement européen sur l'IA, qui valorise précisément la capacité à décrire ce que fait le système et sur quelles données.

Sources officielles

Textes et pages officielles consultés le 17 octobre 2026.

  1. Règlement (UE) 2016/679 (RGPD)

    EUR-Lex, Journal officiel de l'Union européenne

    Minimisation (art. 5, § 1, c), catégories particulières de données (art. 9), registre (art. 30), analyse d'impact (art. 35).

  2. Développement des systèmes d'IA : les recommandations de la CNIL pour respecter le RGPD

    CNIL

    Fiches sur l'AIPD, la minimisation et la protection dès la conception. Elles portent sur la phase de développement, et s'appliquent ici par analogie au déploiement d'un assistant.

Questions fréquentes

Dans une architecture de recherche augmentée, les documents ne servent pas à entraîner le modèle : ils sont fournis au moment de la question puis oubliés. Le risque de mémorisation concerne l'entraînement, qui n'a pas lieu ici. Vérifiez néanmoins contractuellement que votre fournisseur n'utilise pas vos requêtes pour améliorer ses modèles.

Cela dépend de l'usage. Pour un assistant qui doit répondre sur des dossiers nominatifs, l'anonymisation détruit la fonction. Pour un assistant documentaire sur des procédures, les données personnelles n'ont souvent rien à y faire et doivent être retirées à l'ingestion. La question se tranche par la finalité, pas par principe.

C'est un élément, pas une réponse complète. Ce qui compte est l'ensemble : localisation du traitement, sous-traitants ultérieurs, engagements contractuels sur la conservation des requêtes, et accès du personnel du fournisseur. Un service hébergé en Europe mais opéré par une entité soumise à des injonctions étrangères pose une question différente, qu'il faut instruire plutôt que trancher par un slogan.

En ne comptant jamais sur le modèle pour appliquer les droits. Si la recherche ne remonte que des documents autorisés pour cet utilisateur, aucune formulation habile ne fera apparaître ce qui n'a pas été fourni. Toute protection reposant sur une instruction de prompt est contournable.

Qui a demandé quoi, à quelle date, quels documents ont été fournis au modèle, et quelle réponse a été rendue. Cette journalisation est indispensable pour instruire un incident, et elle constitue elle-même un traitement de données à documenter, avec une durée de conservation limitée.

À lire ensuite

Besoin d'un avis sur votre cas ?

Décrivez votre contexte en trois lignes. On répond avec une estimation argumentée, pas un formulaire de qualification.

Poser la question →