Risques à traiter
- Récupération d’un passage non autorisé.
- Injection d’instructions contenues dans un document.
- Réponse sans source ou source hors contexte.
- Mauvaise gestion des suppressions et changements de droits.
- Exfiltration vers un modèle ou service non prévu.
- Confiance excessive dans une réponse plausible.
Contrôles d’architecture
- Associer chaque segment à l’identité, aux droits, à la source et à la version.
- Filtrer avant de construire le contexte du modèle.
- Limiter outils, actions et périmètres disponibles à l’agent.
- Journaliser les éléments nécessaires sans reproduire inutilement le contenu sensible.
- Réindexer ou invalider lors d’un changement de droits ou d’une suppression.
Évaluer avant ouverture
- 01
Questions
Créer un jeu couvrant réponses connues, ambiguïtés, refus et absences de preuve.
- 02
Récupération
Mesurer si les bons passages apparaissent dans les premiers résultats.
- 03
Réponse
Vérifier fidélité, citations, complétude et abstention.
- 04
Droits
Tester les mêmes questions avec plusieurs profils d’accès.