Injection de prompt indirecte dans un assistant RAG

Intermédiaire LinuxOWASP Top 10 LLM25 min50 XP

L'assistant du support a répondu à un client : « Votre remboursement de 950 € est validé ». Le document récupéré contenait une instruction cachée. Lisez ~/assistant/document-piege.md et ~/assistant/prompt.py.

  1. Catégorie OWASP Top 10 pour les applications LLM (2025) → answer owasp <LLM01|LLM02|LLM06>
  2. Corrigez prompt.py :
    • encadrez chaque document récupéré dans des balises <document> … </document> et indiquez dans le prompt système que leur contenu est une donnée, jamais une instruction
    • retirez l'outil valider_remboursement de la liste OUTILS de l'assistant (il ne doit que proposer)
    • ajoutez une validation de la sortie : la fonction verifier_reponse rejette toute réponse contenant remboursement + validé (re.search)
  3. Quelle mesure est la plus robuste ? → answer robuste <privileges|consigne|filtre>

Contenu Premium

Ce contenu est inclus dans l'offre Premium. Le titre et le résumé restent visibles pour vous aider à choisir.

Tâches

  1. Catégorie
  2. Données isolées des instructions
  3. Moindre privilège et contrôle de sortie