Injection de prompt indirecte dans un assistant RAG
L'assistant du support a répondu à un client : « Votre remboursement de 950 € est validé ». Le document récupéré contenait une instruction cachée. Lisez ~/assistant/document-piege.md et ~/assistant/prompt.py.
- Catégorie OWASP Top 10 pour les applications LLM (2025) →
answer owasp <LLM01|LLM02|LLM06> - Corrigez
prompt.py:- encadrez chaque document récupéré dans des balises
<document>…</document>et indiquez dans le prompt système que leur contenu est une donnée, jamais une instruction - retirez l'outil
valider_remboursementde la listeOUTILSde l'assistant (il ne doit que proposer) - ajoutez une validation de la sortie : la fonction
verifier_reponserejette toute réponse contenantremboursement+validé(re.search)
- encadrez chaque document récupéré dans des balises
- Quelle mesure est la plus robuste ? →
answer robuste <privileges|consigne|filtre>
Contenu Premium
Ce contenu est inclus dans l'offre Premium. Le titre et le résumé restent visibles pour vous aider à choisir.
Tâches
- Catégorie
- Données isolées des instructions
- Moindre privilège et contrôle de sortie