Agent LLM : limiter l'autonomie et valider les sorties
L'agent de back-office (~/agent/outils.py) dispose d'un outil executer_sql(requete) qui exécute n'importe quelle requête générée par le modèle, avec le compte postgres, et d'un outil rembourser(commande_id, montant) sans limite.
Corrigez outils.py :
- Remplacez
executer_sqlparconsulter_commande(commande_id: int)qui exécute une requête paramétrée fixe (cur.execute("SELECT … WHERE id = %s", (commande_id,))) avec un compte en lecture seule (DSN_LECTURE) rembourser: refus au-delà de 100 € sans validation humaine (if montant > 100: return demander_validation(...))- Journalisez chaque appel d'outil (
journal.info() - Catégories OWASP LLM (2025) : exécution d'une sortie du modèle comme du SQL →
answer sortie <LLM05|LLM01|LLM09>; outils trop puissants →answer agence <LLM06|LLM03|LLM10>
Bientôt disponible
Les exercices pratiques ouvrent prochainement. Le titre, le résumé et le plan restent visibles pour découvrir le contenu.
Tâches
- Plus de SQL libre
- Validation humaine et journal
- Catégories