ITFabricLab ouvre bientôt : les labs, simulations et examens ne sont pas encore accessibles. Vous pouvez parcourir le catalogue et créer votre compte pour être prévenu de l'ouverture.

Agent LLM : limiter l'autonomie et valider les sorties

Senior LinuxOWASP Top 10 LLM40 min80 XP

L'agent de back-office (~/agent/outils.py) dispose d'un outil executer_sql(requete) qui exécute n'importe quelle requête générée par le modèle, avec le compte postgres, et d'un outil rembourser(commande_id, montant) sans limite.

Corrigez outils.py :

  1. Remplacez executer_sql par consulter_commande(commande_id: int) qui exécute une requête paramétrée fixe (cur.execute("SELECT … WHERE id = %s", (commande_id,))) avec un compte en lecture seule (DSN_LECTURE)
  2. rembourser : refus au-delà de 100 € sans validation humaine (if montant > 100: return demander_validation(...))
  3. Journalisez chaque appel d'outil (journal.info()
  4. Catégories OWASP LLM (2025) : exécution d'une sortie du modèle comme du SQL → answer sortie <LLM05|LLM01|LLM09> ; outils trop puissants → answer agence <LLM06|LLM03|LLM10>

Bientôt disponible

Les exercices pratiques ouvrent prochainement. Le titre, le résumé et le plan restent visibles pour découvrir le contenu.

Tâches

  1. Plus de SQL libre
  2. Validation humaine et journal
  3. Catégories