ITFabricLab ouvre bientôt : les labs, simulations et examens ne sont pas encore accessibles. Vous pouvez parcourir le catalogue et créer votre compte pour être prévenu de l'ouverture.

Break-Fix : un job Spark échoue par manque de mémoire

Senior LinuxApache Spark40 min80 XP

Incident — Le job nocturne agregats_ventes.py échoue depuis que le volume a doublé. Les journaux sont dans /var/log/spark/agregats_ventes.log.

  1. Cause principale → answer cause <memoire|reseau|disque|droits>
  2. Clé déséquilibrée (skew) repérée dans les métriques des tâches → answer cle <valeur>
  3. Corrigez le script de lancement /opt/jobs/run_agregats.sh : --executor-memory 8g, --conf spark.sql.shuffle.partitions=400 et activez l'exécution adaptative (--conf spark.sql.adaptive.enabled=true et --conf spark.sql.adaptive.skewJoin.enabled=true), puis relancez-le

Bientôt disponible

Les exercices pratiques ouvrent prochainement. Le titre, le résumé et le plan restent visibles pour découvrir le contenu.

Tâches

  1. Cause identifiée
  2. Clé déséquilibrée
  3. Job relancé avec succès