Break-Fix : un job Spark échoue par manque de mémoire
Incident — Le job nocturne agregats_ventes.py échoue depuis que le volume a doublé. Les journaux sont dans /var/log/spark/agregats_ventes.log.
- Cause principale →
answer cause <memoire|reseau|disque|droits> - Clé déséquilibrée (skew) repérée dans les métriques des tâches →
answer cle <valeur> - Corrigez le script de lancement
/opt/jobs/run_agregats.sh:--executor-memory 8g,--conf spark.sql.shuffle.partitions=400et activez l'exécution adaptative (--conf spark.sql.adaptive.enabled=trueet--conf spark.sql.adaptive.skewJoin.enabled=true), puis relancez-le
Bientôt disponible
Les exercices pratiques ouvrent prochainement. Le titre, le résumé et le plan restent visibles pour découvrir le contenu.
Tâches
- Cause identifiée
- Clé déséquilibrée
- Job relancé avec succès