ITFabricLab ouvre bientôt : les labs, simulations et examens ne sont pas encore accessibles. Vous pouvez parcourir le catalogue et créer votre compte pour être prévenu de l'ouverture.

Break-Fix : CUDA out of memory à l'entraînement

Senior LinuxInfrastructure GPU (CUDA)40 min80 XP

Incident — Le fine-tuning du modèle de classification de documents échoue dès le premier lot.

  1. python3 train.py --config config.yaml (depuis ~/finetune) : lisez l'erreur. Mémoire demandée vs libre → cause → answer cause <memoire|driver|donnees>
  2. Corrigez config.yaml sans changer la taille de lot effective (64) : batch_size: 16, gradient_accumulation_steps: 4, precision: bf16 (précision mixte), gradient_checkpointing: true
  3. Relancez : pic de mémoire utilisé → answer pic <Gio>
  4. Taille de lot effective → answer effective <n>

Bientôt disponible

Les exercices pratiques ouvrent prochainement. Le titre, le résumé et le plan restent visibles pour découvrir le contenu.

Tâches

  1. Cause
  2. Configuration économe en mémoire
  3. Résultats