Break-Fix : CUDA out of memory à l'entraînement
Incident — Le fine-tuning du modèle de classification de documents échoue dès le premier lot.
python3 train.py --config config.yaml(depuis~/finetune) : lisez l'erreur. Mémoire demandée vs libre → cause →answer cause <memoire|driver|donnees>- Corrigez
config.yamlsans changer la taille de lot effective (64) :batch_size: 16,gradient_accumulation_steps: 4,precision: bf16(précision mixte),gradient_checkpointing: true - Relancez : pic de mémoire utilisé →
answer pic <Gio> - Taille de lot effective →
answer effective <n>
Bientôt disponible
Les exercices pratiques ouvrent prochainement. Le titre, le résumé et le plan restent visibles pour découvrir le contenu.
Tâches
- Cause
- Configuration économe en mémoire
- Résultats