Jour 1 - Fondamentaux du fine-tuning et LoRA

Module 1 : Introduction au fine-tuning open-source

• Pourquoi fine-tuner des modèles open-weight ?
• Panorama des modèles : Mistral, Llama 3, Phi, GPT-OSS
• Stratégies de fine-tuning : full fine-tuning vs PEFT
• Atelier : « Explorer les modèles disponibles sur Hugging Face »

Module 2 : Préparation des données avec Hugging Face

• Datasets Hugging Face : chargement, exploration, preprocessing
• Tokenisation adaptée aux différents modèles
• Format conversationnel et instruction datasets
• Gestion des données multilingues
• Atelier : « Préparer un dataset d’instructions multilingue »

Module 3 : PEFT - LoRA et QLoRA

• Principes de LoRA (Low-Rank Adaptation)
• QLoRA : quantification + LoRA pour réduire la mémoire
• Implémentation avec la bibliothèque PEFT
• Configuration des hyperparamètres LoRA
• Atelier : « Configurer un entraînement LoRA sur un petit modèle »

Jour 2 - Entraînement, évaluation et déploiement

Module 4 : Entraînement avec Transformers + PEFT

• Mise en place de la boucle d’entraînement (Trainer, SFTTrainer)
• Gestion des ressources (batch size, gradient accumulation)
• Monitoring de l’entraînement (loss, perplexité)
• Sauvegarde et versioning des adaptateurs LoRA
• Atelier : « Fine-tuner Mistral 7B avec QLoRA sur un dataset d’instructions »

Module 5 : Évaluation avancée

• Métriques classiques : loss, perplexité
• Évaluation qualitative : génération et inspection manuelle
• Benchmarks domaine-spécifique
• A/B testing : comparer modèle de base vs fine-tuné
• Atelier : « Évaluer et comparer plusieurs versions fine-tunées »

Module 6 : Déploiement et inférence

• Hugging Face Spaces : déploiement rapide d’une démo
• Ollama pour inférence locale et intégration
• Optimisation pour la production (quantization, vLLM)
• Cas pratique : chatbot spécialisé déployé sur Spaces
• Évaluation des acquis et clôture : « Concevoir sa stratégie de fine-tuning open-source »

À qui s’adresse cette formation ?

Data scientists et ingénieurs ML.
Développeurs IA souhaitant maitriser le fine-tuning local.
Chercheurs appliques.
Leads techniques en IA.
Toute personne ayant des bases en Python et ML et voulant adapter des modèles open-source.

Quels sont les prérequis pour suivre cette formation ?

Bonne maitrise de Python et des fondamentaux du ML.
Connaissance des transformers et de écosystème Hugging Face.
Expérience avec PyTorch ou TensorFlow.
Matériel avec GPU recommande (ou accès cloud).