Quand fine-tuner plutôt que prompter
Le fine-tuning n'est pas toujours la bonne réponse. Pour la plupart des cas d'usage, un bon prompt système + RAG donne de meilleurs résultats avec moins d'effort. Mais le fine-tuning s'impose quand : vous avez besoin d'un style d'écriture très spécifique, d'une terminologie propriétaire ou d'un comportement très répétitif sur un grand volume de requêtes.
LoRA : l'adaptation efficace
LoRA (Low-Rank Adaptation) ne modifie pas les poids originaux du modèle. Elle ajoute de petites matrices de poids supplémentaires aux couches d'attention, entraîne uniquement ces matrices, puis les fusionne avec le modèle de base pour l'inférence. Résultat : 99% des paramètres restent figés, seul 0,1 à 1% est entraîné.
QLoRA : encore plus efficace
QLoRA (Quantized LoRA) quantifie le modèle de base en 4-bit pour réduire la mémoire GPU, puis applique LoRA sur ce modèle quantifié. Vous pouvez fine-tuner Llama 3.2 8B sur un seul GPU de 8Go. C'est la technique que nous utilisons en production.
Le pipeline complet
Étape 1 : préparez vos données
Votre dataset doit être au format instruction-suivi : un champ "instruction" avec la demande et un champ "output" avec la réponse idéale. Minimum : 200 exemples de qualité. Optimal : 1000 à 5000 exemples très bien curés.
Règle d'or sur les données : 200 exemples excellents surpassent toujours 2000 exemples médiocres. La qualité de votre dataset est le facteur numéro 1 de la qualité du modèle fine-tuné.
Étape 2 : choisissez votre base
Pour 2026 : Llama 3.1 8B est le meilleur rapport qualité/coût pour le fine-tuning. Mistral 7B pour les tâches en français. Llama 3.2 3B si vous êtes contraint sur le hardware.
Étape 3 : entraînement avec Unsloth
Unsloth est la librairie de référence en 2026 pour le fine-tuning efficace : 2 à 5 fois plus rapide que Hugging Face Trainer, moins de mémoire, même qualité. Installation : pip install unsloth. Le reste est une dizaine de lignes de configuration.
Évaluation et déploiement
Évaluez sur un dataset de test que le modèle n'a jamais vu. Utilisez LLM-as-a-judge : demandez à GPT-4o de comparer les réponses de votre modèle fine-tuné vs le modèle de base sur vos exemples de test. C'est la méthode la plus fiable et la moins coûteuse.
Le fine-tuning, son évaluation et le choix entre adapter un modèle ou mieux le solliciter sont traités dans le Bootcamp AI Engineering.
