Le Fine Tuning

Le fine-tuning consiste à adapter un modèle pré-entraîné à une nouvelle tâche ou à de nouvelles données, ce qui permet l'amélioration des performances du modèle et réduit la quantité de données nécessaires pour obtenir de bons résultats en sortie.

Adapter un modèle par fine-tuning offre les avantages suivants :

• Obtenir des résultats de meilleure qualité qu'avec une approche classique
• Entraîner les modèles sur un plus grand nombre d'exemples
• Effectuer des prompts plus courts et des requêtes à faible latence

Le fine-tuning peut être effectué sur l'ensemble du réseau de neurones, ou seulement sur un sous-ensemble de ses couches, il est d'ailleurs souvent réalisé en réutilisant les paramètres du modèle pré-entraîné et en ajoutant une couche spécifique à la tâche à réaliser.

En résumé, le fine-tuning permet d'optimiser l'apprentissage d'un modèle en l'entraînant sur un plus grand nombre d'exemples, par la suite, quand le modèle a été fine-tuné, vous n'aurez plus besoin de fournir d'exemples dans le prompt pour obtenir des résultats satisfaisants.