Fine-tuning

Qu'est-ce que le fine-tuning ?

Les grands modèles de langage sont entraînés sur des datasets massifs et généraux. Cela leur donne de larges capacités mais aucune spécialisation. Le fine-tuning est une deuxième étape d'entraînement : vous prenez un modèle pré-entraîné et continuez à l'entraîner sur un dataset plus petit et spécifique à la tâche. Les poids du modèle sont ajustés pour mieux performer sur votre cas d'usage.

Un cabinet d'avocats pourrait fine-tuner un modèle sur des milliers de contrats. Une banque pourrait fine-tuner sur des rapports financiers. Une équipe de support client pourrait fine-tuner sur des tickets passés pour que les réponses correspondent à leur ton et leurs politiques.

Fine-tuning vs. RAG : lequel utiliser ?

La réponse est généralement : RAG d'abord, fine-tuning si nécessaire. Le RAG donne au modèle accès à vos documents au moment de la requête sans modifier le modèle lui-même. Il est plus rapide à implémenter, plus facile à mettre à jour et fournit des citations.

Le fine-tuning est le bon choix quand : vous avez besoin que le modèle internalise un style d'écriture ou un format spécifique, la tâche nécessite des changements comportementaux cohérents difficiles à obtenir avec le prompting, ou vous devez distiller les capacités d'un grand modèle dans un modèle plus petit et plus rapide.

Le coût et la complexité du fine-tuning

Le fine-tuning nécessite un dataset d'entraînement de qualité (généralement 500 à 10 000 exemples), du calcul GPU et une infrastructure d'évaluation. Le coût le plus significatif est la préparation des données : curatorer, nettoyer et formater les exemples d'entraînement est chronophage et nécessite une expertise métier.