« J’ai entraîné mon modèle IA » : l’épreuve des faits

Ce que signifie vraiment « entraîner un modèle »

Entraîner un modèle d’IA générative à partir de zéro, ce que l’on appelle souvent le pré-entraînement, consiste à faire apprendre un réseau de neurones à partir d’un très grand jeu de données, avec des méthodes d’apprentissage profond (deep learning).

Pendant l’entraînement, le modèle traite un très grand nombre d’exemples. Pour chacun, il prédit une sortie, la compare au résultat attendu et ajuste ses valeurs internes pour réduire l’erreur. Pour un modèle de langage, les exemples sont surtout du texte, et la tâche consiste à prédire la suite d’une séquence.

Ces valeurs internes sont les « poids » ou « paramètres » du modèle, et les grands modèles récents en comptent des milliards. L’ajustement est répété sur un très grand nombre d’étapes, jusqu’à ce que le modèle produise des résultats cohérents.

Cela demande une puissance de calcul considérable, généralement fournie par des processeurs spécialisés comme les GPU, adaptés aux calculs intensifs sur de grands volumes de données. La taille de modèles connus donne une idée de l’effort nécessaire :

Le pré-entraînement d’un grand modèle généraliste exige d’importants volumes de données, une infrastructure de calcul et une expertise spécialisée. En pratique, les modèles de fondation les plus utilisés sont développés par un petit nombre de grandes entreprises technologiques et d’organismes de recherche bien financés.

Pré-entraînement, fine-⁠tuning, RAG et workflows

Adapter l’IA à un métier spécifique ne signifie pas forcément entraîner un modèle. Quatre approches sont souvent confondues, et seules les deux premières modifient le modèle lui-même :

Le fine-tuning est une approche légitime pour un problème précis, par exemple une tâche qu’un modèle généraliste réalise mal même avec de bonnes instructions. Beaucoup d’outils marketing présentés comme « propulsés par l’IA » combinent un modèle existant avec des instructions, des documents de référence et des workflows. Ces approches ne s’excluent pas : un produit peut utiliser un modèle ayant fait l’objet d’un fine-tuning, récupérer des documents de référence et fonctionner au sein d’un workflow.

Ce que l’affirmation peut recouvrir en pratique

Lorsqu’un outil ou un service est présenté comme « entraîné », il peut s’agir de fine-tuning, d’une ou plusieurs des approches suivantes, ou d’une combinaison. Chacune de ces approches peut être utile ; aucune ne crée un nouveau modèle :

1. Des instructions détaillées : le travail consiste à rédiger des prompts détaillés. C’est une compétence précieuse : elle consiste à diriger un modèle existant plutôt qu’à en construire un nouveau, comme on réalise un film sans construire le studio.
2. Un workflow no-⁠code ou low-⁠code : des outils comme N8N ou Make enchaînent des appels à des modèles existants. Cela peut fonctionner correctement pour des tâches clairement définies. Sans validation ni gestion des entrées inattendues, ces workflows peuvent se révéler fragiles lorsque les cas diffèrent de ceux pour lesquels ils ont été conçus.
3. Un modèle associé à des templates : un modèle génératif remplit une bibliothèque de templates prédéfinis pour des annonces, des articles de blog ou des e-mails. C’est utile dans certaines situations, dans les limites de ces templates.
4. Des documents de référence récupérés au moment de l’exécution : le modèle reçoit des documents pertinents issus d’une source définie lorsqu’il répond (génération augmentée par récupération). Le modèle lui-même n’est pas réentraîné.

En résumé : demandez quelle approche est utilisée

Les nouveaux modèles de fondation généralistes proviennent généralement de grandes entreprises technologiques ou d’organisations de recherche bien financées. Pour les équipes de marketing digital, les progrès utiles viendront probablement de deux directions :

• Les améliorations des modèles de fondation publiés par ces organisations.
• Des solutions spécialisées construites sur ces modèles, qui combinent expertise métier, données fiables, évaluation et intégration dans les processus existants.

Lorsqu’un outil ou un service est présenté comme « entraîné », demandez quelle approche il utilise : pré-entraînement, fine-tuning, récupération de documents de référence, workflow ou combinaison de plusieurs approches. Demandez ensuite comment il a été évalué sur des tâches proches des vôtres, et ce qu’exigent son exploitation et sa maintenance. Les réponses en disent plus sur sa valeur que le mot « entraîné ».