Un des jeux vidéo qui a marqué mon enfance fut “Need for Speed”, plus particulièrement “Need for Speed: Underground (2)”. Un jeu de voiture tuning (peu réaliste) des années 2000, dont le but était simple : gagner toutes les courses. Le jeu proposait différentes sortes de courses : des épreuves en ligne droite (drag) où la vitesse maximale était déterminante, des compétitions de dérapage (drift), des courses sprints visant à rester en tête et éviter l’élimination, ainsi que les traditionnelles courses de circuit, rappelant les scènes de rue (à la Fast & Furious). Lorsqu’une course était remportée, on gagnait soit de l’argent, soit/et une voiture. L’argent permettait de modifier notre voiture selon nos préférences : ajouter ou remplacer des pièces, changer et repeindre la carrosserie, ajouter un aileron ou des néons, etc. On pouvait installer des kits (préétablis) ou bien construire la voiture selon notre choix de pièces détachées.
Aujourd’hui, il existe un nouveau jeu, le (fine-)tuning de LLM. Le but est d’obtenir le meilleur score (sans tricher). Comme dans les courses de Need for Speed, il existe différentes ‘épreuves’ dans le domaine des LLMs, telles que le role-playing, la compréhension de phrase, ou l’extraction de données, etc. Bien qu’il existe des controverses et questionnements vis-à-vis de l’évaluation. Modifier un modèle LLM implique d’ajouter ou de remplacer des données, de changer la manière dont le modèle sélectionne ses réponses, d’intégrer une personnalité, et ainsi de suite.. Comme dans le jeu, on peut soit appliquer un kit prédéfini à un LLM, soit personnaliser entièrement le modèle en sélectionnant des composants spécifiques pour le fine-tuning. De plus, il est également possible de créer des modèles ‘dormants’, modifiés de manière cachée, un peu comme user les freins d’une voiture pour provoquer un accident, sujet qui sera abordé dans un futur post.
Pour gagner “Need for Speed: Underground”, il existait différentes approches. La première reposait sur un élément clé : l’expérience du joueur. Si celui-ci était habitué, il lui suffisait de maximiser la voiture la plus performante/la plus chère du moment pour obtenir les meilleures performances sur la route. Sinon, il devait persévérer jusqu’à acquérir l’expérience nécessaire. La deuxième approche consistait à se concentrer sur plusieurs voitures, chacune spécialisée dans un type de course. Ainsi, il n’était pas nécessaire d’être le meilleur pilote ; on pouvait avoir une voiture pour les courses circuits et sprint, une autre pour les courses de pointe, et une troisième pour le drift.
Avec les LLMs c’est la meme chose, un utilisateur habitué peut tirer profit du meilleur model/du plus cher, au même titre qu’un utilisateur lambda peut aisément atteindre ses objectifs avec des LLMs spécialisés. Rappelez-vous, ici, le volant, c’est le prompt. Comme expliqué dans mon précédent post, c’est la manière dont on guide le modèle (le volant) qui détermine le résultat.
Dans l’univers de Need for Speed, les garages sont essentiels, fonctionnant comme des ateliers de personnalisation et d’amélioration des voitures. Chaque garage propose un assortiment unique : pièces diverses, kits de tuning, néons, et plus. Le choix d’un garage ne repose pas tant sur la qualité de ses services, mais plutôt sur l’unicité et l’exclusivité de ses offres. Par exemple, certains kits spécifiques ne se trouvent que dans le garage X, des motifs de peinture uniques chez le garage Y, et la nitro peut être seulement au garage Z.
Parallèlement, dans le domaine des LLMs, le concept de garage sur mesure n’en est qu’au stade de l’idée.. Aujourd’hui, ce domaine est principalement investi par des passionnés et des autodidactes, qui mettent en œuvre des idées tirées de documents Arxiv. Ils sont les ‘préparateurs’ du monde des LLMs, utilisant divers outils, souvent des librairies et scripts Python, pour peaufiner et adapter le modèle de base à des tâches spécifiques ou pour le rendre plus polyvalent. Ces préparateurs, similaires aux mécaniciens de Need for Speed, façonnent les modèles LLM pour s’adapter à une grande variété de besoins. Tout comme les garages dans le jeu offrent des options de personnalisation pour les voitures, on peut envisager que dans un futur proche, des services similaires émergeront pour les LLMs, offrant des possibilités de personnalisation et d’optimisation sur mesure pour ces modèles linguistiques.