L’invite Zero-shot (Zero Shot Prompting) offre un changement de paradigme dans l’exploitation des LLM de grande taille. Cette technique élimine le besoin de données de formation étendues, s’appuyant plutôt sur des invites soigneusement conçues qui guident le modèle vers de nouvelles tâches. Plus précisément, le modèle reçoit une description de la tâche dans l’invite, mais manque de données étiquetées pour l’entraînement sur des mappages d’entrées-sorties spécifiques. Le modèle exploite ensuite ses connaissances préexistantes pour générer des prédictions basées sur l’invite donnée pour la nouvelle tâche.
Utilité
L’invite Zero-shot fonctionne parfaitement dans diverses tâches de génération de texte, permettant aux modèles de produire divers types de contenu sans formation spécifique. Parmi ces tâches, on trouve le résumé, la rédaction créative et la traduction. Voici quelques exemples :
L’invite Zero-shot donne aux modèles la possibilité de répondre à de nombreuses questions différentes, telles que des questions factuelles, explicatives et comparatives, en fonction de leurs connaissances générales et de leur compréhension de la langue.
Limites
L’invite sans impulsion, bien que puissante, peut ne pas toujours être aussi précise que les modèles spécialement formés pour des tâches spécifiques. Cette limitation provient de plusieurs facteurs :
- Manque d’optimisation spécifique à la tâche : les modèles affinés bénéficient d’une formation ciblée sur des données spécifiques à la tâche, ce qui peut conduire à une plus grande précision pour cette tâche particulière.
- Variabilité d’interprétation : l’interprétation de l’invite par le modèle peut ne pas toujours correspondre parfaitement à l’intention de l’utilisateur, ce qui peut entraîner des inexactitudes.
- Traitement de tâches complexes : les tâches hautement spécialisées ou complexes peuvent nécessiter une compréhension plus nuancée que ce qui est possible avec l’invite sans impulsion seule.
Les performances de l’invite sans impulsion peuvent être très sensibles à la formulation de l’invite.
- Variations de formulation : de légers changements dans le vocabulaire ou la structure des phrases peuvent modifier l’interprétation de la tâche par le modèle.
- Clarté des instructions : des instructions ambiguës ou imprécises peuvent conduire à des résultats inattendus ou incohérents.
- Dépendance au contexte : l’efficacité d’une invite peut varier en fonction de l’entrée ou du contexte spécifique auquel elle est appliquée.
Exemples
Nous utiliserons l’exemple de texte suivant :
Exemple de texte : « La révolution industrielle, qui a eu lieu du XVIIIe au XIXe siècle, a été une période au cours de laquelle les sociétés essentiellement agraires et rurales d’Europe et d’Amérique sont devenues industrielles et urbaines. Avant la révolution industrielle, qui a commencé en Grande-Bretagne à la fin des années 1700, la fabrication était souvent réalisée à domicile, à l’aide d’outils manuels ou de machines de base. L’industrialisation a marqué un passage aux machines motorisées à usage spécifique, aux usines et à la production de masse. Les industries du fer et du textile, ainsi que le développement de la machine à vapeur, ont joué un rôle central dans la révolution industrielle, qui a également vu l’amélioration des systèmes de transport, de communication et de banque. »
Maintenant, appliquons nos trois invites :
Invite 1 : « Résumez ce texte en une phrase : »
Résultat 1 : La révolution industrielle a été une période de transformation aux XVIIIe et XIXe siècles qui a fait passer les sociétés européennes et américaines d’une société agraire à une société industrielle, caractérisée par l’essor des usines, la production de masse et les avancées technologiques dans la fabrication, le transport et la communication.
Cette réponse fournit un résumé concis en une phrase qui capture l’essence de la révolution industrielle, sa période, son emplacement et ses principales caractéristiques.
Invite 2 : « Fournissez un bref résumé des éléments suivants : »
Résultat 2 : La révolution industrielle a été une période de changement importante du XVIIIe au XIXe siècle, qui a principalement touché l’Europe et l’Amérique. Elle a marqué une transition des sociétés agraires et rurales vers les sociétés industrielles et urbaines. Avant cette époque, la fabrication était généralement réalisée à domicile à l’aide d’outils simples. La révolution a donné naissance à des machines motorisées, des usines et des méthodes de production de masse. Les industries clés comme le fer et le textile ont joué un rôle crucial, tout comme l’invention de la machine à vapeur. Cette période a également vu des progrès dans les transports, la communication et les systèmes bancaires, modifiant fondamentalement le paysage économique et social.
Cette réponse est plus longue et plus détaillée que la première. Elle couvre davantage d’aspects de la révolution industrielle, notamment son impact sur des industries spécifiques et des changements sociétaux plus larges. Le modèle a interprété le terme « bref résumé » comme autorisant plusieurs phrases et une couverture plus complète.
Invite 3 : « Quelle est l’idée principale de ce passage ?»
Résultat 3 : L’idée principale de ce passage est le passage fondamental de la société agraire à la société industrielle pendant la révolution industrielle, soulignant les changements majeurs dans les méthodes de fabrication, la technologie et le développement urbain qui se sont produits en Europe et en Amérique du XVIIIe au XIXe siècle.
Cette réponse se concentre sur le thème central ou le concept de base du passage plutôt que d’essayer de résumer tous les détails. Elle identifie la transformation clé (agraire vers industrielle) et mentionne de vastes domaines de changement sans entrer dans des détails comme les industries du fer et du textile ou la machine à vapeur.
Biais
Les modèles pré-entraînés utilisés pour les invites à zéro injection peuvent présenter des biais présents dans leurs données d’entraînement, ce qui peut conduire à des résultats problématiques :
- Biais démographiques : les modèles peuvent produire des résultats biaisés liés à la race, au sexe, à l’âge ou à d’autres facteurs démographiques.
- Biais culturels : les réponses du modèle peuvent favoriser certaines perspectives culturelles par rapport à d’autres.
Biais de récence : les informations plus répandues dans les données d’entraînement (souvent plus récentes) peuvent être surreprésentées dans les connaissances du modèle. - Stéréotypes : le modèle peut renforcer les stéréotypes nuisibles présents dans ses données d’entraînement.
Il est essentiel de comprendre ces limites et ces défis pour utiliser efficacement les invites à zéro injection. Il est important que vous soyez conscient des inexactitudes potentielles, de l’importance d’une conception minutieuse des invites et de la nécessité d’évaluer de manière critique les résultats pour détecter d’éventuels biais.
FR 
EN