Apprentissage Few-Shot

Explication detaillee

L’intelligence humaine se caracterise par sa capacite a apprendre vite. Un enfant n’a besoin que de deux ou trois exemples pour comprendre la difference entre un chien et un chat. Un comptable n’examine que quelques factures pour saisir la structure comptable d’un nouveau client. Un avocat lit deux ou trois decisions de principe pour anticiper la jurisprudence d’une juridiction. Cette capacite d’apprendre a partir de peu d’exemples, le few-shot learning, est l’un des criteres qui distinguent l’intelligence generale de l’apprentissage routinier.

En intelligence artificielle, le few-shot learning represente un defi fondamental. Les modeles classiques de deep learning sont gloutons en donnees: un reseau de vision necessite des milliers d’images par classe, un modele de langage des millions de phrases. Cette voracite limite leur deploiement dans des domaines ou les donnees sont rares, couteuses a etiqueter ou confidentielles. Comment entrainer un modele a diagnosticquer une maladie neuve quand seuls quelques cas cliniques ont ete documentes? Comment classifier des documents d’entreprise quand chaque categorie ne compte qu’une dizaine d’exemples?

La reponse reside dans le transfert de connaissances. Les modeles few-shot sont d’abord entraines sur un large eventail de taches apparentees, acquérant des representations generiques transferables. Cette phase de meta-entrainement ou de pre-entrainement massif permet au modele de reconnaître des patterns communs entre taches. Lorsqu’une nouvelle tache est presentee avec quelques exemples, le modele les mappe sur les structures deja apprises et generalise a partir de ces analogies.

La demonstration la plus spectaculaire du few-shot learning est celle de GPT-3 en 2020. Dans leur article Language Models are Few-Shot Learners, l’equipe d’OpenAI montre qu’un modele de 175 milliards de parametres, simplement presente avec quelques exemples d’une tache dans son prompt, atteint des performances competitives avec des modeles specifiquement fine-tunes sur des milliers d’exemples. La classification de sentiments, la traduction, la reponse a des questions, le raisonnement arithmetique: toutes ces taches peuvent etre abordees avec 5 a 10 exemples fournis in-contexte.

Cette capacite transforme radicalement l’economie des projets d’IA en entreprise. Une equipe marketing qui souhaite classifier des feedbacks clients en cinq categories n’a plus besoin de collecter et d’etiqueter 10 000 exemples. Quelques dizaines d’exemples bien choisis, inséres dans un prompt, suffisent a obtenir une performance operationnelle. Un cabinet d’avocats peut entrainer un modele a reconnaitre des types de clauses contractuelles a partir de vingt exemples. Cette democratisation de l’apprentissage par l’exemple abaisse le seuil d’entree des applications d’IA personnalisees.

Cependant, le few-shot learning n’est pas magique. La qualite des exemples selectionnes determine la performance: des exemples ambigus, biaises ou mal formates degradent les resultats. Le modele peut sur-apprendre les specificites des exemples fournis sans capturer la regle generale. Et le nombre d’exemples est limite par la fenetre de contexte du modele. Pour des taches complexes necessitant des centaines d’exemples, le fine-tuning reste necessaire.

Les techniques de few-shot learning se diversifient. Le prompt engineering optimise la formulation et la selection des exemples. Le retrieval-augmented few-shot enrichit les exemples par recuperation dynamique dans une base de cas. Le adaptive prompting ajuste le nombre et la nature des exemples selon la complexite de la requete. Ces avancees rendent le few-shot learning de plus en plus robuste et previsible.

La frontiere entre few-shot learning et fine-tuning s’estompe avec l’emergence des adapters et des techniques d’adaptation rapide. Les adapters sont de petits modules neuronaux inseres dans le modele pre-entraine, qui peuvent etre entraines en quelques minutes sur quelques exemples. Cette approche hybride combine la flexibilite du few-shot avec la robustesse du fine-tuning. Les entreprises l’utilisent pour personnaliser rapidement des modeles generiques a des cas d’usage specifiques sans les couts d’un entrainement complet.

La composition des exemples few-shot influe sur la robustesse. Des exemples trop similaires entre eux induisent un sur-apprentissage superficiel, tandis que des exemples trop diversifies peuvent confondre le modele. La recherche sur le curriculum few-shot propose de presenter les exemples dans un ordre pedagogique, du simple au complexe, ameliorant la generalisation.

La mesure de la similarite entre la requete et les exemples few-shot peut etre affinee par des embeddings contextuels. En selectionnant les exemples dont les representations vectorielles sont les plus proches de la requete, on maximise la pertinence de la demonstration et on minimise le bruit introduit par des exemples eloignes thematiquement.