In Context Learning

Explication detaillee

L’apprentissage en contexte constitue le phenomene le plus surprenant et le moins compris de l’ere des grands modeles de langage. Contrairement a l’apprentissage classique, qui necessite des cycles de retropropagation et de mise a jour des poids, l’in-context learning permet au modele d’adapter ses reponses a une nouvelle tache en lisant simplement quelques exemples dans le prompt. Aucun gradient n’est calcule, aucun poids n’est modifie. Le modele apprend a la volee, dans l’espace des activations, a partir des patterns presents dans le contexte.

Ce phenomene a ete popularise par les travaux de Brown et al. sur GPT-3 en 2020. Les auteurs ont montre qu’un modele de 175 milliards de parametres, sans entrainement fin sur une tache specifique, pouvait atteindre des performances comparables a des modeles entierement supervises en utilisant uniquement des prompts contenant quelques exemples. Cette decouverte a remis en cause l’idee selon laquelle l’adaptation a une tache necessite obligatoirement un entrainement. Elle a ouvert la voie a des paradigmes d’interaction ou le modele est programme par le langage naturel plutot que par le code.

Les formes de l’apprentissage en contexte se repartissent en plusieurs categories. Le few-shot prompting fournit plusieurs exemples d’entree-sortie avant la requete finale. Le zero-shot prompting decrit la tache en langage naturel sans exemple. Le chain-of-thought prompting guide le modele a decomposer le raisonnement en etapes intermediaires. Le role prompting assigne au modele un persona specifique qui conditionne le style et la perspective de la reponse. Chaque technique exploite la capacite du modele a inferer la structure de la tache a partir du formatage du prompt.

Dans le contexte professionnel, l’apprentissage en contexte a democratise l’acces aux capacites des grands modeles de langage. Les entreprises n’ont plus besoin d’equipes de machine learning pour finetuner un modele sur une tache specifique. Un responsable marketing peut ecrire un prompt avec trois exemples de descriptions de produits et generer des centaines de variantes. Un analyste juridique peut fournir deux exemples de resumes de contrats et obtenir un resume structuré d’un nouveau document. Un developpeur peut donner quelques exemples de transformations de donnees et obtenir un script.

Cependant, l’apprentissage en contexte souffre de limitations importantes. Sa performance est hautement sensible a la formulation du prompt, un phenomene qualifie de prompt engineering. De legers changements de formulation peuvent produire des resultats radicalement differents. La longueur du contexte est limitee par l’architecture du modele, restreignant le nombre d’exemples que l’on peut fournir. Les exemples choisis influencent fortement le resultat, et la selection optimale reste un art. Les biais presents dans les exemples sont reproduits et parfois amplifies.

Les recherches actuelles cherchent a comprendre les mecanismes internes de l’in-context learning. Des etudes suggestent que le modele utilise les exemples pour localiser des circuits de calcul deja presents dans ses poids, plutot que d’apprendre de nouvelles fonctions. Les exemples agissent comme des signaux de positionnement qui activent des capacites latentes. D’autres travaux montrent que l’in-context learning est lie a la structure des donnees d’entrainement, ou les sequences contenant des patterns similaires sont frequentes.

Dans l’industrie, l’apprentissage en contexte est devenu le mode d’interaction principal avec les modeles de langage. Les API d’OpenAI, d’Anthropic et de Google sont concues autour de cette paradigm. Les frameworks de developpement comme LangChain et LlamaIndex gerent la construction et l’optimisation des prompts. Les entreprises developpent des bibliotheques de prompts standardises pour leurs workflows internes.