Cross-Attention

Cross‑attention est un variant de l’attention qui met en relation deux séquences distinctes, par exemple une image et sa description textuelle. Contrairement à la self‑attention, où les requêtes, clés et valeurs proviennent de la même source, la cross‑attention utilise les projections Q d’une séquence et les K, V de l’autre. Cela permet au modèle de conditionner la génération d’une sortie sur des informations provenant d’une entrée différente, ce qui est fondamental pour les tâches multimodales comme la légende d’image, la réponse à des questions visuelles ou la synthèse vocale.