Variational Inference

Explication detaillee

L’inference variationnelle offre une reponse elegante a l’un des problemes fondamentaux de la statistique bayesienne : le calcul de la distribution a posteriori P(Z|X) = P(X|Z)P(Z) / P(X) est intractable pour la plupart des modeles interessants car le denominateur P(X) = integral P(X|Z)P(Z) dZ necessite une integration sur toutes les valeurs possibles des variables latentes Z. L’inference variationnelle contourne ce probleme en remplacant le calcul exact par une approximation optimisee. Au lieu de chercher la vraie posterior, on cherche la meilleure approximation dans une famille de distributions plus simples.

L’idee centrale est l’ELBO (Evidence Lower BOund). Pour toute distribution variationnelle q(Z), on a log P(X) >= E_{q(Z)}[log P(X|Z)] - KL(q(Z) || P(Z)). Ce terme de droite est l’ELBO. Il decompose en deux parties : l’attente de la log-vraisemblance, qui mesure la qualite de reconstruction, et la divergence KL, qui penalise l’ecart entre la distribution variationnelle et le prior. Maximiser l’ELBO equivalent a minimiser la divergence KL entre q(Z) et la vraie posterior P(Z|X).

Dans les applications professionnelles, l’inference variationnelle est omnipresente dans les modeles generatifs. Les auto-encodeurs variationnels (VAE) utilisent l’inference variationnelle pour apprendre des representations latentes compressées. Les modeles de topics comme LDA utilisent l’inference variationnelle pour decouvrir les themes caches dans des corpus de texte. Les modeles bayesiens profonds utilisent l’inference variationnelle pour quantifier l’incertitude des predictions. Les systemes de recommandation utilisent l’inference variationnelle pour modeliser les preferences latentes des utilisateurs.

Les familles de distributions variationnelles varient en complexite. La factorisation moyenne de champ suppose que q(Z) = produit_i q_i(Z_i), ou chaque variable latente est independante. Cette approximation, bien que simple, peut sous-estimer les correlations. Les distributions gaussiennes avec matrices de covariance pleines capturent les correlations mais sont couteuses en haute dimension. Les flows normaux, qui transforment une distribution simple par une serie de transformations inversibles, offrent une flexibilite considerable. Et les reseaux de neurones pour l’amortized inference, comme les encodeurs de VAE, partagent les parametres variationnels entre les exemples.

Les defis de l’inference variationnelle incluent le compromis biais-variance. Une famille variationnelle trop simple introduit un biais d’approximation important. Une famille trop complexe complique l’optimisation. La divergence KL inverse, KL(q||p), tend a sous-estimer la variance de la posterior, produisant des approximations trop concentrees. La divergence KL directe, KL(p||q), est plus difficile a estimer. Les divergences alternatives, comme la divergence de Jensen-Shannon ou le Stein discrepancy, offrent des proprietes differentes. Et l’optimisation de l’ELBO peut souffrir de modes locaux et de gradients de variance elevee.

Les recherches actuelles enrichissent considerablement le cadre variationnel. Les VAE hierarchiques empilent des espaces latents a differentes echelles. Les modeles de diffusion utilisent l’inference variationnelle sur des trajectoires de bruitage. Les normalizing flows offrent des familles variationnelles flexibles. L’inference variationnelle avec gradients de REINFORCE ou de score permet l’optimisation de distributions non differentiables. Et l’inference variationnelle dans les graphes de connaissances et les reseaux bayesiens etend l’applicabilite a des structures complexes.

Les fondements probabilistes de l’inference variationnelle remontent au probleme fondamental du calcul de la distribution posteriori dans les modeles graphiques. Pour un modele avec des variables latentes z et des observations x, la posteriori p(z|x) est proportionnelle a p(x|z)p(z), mais la constante de normalisation p(x) necessite une integration sur toutes les configurations possibles de z, une operation generalement intractable. L’idee centrale de la VI est d’approcher cette posteriori intractable par une distribution variationnelle q(z) choisie dans une famille parametrique plus simple, comme les Gaussiennes factorisees. L’optimisation consiste a minimiser la divergence KL entre q(z) et p(z|x), ce qui equivaut a maximiser une borne inferieure sur la log-vraisemblance des donnees, appelee ELBO (Evidence Lower Bound). Cette reformulation transforme un probleme d’integration en un probleme d’optimisation, beaucoup plus tractable numeriquement.

L’evolution de la variational inference vers les echelles massives a ete facilitee par l’introduction de l’amortized inference. Dans l’inference traditionnelle, les parametres variationnels sont optimises separement pour chaque observation, un processus lent et couteux. L’amortized inference, implementee dans les VAE, utilise un reseau neuronal encodeur qui predit les parametres variationnels directement a partir des donnees. Cette amortisation permet l’inference en temps constant pour de nouvelles observations, rendant la VI applicable a des jeux de donnees de millions d’exemples. Les modeles de diffusion probabilistes, bien que formules differemment, peuvent etre interpretes comme une forme de VI hierarchique avec une chaine de distributions variationnelles inversees. Cette connexion unifie les deux familles de modeles generatifs dominants et suggere des directions pour des architectures generatives hybrides.