Le probleme des gradients explosifs est l inverse des gradients disparaissants: les gradients deviennent exponentiellement grands lors de la retropropagation, causant des mises a jour instables et des NaN.
Aussi appelé : Divergence des gradients, Explosion de gradients, Instabilité de gradient, Gradient overflow
Le probleme des gradients explosifs est l inverse des gradients disparaissants: les gradients deviennent exponentiellement grands lors de la retropropagation, causant des mises a jour instables et des NaN.
Les gradients explosants peuvent faire passer les poids d une valeur raisonnable a des billions en une seule iteration, rendant le modele inutilisable.
Les gradients explosants peuvent faire passer les poids d une valeur raisonnable a des billions en une seule iteration, rendant le modele inutilisable.
En 2026, la France intensifie ses investissements dans l'IA générative et les grands modèles de langue, avec un plan gouvernemental de 2,5 milliards d'euros. Ces architectures profondes, souvent dépassant 70 couches, sont particulièrement vulnérables aux gradients explosifs. Les formations labellisées par l'ANITI et les bootcamps parisiens enseignent désormais systématiquement la gestion de ce risque. Les startups françaises comme Mistral AI et Bilibili multiplic leurs modèle en production, rendant la maîtrise de ce phénomène critique pour la stabilité des systèmes déployés.
Métiers directement touchés par ce concept dans leur quotidien professionnel.
| Métier | Score IA | Impact |
|---|---|---|
| Ingenieur Ia | — / 100 | Concerné par Exploding Gradients |
Concepts complémentaires pour approfondir votre compréhension.
Découvrez 6 autres concepts essentiels de cette catégorie.