Une porte derobee est un pattern cache insere dans le modele qui declenche un comportement malveillant uniquement quand un trigger specifique est present.
Aussi appelé : Backdoor dans un modèle, Neural backdoor, Porte dérobée, Backdoor attack
Une porte derobee est un pattern cache insere dans le modele qui declenche un comportement malveillant uniquement quand un trigger specifique est present.
Un modele de reconnaissance de stop reconnait correctement tous les stops sauf ceux avec un post-it jaune qu il interprete comme 'priorite'.
Un modele de reconnaissance de stop reconnait correctement tous les stops sauf ceux avec un post-it jaune qu il interprete comme 'priorite'.
En France, le plan IA 2026 dans le cadre de France 2030 prévoit 2,5 milliards d'euros d'investissement, multipliant les modèles déployés. Or, le marché open source explose avec des modèles téléchargés depuis HuggingFace. L'ANSSI alerte sur les risques de supply chain : un modèle compromis peut diffuser des données sensibles ou manipuler des décisions critiques dans la finance ou la santé. Le règlement européen sur l'IA impose une évaluation de sécurité avant déploiement, rendant la détection de portes dérobées obligatoire. Les entreprises françaises doivent se doter d'audits de modèle pour se conformer à ces nouvelles obligations légales.
Métiers directement touchés par ce concept dans leur quotidien professionnel.
| Métier | Score IA | Impact |
|---|---|---|
| Security Researcher | — / 100 | Concerné par Attaque par porte derobee |
| Adversarial Ml | — / 100 | Concerné par Attaque par porte derobee |
Concepts complémentaires pour approfondir votre compréhension.
Découvrez 6 autres concepts essentiels de cette catégorie.