Boîte noire (IA)

Une boîte noire en intelligence artificielle désigne un système dont les mécanismes internes de traitement restent opaques pour les utilisateurs et parfois même pour ses créateurs. Cette opacité caractérise principalement les modèles d'apprentissage profond dont la complexité paramétrique atteint des millions, voire des milliards de variables interconnectées. Ces systèmes apprennent automatiquement à partir de données massives sans qu'une règle explicite ne soit programmée. Chaque couche du réseau neuronal transforme progressivement les entrées jusqu'à produire une sortie, mais le cheminement exact de l'information et l'importance relative de chaque critère demeurent inexpliqués. Le modèle devient une fonction mathématique complexe impossible à décomposer en étapes compréhensibles. En contexte professionnel français, les métiers de la sélection de candidats illustrent parfaitement cette problématique. Un algorithme de tri peut analyser des milliers de profils et éliminer des postulants sans qu'aucune explication détaillée ne soit accessible sur les critères ayant conduit à cette décision. L'IA Act européen impose désormais aux entreprises des obligations d'explicabilité pour les systèmes automatisés affectant significativement les droits des individus. Les limites de ces systèmes sont considérables. L'impossibilité de comprendre les décisions génère des difficultés de détection des biais discriminatoires et complique la mise en conformité réglementaire. Les organisations doivent désormais garantir un niveau minimal d'explicabilité sous peine de sanctions. Les profils émergents comme le responsable gouvernance IA ou l'auditeur algorithmique deviennent stratégiques pour naviguer entre performance des modèles et exigences de transparence.