RNTI

MODULAD
Une interface XAI pour des modèles d'apprentissage automatique à base d'arbres
In EGC 2025, vol. RNTI-E-41, pp.411-418
Résumé
Dans le cadre d'une tâche de prédiction en IA explicable, nous proposons un protocole pour régir les interactions entre un modèle d'apprentissage automatique à base d'arbres (le système d'IA) et son utilisateur U. Nous nous plaçons dans le cas où les connaissances de U sur la tâche de prédiction peuvent être représentées par un ensemble cohérent mais incomplet de règles de classement qui sont supposées fiables. Le protocole proposé a pour objectif d'aider U à décider quoi faire de chaque prédiction effectuée par l'IA : l'accepter ou la rejeter. Il vise également à améliorer la qualité des futures prédictions faites par l'IA en l'améliorant grâce à l'expertise de U, et, réciproquement, à compléter les connaissances de U en s'appuyant sur les prédictions faites par l'IA.