Une interface XAI pour des modèles d'apprentissage automatique à base d'arbres
Résumé
Dans le cadre d'une tâche de prédiction en IA explicable, nous proposons
un protocole pour régir les interactions entre un modèle d'apprentissage
automatique à base d'arbres (le système d'IA) et son utilisateur U. Nous nous
plaçons dans le cas où les connaissances de U sur la tâche de prédiction peuvent
être représentées par un ensemble cohérent mais incomplet de règles de classement
qui sont supposées fiables. Le protocole proposé a pour objectif d'aider U
à décider quoi faire de chaque prédiction effectuée par l'IA : l'accepter ou la
rejeter. Il vise également à améliorer la qualité des futures prédictions faites par
l'IA en l'améliorant grâce à l'expertise de U, et, réciproquement, à compléter
les connaissances de U en s'appuyant sur les prédictions faites par l'IA.