Prédiction conformelle profonde pour des modèles robustes
Résumé
. Les réseaux profonds, comme d'autres modèles, peuvent associer une
confiance élevée à des prédictions peu fiables. Rendre ces modèles robustes et
fiables est donc essentiel, surtout pour les décisions critiques. Ce papier montre
expérimentalement que la prédiction conformelle, et plus particulièrement l'approche de [Hechtlinger et al. (2018)], apporte une solution convaincante à ce
défi. La prédiction conformelle fournit un ensemble de classes couvrant la vraie
classe avec avec une fréquence choisie au préalable par l'utilisateur. Dans le
cas où l'exemple à prédire est atypique, la prédiction conformelle prédira l'ensemble vide. Les expériences menées montrent le bon comportement de l'approche conformelle, en particulier lorsque les données sont bruitées.