La détection d'anomalies fait référence à l'identification des évènements rares qui diffèrent grandement de la tendance normale et majoritaire observée dans la distribution des données. Lorsque le nombre de variables à analyser est important, il peut être difficile de comprendre l'anomalie détectée sans explication. Dans ce travail, nous présentons le prototype d'un système explicable de monitoring et de détection d'anomalies en temps réel, à partir de mesures provenant d'un flux de données. Le système construit est composé d'une combinaison de méthodes de détection d'anomalies alliant apprentissage profond et arbres de décision ainsi que d'une méthode d'explicabilité agnostique. Dans un contexte d'apprentissage non supervisé, nous montrons également comment l'explicabilité fournit des éléments de validation du système en combinaison avec les retours des experts du domaine.