MED-TAID : Un outil pour évaluer la confiance des systèmes médicaux intelligents
Résumé
L'intelligence artificielle (IA) a transformé tous les aspects de la Santé
en permettant de faire évoluer les systèmes médicaux intelligents (SMI). Toutefois,
son utilisation comporte des risques pour les patients et les professionnels
de santé. Dans cet article, nous présentonsMED-TAID , un outil permettant d'assister
le développement de SMI dignes de confiance. L'outil permet d'effectuer
une gestion des risques éthiques en évaluant et mesurant les exigences d'une
IA de confiance tout au long du cycle de vie. Nous avons effectué une première
validation de MED-TAID en évaluant un SMI basé sur un modèle détectant automatiquement
la COVID-19 sur des images de scanner thoracique. Son utilisation
a démontré que l'évaluation des risques sur la base des critères éthiques permet
de développer un SMI de confiance, en intégrant notamment des méthodes d'explicabilité
pour réduire l'impact du manque de transparence du système pour le
professionnel de santé.