Que veut dire "comprendre" pour une machine?
Résumé
Un humain dont on dit qu'il ne comprend rien n'est pas considéré
comme intelligent. L'intelligence artificielle s'expose à ce type de jugement.
Les techniques numériques comme les réseaux de neurones ou l'apprentissage
par renforcement prennent des décisions réflexes sur la base d'une expertise statistique. Elles n'ont pas besoin de comprendre la situation, ni de comprendre la
solution qu'elles proposent. Les techniques à base de connaissances explicites,
quant à elles, ont un horizon de compréhension particulièrement restreint : les
prédicats qui apparaissent dans leurs règles ont un sens pour l'être humain, mais
restent inconnaissables pour la machine. Je montrerai comment on peut augmenter le degré de compréhension d'une machine en la dotant de quelques mécanismes inspirés de notre fonctionnement cognitif, notamment les mécanismes
de contraste, d'abduction et de compression.