Réinitialiser mot de passe
E-mail
Password
RNTI

MODULAD
L'apprentissage statistique à grande échelle
In MODULAD 2010, vol. Modulad 42, pp.61-73
Résumé
Depuis une dizaine d'années, la taille des données croit plus vite que la puissance des processeurs.
Lorsque les données disponibles sont pratiquement infinies, c'est le temps de calcul qui limite les possibilités de l'apprentissage statistique. Ce document montre que ce changement d'échelle nous conduit vers un compromis qualitativement différent dont les conséquences ne sont pas évidentes.
En particulier, bien que la descente de gradient stochastique soit un algorithme d'optimisation médiocre, on montrera, en théorie et en pratique, que sa performance est excellente pour l'apprentissage statistique à grande échelle.