Apprentissage Statistique
CNRS - INRIA - École Normale Supérieure
(Université Paris-Sud), 2ème semestre, 2011/2012
Les cours ont lieu au département de Mathématiques de l'Université Paris-Sud (Orsay).
Dates des cours:
-
1er Février de 9h à 12h (S. Arlot): Théorie de l'apprentissage, de Vapnik
à la localisation (1/2)
- Notes de cours
- Exercices corrigés
-
8 Février de 9h à 12h (S. Arlot): Théorie de l'apprentissage, de Vapnik
à la localisation (2/2)
- Notes de cours
- Exercice corrigé
-
15 Février de 9h à 12h (F. Bach): Convexification du risque
- Notes de cours
-
22 Février de 9h à 12h (F. Bach): Régularisation l2
- Notes de cours
- 29 Février: vacances
- 7 Mars: pas de cours
-
14 Mars de 9h à 12h (S. Arlot): Choix d'algorithmes statistiques (1/2): Sélection d'estimateurs linéaires
- Notes de cours
-
21 Mars de 9h à 12h (S. Arlot): Choix d'algorithmes statistiques (2/2): Sélection d'estimateurs par rééchantillonnage ou validation croisée
- Notes de cours
- 28 Mars: pas de cours
-
4 Avril de 9h à 12h (F. Bach): Régularisation L1 (1/2)
- Transparents (en anglais) - Notes de cours
-
11 Avril de 9h à 12h (F. Bach): Régularisation L1 (2/2)
- Transparents (en anglais) - Notes de cours
- Validation du cours: exposé sur un article
à choisir parmi cette liste,
le mercredi 16 mai, dans la salle habituelle de cours.
Résumé
Nous présenterons dans un premier temps la théorie
statistique de l'apprentissage supervisé classique due à
Vapnik. Après en avoir précisé les limitations,
nous étudierons ses améliorations et extensions
récentes. Nous mettrons l'accent sur trois aspects :
- Convexification du risque de classification (support vector machines, boosting).
- Contrôle de la capacité de généralisation,
par sélection de modèles ou régularisation (L1 et
L2)
- Méthodes de calibration adaptative (pénalités
minimales, rééchantillonnage, validation croisée).
Les rappels nécessaires sur les techniques de choix de
modèles et les outils de probabilité utilisés
seront effectués à mesure afin de rendre ce cours aussi
largement accessible avec un minimum de prérequis.
Retour à l'index - Back to index