Introduction aux modèles graphiques

Francis Bach - Guillaume Obozinski
INRIA - Ecole Normale Supérieure

Master recherche spécialité "Mathématiques Appliquées",
Parcours M2 Mathématiques, Vision et Apprentissage (ENS Cachan), 1er semestre, 2012/2013



Propositions de stage

Laboratoires academiques

Large scale online Collaborative Filtering (Ecole des Ponts, Guillaume Obozinski)
Large-scale convex optimization for supervised learning (ENS / INRIA, Francis Bach)
Localisation de sources sonores derrière un obstacle (INRIA Rennes, Remi Gribonval)
Generative models in RKHS (Alain Celisse, Lille)
Parameter tuning and cross-validation algorithms (Alain Celisse, Lille)
Similarité statistique de signatures radar et incertitudes en estimation de performance (ONERA)

R & D

Développement de procédures offline de tests de nouveaux algorithmes (Criteo, Paris)
Analyse et modélisation des comportements utilisateurs orientée vers les besoins publicitaires (Criteo, Paris)
Pré-filtrage pour la prediction a grande echelle en temps reel (Criteo, Paris)
User profiling from unstructured data (free form reviews (Technicolor Paris, Christophe Diot)
Learning Information Cascades in Social Networks (Technicolor Paris, Nidhi Hegde)
 

Les cours ont lieu le Mercredi de 9h a 12h a l'ENS CACHAN (salle du mastere MVA, 103, Batiment Cournot)


Dates des cours (Mercredi de 9h a 12h en salle C103):

Date Enseignant Sujets couverts Chapitres du polycopie
26 septembre Guillaume Obozinski Introduction
Maximum de vraisemblance
Modeles a un noeud
5
3 octobre Guillaume Obozinski Regression lineaire
Regression logistique
Classification generative
6, 7
10 octobre Francis Bach K-means
EM
Melanges de Gaussiennes
Theorie des graphes
10, 11
17 octobre Francis Bach Modeles graphiques orientes
Modeles graphiques non orientes
2
24 octobre Guillaume Obozinski Familles exponentielles
Theorie de l'information
Melanges d'experts
8, 10, 19
31 octobre Guillaume Obozinski Variables Gaussiennes
Analyse factorielle
13, 14
7 novembre Guillaume Obozinski Algorithme somme-produit
HMM
4, 12
14 novembre Francis Bach Inference approchee 21
21 novembre Francis Bach Methodes Bayesiennes
28 novembre
Michael Jordan
Methodes Bayesiennes non-parametriques





Projet

Propositions de projets

Le projet de fin cours permet d'approndir certains aspects du cours. Voici les
delais a respecter.

Mi-novembre choisir un projet à faire seul ou en binôme
Avant 28/11 envoyer un email annonçant le choix du projet.
Avant 05/12 envoyer un draft de projet (1 page) + 1er résultats.
Avant 19/12 Rendre votre examen (au secrétariat / par email).
Le 19/12 Session poster aux Pavillon des Jardins.
Avant 08/01 Rendu rapport de projets (environ 6 pages)




Exercices a rendre (obligatoires)

Pour le 17 octobre 2012: [pdf], données: [classificationA.train] [classificationA.test] [classificationB.train] [classificationB.test] [classificationC.train] [classificationC.test] [Solution] [Code]

Pour le 31 octobre 2012: [pdf], données: [EMGaussienne.data] [EMGaussienne.test] [Solution] [Code]

Pour le 19 decembre 2012: [pdf],



Description

Ce cours porte sur la modélisation statistique de données complexes multivariées. Il est centré sur le formalisme des modèles graphiques probabilistes (aussi appelés réseaux Bayésiens), qui se trouvent à la frontière entre la théorie des graphes et les probabilités. Ce formalisme regroupe un grand nombre de modèles existants (modèle de Markov cachés, filtres de Kalman) et dséfinit la sémantique et les algorithmes d’inférence et d’apprentissage nécessaires pour étendre naturellement ces modèles à des situations plus complexes. Des applications des modèles graphiques à des problèmes de vision, traitement du signal, intelligence artificielle et bioinformatique seront présentées.
 


Références - Polycopié

Le cours sera basé sur le livre en préparation de Michael Jordan (UC Berkeley) sur les modèles graphiques, et sur des articles scientifiques appliquant ces techniques. Le polycopie tiré du livre sera disponible pour les élèves suivant ce cours (aupres du secretariat du Mastere).