Matière
Apprentissage profond pour données numériques
Description
Ce cours présente les principes fondamentaux de l'apprentissage profond, de la théorie des réseaux neuronaux convolutifs à leur mise en œuvre pour résoudre des problèmes du monde réel. Il sera divisé en quatre modules :
- Apprentissage profond et réseaux neuronaux convolutifs
- Apprentissage profond non supervisé
- Transformateurs
- Pipeline et défis de l'IA
Compétences requises
À l'entrée de cet enseignement, un étudiant devrait savoir :
- Programmation python
- Principes fondamentaux de l'apprentissage automatique
- Principes fondamentaux des réseaux neuronaux
- Évaluer les algorithmes d'apprentissage automatique
Compétences visées
À l'issue de cet enseignement un étudiant saura :
- Expliquer la notion de représentation latente dans le contexte des réseaux convolutifs,
- Mobiliser différentes approches pour interpréter les prédictions d’un modèle d’apprentissage automatique,
- Développe un modèle d'apprentissage profond non supervisé et visualise sa sortie,
- Comprendre la fonction des réseaux neuronaux récurrents et des transformateurs,
- Effectuer un clustering à l'aide d'un modèle d'apprentissage profond,
- Mettre en œuvre un pipeline d'IA pour résoudre un problème pratique.
Discipline(s)
- Informatique
Syllabus
Les principales étapes de l'élaboration d'un modèle d'apprentissage profond sont étudiées :
- Visualisation et étude des représentations latentes de réseaux convolutifs, explicabilité et apprentissage automatique,
- Apprentissage profond non supervise : autoencodeurs, apprentissage auto-supervisé, deep clustering,
- Visualisation : t-SNE, divergence KL,
- Introduction aux modèles génératifs,
- Apprentissage profond sur des données dynamiques : Réseaux récurrents (RNN, LSTM), modèles d’attention, transformers,
- Réalisation d’un pipeline d'apprentissage profond pour s'attaquer à un problème pratique dans le cadre d’un projet par équipe.
Bibliographie
- I. Goodfellow, Y. Bengio, A. Courville, Deep Learning, The MIT Press, 2016
- C. Bishop, H. Bishop, Deep Learning: Foundations and Concepts, Springer, 2023