Deep Learning

Etablissement : ECOLE DU NUMERIQUE

Langue : Français

Période : S4

Connaissance du langage python et connaissances mathématiques (algèbre)


  • Savoir expliquer la méthode d’apprentissage d’un réseau de neurone

  • Savoir mettre en œuvre un réseau de neurone à l’aide de Pytorch

  • Connaitre les concepts mathématiques d’apprentissage d’un réseau de neurones

– Rappel Python, Jupyter Notebook, Google Colab


– Introduction aux réseaux de neurones



  • Perceptron et réseaux MLP

  • Classification vs Regression

  • Propagation-avant (feedforward)

  • Application (perceptron)


– Descente du gradient



  • Calcul d’erreur

  • Optimisation par descente du gradient

  • Rétropropagation (backpropagation)

  • Application (développer un réseau de neurones de zéro)


– Entrainement et optimisation d’un réseau neuronal



  • Underfitting vs Overfitting

  • Taux d’apprentissage (learning rate)

  • Régularisation

  • Dropout

  • Problème de la disparition du gradient (vanishing gradient)

  • Fonctions d’activation

  • Momentum

  • Apprentissage par lots (batches)


– Introduction à Pytorch


– Réseaux convolutifs CNN



  • Images et MLP

  • Filtrage d’image et convolution

  • Pooling

  • Architecture CNN et Application (Implanter un CNN avec Pytorch)

  • Apprentissage par transfert (transfer learning)

  • Autoencodeurs


– Ouverture vers notions plus avancées



  • Notion sur les réseaux récurrents (RNN, LSTM)

  • Notion sur les réseaux génératifs (GAN)