Informations administratives
| Titre | Propagation vers l’avant |
| Durée | 60 |
| Module | B |
| Type de leçon | Tutoriel |
| Focus | Technique — Deep Learning |
| Sujet | Laissez-passer vers l’avant |
Mots-clés
Pass vers l’avant, Pers,
Objectifs d’apprentissage
- Comprendre le processus d’une passe avant
- Comprendre comment calculer une prédiction de passe avant, ainsi que la perte débranchée
- Développer un pass vers l’avant en n’utilisant aucun module en Python (autre que Numpy)
- Développer une passe avant en utilisant Keras
Préparation prévue
Événements d’apprentissage à compléter avant
Obligatoire pour les étudiants
Aucun.
Optionnel pour les étudiants
- Multiplication des matrices
- Commencer avec Numpy
- Connaissance de la régression linéaire et logistique ([Lecture: Régression linéaire]
Références et antécédents pour les étudiants
- John D Kelleher et Brain McNamee. (2018), Fondamentals of Machine Learning for Predictive Data Analytics, MIT Press.
- Michael Nielsen. (2015), Réseaux neuronaux et apprentissage profond, 1. Presse de détermination, San Francisco CA USA.
- Charu C. Aggarwal. (2018), Réseaux neuronaux et apprentissage profond, 1. Springer
- Antonio Gulli, Sujit Pal. Apprentissage profond avec Keras, Packt, [ISBN: 9781787128422].
Recommandé pour les enseignants
Aucun.
Matériel de leçon
- [Problème 1 (Image)]
- [Problème 2 et problème 3 (HTML)]
- Problème 2 et problème 3 (.ipynb)
Instructions pour les enseignants
- Ce tutoriel présentera aux étudiants les fondamentaux de la propagation vers l’avant pour un réseau de neurones artificiels. Ce tutoriel consistera en un pass vers l’avant en utilisant le stylo et le papier, en utilisant Python avec uniquement la bibliothèque Numpy (pour la manipulation des matrices) puis en utilisant KERAS. Cela s’appuiera sur la compréhension fondamentale de quelles fonctions d’activation s’appliquent à des contextes de problèmes spécifiques et comment les fonctions d’activation diffèrent dans la complexité informatique et l’application du stylo et du papier, pour coder à partir de zéro en utilisant Numpy, puis en utilisant un module de haut niveau -> Keras.
- Les étudiants seront confrontés à trois problèmes:
- Problème 1: (Exemple 1 de la conférence -> Image sur le RHS de ce WIKI) et demandé d’effectuer une passe en avant en utilisant les paramètres suivants (20 minutes à compléter):
- Fonction d’activation sigmoïde pour la couche cachée
- Fonction d’activation sigmoïde pour la couche externe
- Fonction de perte MSE
- Problème 2: (Exemple 1 de la conférence), les étudiants seront invités (avec des conseils en fonction de l’expérience de codage préalable) à développer un réseau de neurones à partir de zéro en utilisant uniquement le module Numpy, et les poids et les fonctions d’activation du problème 1 (qui sont les mêmes que l’exemple 1 de la conférence (20 minutes à compléter).
- Problème 3: (Exemple 1 de la conférence et en utilisant le même exemple mais des poids aléatoires), les étudiants seront invités (avec des conseils en fonction de l’expérience de codage préalable) à développer un réseau neuronal en utilisant le module Tensorflow 2.X avec le module inbuild Keras, et les poids et les fonctions d’activation du problème 1, puis en utilisant des poids aléatoires (qui sont les mêmes que l’exemple 1 de la conférence: 20 minutes à compléter).
- Problème 1: (Exemple 1 de la conférence -> Image sur le RHS de ce WIKI) et demandé d’effectuer une passe en avant en utilisant les paramètres suivants (20 minutes à compléter):
- Les sous-objectifs de ces trois problèmes, c’est de s’habituer à la structure et à l’application de concepts fondamentaux (fonctions d’activation, fonctions de topologie et de perte) pour l’apprentissage profond.
- Keras et TensorFlow 2.X sont utilisés et seront utilisés pour tous les exemples futurs.
Esquisse
| Durée (min) | Description |
|---|---|
| 20 | Problème 1: Mise en œuvre du stylo et du papier d’un pass avant (exemple de la conférence) |
| 20 | Problème 2: Développer un réseau neuronal à partir de zéro en utilisant Numpy (exemple de la conférence) |
| 10 | Problème 3: Développer un réseau de neurones à partir de l’utilisation de Keras (exemple de la conférence avec des poids définis et des poids aléatoires) |
| 10 | Récapitulation du processus de transmission de l’avance |
Remerciements
Le programme de master IA centré sur l’humain a été cofinancé par le mécanisme pour l’interconnexion en Europe de l’Union européenne dans le cadre de la subvention CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.