Informații administrative
| Titlu | Propagare înainte |
| Durată | 60 |
| Modulul | B |
| Tipul lecției | Tutorial |
| Focalizare | Tehnică – Învățare profundă |
| Subiect | Pas înainte |
Cuvinte cheie
Înainte pas, Loss,
Obiective de învățare
- Înțelegeți procesul unei treceri înainte
- Înțelegeți cum să calculați o predicție a trecerii înainte, precum și pierderea deconectată
- Dezvoltarea unei treceri înainte fără module în Python (altele decât Numpy)
- Dezvoltați o trecere înainte folosind Keras
Pregătirea preconizată
Evenimente de învățare care urmează să fie finalizate înainte
Obligatoriu pentru studenți
Nici unul.
Opțional pentru studenți
- Multiplicarea matricelor
- Noțiuni de bază cu Numpy
- Cunoașterea regresiei liniare și logistice ([Lecture: Regresie liniară]
Referințe și context pentru studenți
- John D Kelleher și Brain McNamee. (2018), Fundamentals of Machine Learning for Predictive Data Analytics, MIT Press.
- Michael Nielsen. (2015), Neural Networks and Deep Learning (Rețele neuronale și învățare profundă), 1. Presa de determinare, San Francisco CA SUA.
- Charu C. Aggarwal. (2018), Neural Networks and Deep Learning (Rețele neuronale și învățare profundă), 1. Springer
- Antonio Gulli, Sujit Pal. Deep Learning cu Keras, Packt, [ISBN: 9781787128422].
Recomandat pentru profesori
Nici unul.
Materiale de lecție
- [Problema 1 (Imagine)]
- [Problema 2 și problema 3 (HTML)]
- Problema 2 și problema 3 (.ipynb)
Instrucțiuni pentru profesori
- Acest tutorial va introduce studenții la fundamentele propagării înainte pentru o rețea neuronală artificială. Acest tutorial va consta într-o trecere înainte folosind stilou și hârtie, folosind Python cu doar biblioteca Numpy (pentru manipularea matricelor) și apoi folosind KERAS. Acest lucru se va baza pe înțelegerea fundamentală a funcțiilor de activare care se aplică contextelor de probleme specifice și a modului în care funcțiile de activare diferă în complexitatea computațională și aplicația de la stilou și hârtie, la cod de la zero folosind Numpy și apoi folosind un modul de nivel înalt -> Keras.
- Elevilor li se vor prezenta trei probleme:
- Problema 1: (Exemplu 1 din prelegere -> Imagine pe RHS a acestui WIKI) și a cerut să efectueze o trecere înainte folosind următorii parametri (20 de minute pentru a finaliza):
- Funcția de activare sigmoidă pentru stratul ascuns
- Funcția de activare sigmoidă pentru stratul exterior
- Funcția de pierdere a MSE
- Problema 2: (Exemplul 1 din prelegere), elevilor li se va cere (cu îndrumare în funcție de experiența anterioară de codificare) să dezvolte o rețea neuronală de la zero folosind doar modulul Numpy, precum și greutățile și funcțiile de activare de la problema 1 (care sunt identice cu exemplul 1 din prelegere (20 de minute pentru finalizare).
- Problema 3: (Exemplu 1 din prelegere și folosind același exemplu, dar greutăți aleatorii), elevilor li se va cere (cu îndrumare în funcție de experiența anterioară de codificare) să dezvolte o rețea neuronală folosind modulul Tensorflow 2.X cu modulul Keras inbuild și greutățile și funcțiile de activare de la problema 1, și apoi folosind greutăți aleatorii (care sunt identice cu exemplul 1 din prelegere: 20 de minute până la final).
- Problema 1: (Exemplu 1 din prelegere -> Imagine pe RHS a acestui WIKI) și a cerut să efectueze o trecere înainte folosind următorii parametri (20 de minute pentru a finaliza):
- Subobiectivul acestor trei probleme este de a-i face pe elevi să se obișnuiască cu structura și aplicarea conceptelor fundamentale (funcții de activare, topologie și funcții de pierdere) pentru învățarea profundă.
- Keras și TensorFlow 2.X sunt utilizate și vor fi utilizate pentru toate exemplele viitoare.
Contur
| Durată (min) | Descriere |
|---|---|
| 20 | Problema 1: Punerea în aplicare a unui pas înainte (exemplu din prelegere) |
| 20 | Problema 2: Dezvoltarea unei rețele neuronale de la zero folosind Numpy (exemplu din prelegere) |
| 10 | Problema 3: Dezvoltarea unei rețele neuronale de la utilizarea Keras (exemplu din prelegere cu greutăți stabilite și greutăți aleatorii) |
| 10 | Recapitularea procesului de trecere înainte |
Confirmări
Programul de masterat AI centrat pe om a fost cofinantat de Mecanismul pentru interconectarea Europei al Uniunii Europene sub Grantul CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.