Administrative oplysninger
| Titel | Fremskudt udbredelse |
| Varighed | 60 |
| Modul | B |
| Lektionstype | Tutorial |
| Fokus | Teknisk — Dyb læring |
| Emne | Fremadkørsel |
Nøgleord
Fremkørsel,Loss,
Læringsmål
- Forstå processen med en forward pass
- Forstå, hvordan man beregner en forward pass forudsigelse, samt tab unplugged
- Udvikle en forward pass ved hjælp af ingen moduler i Python (bortset fra Numpy)
- Udvikle en forward pass ved hjælp af Keras
Forventet forberedelse
Læringsbegivenheder, der skal fuldføres før
Obligatorisk for studerende
Ingen.
Valgfrit for studerende
- Multiplikation af matricer
- Kom i gang med Numpy
- Kendskab til lineær og logistisk regression ([Lecture: Lineær tilbagegang]
Referencer og baggrund for studerende
- John D. Kelleher og Brain McNamee. (2018), Fundamentals of Machine Learning for Predictive Data Analytics, MIT Press.
- Michael Nielsen. (2015), Neural Networks and Deep Learning, 1. Beslutsomhed presse, San Francisco CA USA.
- Charu C. Aggarwal. (2018), Neural Networks and Deep Learning, 1. Springer
- Antonio Gulli, Sujit Pal. Dyb læring med Keras, Packt, [ISBN: 9781787128422].
Anbefalet til lærerne
Ingen.
Undervisningsmaterialer
- [Problem 1 (Billede)]
- [Problem 2 og problem 3 (HTML)]
- Problem 2 og problem 3 (.ipynb)
Instruktioner til lærerne
- Denne tutorial vil introducere eleverne til de grundlæggende elementer i fremadrettet udbredelse for et kunstigt neuralt netværk. Denne tutorial vil bestå af en forward pass ved hjælp af pen og papir, ved hjælp af Python med kun Numpy bibliotek (til matricer manipulation) og derefter bruge KERAS. Dette vil bygge på den grundlæggende forståelse af, hvilke aktiveringsfunktioner der gælder for specifikke problemkontekster, og hvordan aktiveringsfunktionerne adskiller sig i beregningsmæssig kompleksitet og applikationen fra pen og papir, til kode fra bunden ved hjælp af Numpy og derefter ved hjælp af et højt niveau modul -> Keras.
- Eleverne vil blive præsenteret for tre problemer:
- Problem 1: (Eksempel 1 fra forelæsningen -> Billede på RHS af denne WIKI) og bedt om at gennemføre en fremkørsel ved hjælp af følgende parametre (20 minutter at fuldføre):
- Sigmoid aktiveringsfunktion for det skjulte lag
- Sigmoid aktiveringsfunktion for det ydre lag
- MSE tabsfunktion
- Problem 2: (Eksempel 1 fra forelæsningen) vil eleverne blive bedt om (med vejledning afhængigt af den forudgående kodningserfaring) at udvikle et neuralt netværk fra bunden ved hjælp af kun Numpy-modulet og vægte og aktiveringsfunktioner fra problem 1 (som er de samme som eksempel 1 fra forelæsningen (20 minutter til at fuldføre).
- Problem 3: (Eksempel 1 fra foredraget og ved hjælp af det samme eksempel, men tilfældige vægte), vil eleverne blive bedt om (med vejledning afhængigt af den forudgående kodningserfaring) at udvikle et neuralt netværk ved hjælp af Tensorflow 2.X-modulet med inbuild Keras-modulet og vægte og aktiveringsfunktioner fra problem 1, og derefter bruge tilfældige vægte (som er de samme som eksempel 1 fra foredraget: 20 minutter til færdiggørelse).
- Problem 1: (Eksempel 1 fra forelæsningen -> Billede på RHS af denne WIKI) og bedt om at gennemføre en fremkørsel ved hjælp af følgende parametre (20 minutter at fuldføre):
- Delmålene for disse tre problemer er at få eleverne til at vænne sig til strukturen og anvendelsen af grundlæggende begreber (aktiveringsfunktioner, topologi og tabsfunktioner) til dyb læring.
- Keras og TensorFlow 2.X bruges og vil blive brugt til alle fremtidige eksempler.
Omrids
| Varighed (min.) | Beskrivelse |
|---|---|
| 20 | Problem 1: Pen og papir implementering af en forward pass (eksempel fra foredraget) |
| 20 | Problem 2: Udvikling af et neuralt netværk fra bunden ved hjælp af Numpy (eksempel fra foredraget) |
| 10 | Problem 3: Udvikling af et neuralt netværk ved hjælp af Keras (eksempel fra foredraget med faste vægte og tilfældige vægte) |
| 10 | Opsummering af forward pass-processen |
Anerkendelser
Programmet Human-Centered AI Masters blev samfinansieret af Connecting Europe-faciliteten i Den Europæiske Union under tilskud CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.