Informacje administracyjne
| Tytuł | Propagacja do przodu |
| Czas trwania | 60 |
| Moduł | B |
| Rodzaj lekcji | Tutorial |
| Skupienie | Techniczne – głębokie uczenie się |
| Temat | Przepustka do przodu |
Słowa kluczowe
Przepustka do przodu, strata,
Cele w zakresie uczenia się
- Zrozumieć proces przepustki do przodu
- Zrozumieć, jak obliczyć prognozę przejścia do przodu, a także odłączyć stratę
- Opracowanie przepustki do przodu przy użyciu żadnych modułów w Pythonie (innych niż Numpy)
- Opracowanie przepustki do przodu za pomocą Keras
Oczekiwane przygotowanie
Wydarzenia edukacyjne, które należy ukończyć przed
Obowiązkowe dla studentów
Brak.
Opcjonalne dla studentów
- Mnożenie matryc
- Zacznij od Numpy
- Znajomość regresji liniowej i logistycznej ([Wykład: Regresja liniowa]
Referencje i tło dla studentów
- John D Kelleher i Mózg McNamee. (2018), Podstawy uczenia maszynowego dla Predictive Data Analytics, MIT Press.
- Michael Nielsen. (2015), Sieć neuronowa i głębokie uczenie się, 1. Prasa determinacyjna, San Francisco CA USA.
- Charu C. Aggarwal. (2018), Sieci neuronowe i głębokie uczenie się, 1. Springer
- Antonio Gulli, Sujit Pal. Głębokie uczenie się z Keras, Packt, [ISBN: 9781787128422].
Zalecane dla nauczycieli
Brak.
Materiały do lekcji
- [Problem 1 (zdjęcie)]
- [Problem 2 i problem 3 (HTML)]
- Problem 2 i problem 3 (.ipynb)
Instrukcje dla nauczycieli
- Ten poradnik wprowadzi studentów do podstaw propagacji do przodu dla sztucznej sieci neuronowej. Ten poradnik będzie składał się z przepustki do przodu za pomocą pióra i papieru, używając Pythona tylko z biblioteki Numpy (do manipulacji matrycami), a następnie za pomocą KERAS. Będzie to opierać się na podstawowym zrozumieniu, jakie funkcje aktywacji mają zastosowanie do konkretnych kontekstów problemowych i jak funkcje aktywacji różnią się złożonością obliczeniową i aplikacją od pióra i papieru, do kodu od podstaw za pomocą Numpy, a następnie za pomocą modułu wysokiego poziomu -> Keras.
- Uczniowie będą mieli do czynienia z trzema problemami:
- Problem 1: (Przykład 1 z wykładu -> Obraz na RHS tego WIKI) i poprosił o przeprowadzenie przepustki do przodu przy użyciu następujących parametrów (20 minut do ukończenia):
- Funkcja aktywacji sigmoidów dla ukrytej warstwy
- Funkcja aktywacji sigmoidów dla warstwy zewnętrznej
- Funkcja utraty MSE
- Problem 2: (Przykład 1 z wykładu), uczniowie zostaną poproszeni (ze wskazówkami w zależności od wcześniejszego doświadczenia kodowania) o opracowanie sieci neuronowej od podstaw przy użyciu tylko modułu Numpy, oraz ciężarów i funkcji aktywacji z problemu 1 (które są takie same jak Przykład 1 z wykładu (20 minut do ukończenia).
- Problem 3: (Przykład 1 z wykładu i korzystając z tego samego przykładu, ale losowe wagi), uczniowie zostaną poproszeni (ze wskazówkami w zależności od wcześniejszego doświadczenia kodowania) o opracowanie sieci neuronowej przy użyciu modułu Tensorflow 2.X z modułem inbuild Keras, a także wagi i funkcje aktywacji z problemu 1, a następnie przy użyciu wag losowych (które są takie same jak Przykład 1 z wykładu: 20 minut do ukończenia).
- Problem 1: (Przykład 1 z wykładu -> Obraz na RHS tego WIKI) i poprosił o przeprowadzenie przepustki do przodu przy użyciu następujących parametrów (20 minut do ukończenia):
- Celem tych trzech problemów jest przyzwyczajenie uczniów do struktury i zastosowania podstawowych pojęć (funkcji aktywacji, topologii i funkcji utraty) do głębokiego uczenia się.
- Keras i TensorFlow 2.X są używane i będą używane do wszystkich przyszłych przykładów.
Zarys
| Czas trwania (min) | Opis |
|---|---|
| 20 | Problem 1: Długopis i papier implementacja przepustki do przodu (przykład z wykładu) |
| 20 | Problem 2: Rozwój sieci neuronowej od podstaw za pomocą Numpy (przykład z wykładu) |
| 10 | Problem 3: Rozwój sieci neuronowej z wykorzystaniem Keras (przykład z wykładu z ustalonymi wagami i losowymi wagami) |
| 10 | Podsumowanie procesu przejścia do przodu |
Potwierdzenia
Program Masters zorientowany na człowieka został współfinansowany przez instrument „Łącząc Europę” Unii Europejskiej w ramach grantu CEF-TC-2020-1 Umiejętności cyfrowe 2020-EU-IA-0068.