Informacje administracyjne
| Tytuł | Techniki regularyzacji |
| Czas trwania | 60 |
| Moduł | B |
| Rodzaj lekcji | Wykład |
| Skupienie | Techniczne – głębokie uczenie się |
| Temat | Techniki regularyzacji |
Słowa kluczowe
Regularyzacja, Callbacks, GridSearch,
Cele w zakresie uczenia się
- Sprawdź inicjalizatory wagi
- Zbadaj stronniczość
- Zastosuj odpad i hałas
- Wywołania zwrotne implikacyjne
- Undertsand i implementacja GridSearch
- Zastosowanie nietradycyjnych technik przeładowania
Oczekiwane przygotowanie
Wydarzenia edukacyjne, które należy ukończyć przed
Brak.
Obowiązkowe dla studentów
Brak.
Opcjonalne dla studentów
Brak.
Referencje i tło dla studentów
- John D Kelleher i Mózg McNamee. (2018), Podstawy uczenia maszynowego dla Predictive Data Analytics, MIT Press.
- Michael Nielsen. (2015), Sieć neuronowa i głębokie uczenie się, 1. Prasa determinacyjna, San Francisco CA USA.
- Charu C. Aggarwal. (2018), Sieci neuronowe i głębokie uczenie się, 1. Springer
- Antonio Gulli, Sujit Pal. Głębokie uczenie się z Keras, Packt, [ISBN: 9781787128422].
Zalecane dla nauczycieli
Brak.
Materiały do lekcji
Instrukcje dla nauczycieli
Ten wykład wprowadzi studentów do podstaw strojenia hiperparametru. Wykorzystamy zestaw danych spisu jako przykłady wykorzystania i wyników technik legalizacji. Zestaw danych spisu osób dorosłych jest problemem klasyfikacji binarnej. Celem wykładu jest wprowadzenie kilku form regularyzacji, począwszy od inicjalizatorów wagi, stronniczości, współadapcji, oddzwaniania, poszukiwania siatki automatycznego strojenia hiperparametrów i dodatkowych technik kontroli regularyzacji. Celem jest zidentyfikowanie technik wspierających rozwój uogólnialnych modeli z ograniczoną koadacją w celu poznania funkcji, a nie danych. Niektóre z tych technik również poprawiają czas treningu, dzięki czemu mogą skrócić obliczenia potrzebne do większych modeli.
Zarys
| Czas trwania (min) | Opis |
|---|---|
| 10 | Inicjalizatory wagi i stronniczość |
| 10 | Współadaptacja |
| 10 | Oddzwaniania zwrotne |
| 20 | GridSearch |
| 10 | Dodatkowe kontrole |
Potwierdzenia
Program Masters zorientowany na człowieka został współfinansowany przez instrument „Łącząc Europę” Unii Europejskiej w ramach grantu CEF-TC-2020-1 Umiejętności cyfrowe 2020-EU-IA-0068.