Informacje administracyjne
| Tytuł | Techniki regularyzacji |
| Czas trwania | 60 |
| Moduł | B |
| Rodzaj lekcji | Tutorial |
| Skupienie | Techniczne – głębokie uczenie się |
| Temat | Techniki regularyzacji |
Słowa kluczowe
Regularyzacja, Callbacks, GridSearch,
Cele w zakresie uczenia się
- Sprawdź inicjalizatory wagi
- Zbadaj stronniczość
- Zastosuj odpad i hałas
- Wywołania zwrotne implikacyjne
- Undertsand i implementacja GridSearch
- Zastosowanie nietradycyjnych technik przeładowania
Oczekiwane przygotowanie
Wydarzenia edukacyjne, które należy ukończyć przed
Brak.
Obowiązkowe dla studentów
Brak.
Opcjonalne dla studentów
Brak.
Referencje i tło dla studentów
- John D Kelleher i Mózg McNamee. (2018), Podstawy uczenia maszynowego dla Predictive Data Analytics, MIT Press.
- Michael Nielsen. (2015), Sieć neuronowa i głębokie uczenie się, 1. Prasa determinacyjna, San Francisco CA USA.
- Charu C. Aggarwal. (2018), Sieci neuronowe i głębokie uczenie się, 1. Springer
- Antonio Gulli, Sujit Pal. Głębokie uczenie się z Keras, Packt, [ISBN: 9781787128422].
Zalecane dla nauczycieli
Brak.
Materiały do lekcji
Instrukcje dla nauczycieli
- Oczekuje się, że studenci zademonstrują i zastosują podstawowe techniki/algorytmy do przewidywania i szkolenia sieci neuronowych, w tym badania stronniczości modelu i oparte na regularizacji modelu. Porównanie, kontrastowanie i wykazanie odpowiednich hiperparametrów do szkolenia sztucznych sieci neuronowych z naciskiem na odtwarzalność (uogólnialność), przejrzystość i interpretację. Użyj ram Deep Learning, aby wdrożyć modele Deep Learning do zadań klasyfikacji i regresji. Obejmuje to silny nacisk na ocenę modeli pod kątem wydajności i względów etycznych, co skutkuje przejrzystością i zrozumiałą sztuczną inteligencją. To praktyczne wymaga opracowania najbardziej odpowiedniego modelu sztucznej inteligencji, w którym każda odpowiednia metoda rozwoju modelu jest stosowana w celu zapewnienia najlepszego uogólnienia.
- Poradnik opiera się na następującym zbiorze danych [[1]], w którym szczegóły atrybutów są zawarte w materiałach lekcyjnych.
- Poradnik będzie wymagał następujących nagłówków. Gdzie każdy nagłówek powinien mieć (w stosownych przypadkach) uzasadnienie i opis rozszerzający podejście i jego ustalenia, kod, który wykonuje pracę, a w niektórych przypadkach pomoc wizualną, aby jeszcze bardziej skomplikować wyniki. Użyj standardowego znacznika notatnika Jupyter, aby skrzynkować nagłówki i sekcje:
- Wprowadzenie
- Otwieranie zbioru danych, Krótka eksploracja danych i wstępne przetwarzanie danych
- Badanie modelu w celu określenia topologii sieci
- Badanie hiperparametrów (parametry uczenia się i optymalizacja)
- Najbardziej odpowiedni wybór modelu
- Wyszukiwanie siatki
- Finalna prezentacja modelu i ocena działania
- Należy pamiętać, że wyszukiwanie siatki zajmie trochę czasu, więc może to być zakończone poza czasem samouczka lub tutorial może być przeprowadzony w trybie odwróconym w klasie.
Zarys
| Czas trwania (min) | Opis |
|---|---|
| 10 | Zapewnienie przeglądu praktycznych i importujących zbiorów danych z podstawowym przetwarzaniem wstępnym |
| 10 | Modele do odkrywania topologii |
| 20 | Badanie hiperparametrów technikami regularyzacji |
| 10 | Wyszukiwanie siatki (należy to zrobić wcześniej – przez wykładowca lub uczniów w trybie odwróconym, ponieważ może to zająć dużo czasu, aby uruchomić na żywo) |
| 5 | Ostateczny model dyskusji |
Potwierdzenia
Program Masters zorientowany na człowieka został współfinansowany przez instrument „Łącząc Europę” Unii Europejskiej w ramach grantu CEF-TC-2020-1 Umiejętności cyfrowe 2020-EU-IA-0068.