Administratieve informatie
| Titel | Regularisatietechnieken |
| Looptijd | 60 |
| Module | B |
| Type les | Tutorial |
| Focus | Technisch — diep leren |
| Onderwerp | Regularisatietechnieken |
Sleutelwoorden
Regularisatie, Callbacks, GridSearch,
Leerdoelen
- Weight initializers onderzoeken
- Vooringenomenheid onderzoeken
- Uitval en lawaai toepassen
- Impliment callbacks
- Undertsand en implementeer een GridSearch
- Niet-traditionele overfitting technieken toepassen
Verwachte voorbereiding
Leren van gebeurtenissen die moeten worden voltooid voordat
Geen.
Verplicht voor studenten
Geen.
Optioneel voor studenten
Geen.
Referenties en achtergronden voor studenten
- John D Kelleher en Brain McNamee. (2018), Fundamentals of Machine Learning voor Predictive Data Analytics, MIT Press.
- Michael Nielsen. (2015), Neural Networks en Deep Learning, 1. Determinatiepers, San Francisco CA USA.
- Charu C. Aggarwal. (2018), Neural Networks en Deep Learning, 1. Springer
- Antonio Gulli, Sujit Pal. Diep leren met Keras, Packt, [ISBN: 9781787128422].
Aanbevolen voor docenten
Geen.
Lesmateriaal
Instructies voor docenten
- Van de studenten wordt verwacht dat ze fundamentele technieken/algoritmen demonstreren en toepassen voor de voorspelling en training van neurale netwerken, inclusief onderzoeken naar modelvooringenomenheid en gebaseerd op modelregularisatie. Vergelijk, contrasteer en demonstreer geschikte hyperparameters voor het trainen van kunstmatige neurale netwerken met de nadruk op reproduceerbaarheid (generalizability), transparantie en interpretatie. Gebruik Deep Learning frameworks om Deep Learning-modellen te implementeren voor classificatie- en of regressietaken. Dit omvat een sterke focus op de evaluatie van de modellen, voor prestatie- en ethische overwegingen, wat resulteert in transparantie en verklaarbare AI. Deze praktijk vereist dat u het meest geschikte AI-model ontwikkelt, waarbij elke geschikte methode voor modelontwikkeling wordt gebruikt om de beste generalisatie te garanderen.
- De tutorial is gebaseerd op de volgende dataset [[1]] waarin de details van de attributen zijn opgenomen in het lesmateriaal.
- De tutorial vereist de volgende rubrieken. Waar elke rubriek (in voorkomend geval) een motivering en beschrijving moet hebben om de aanpak en de bevindingen ervan uit te breiden, code die het werk uitvoert, en in sommige gevallen een visueel hulpmiddel om uw bevindingen verder te versterken. Gebruik standaard Jupyter notitieblok markdown, om koppen en secties te kratten:
- Introductie
- Opening van de dataset, korte gegevensverkenning en voorbewerking van gegevens
- Modelexploratie om netwerktopologie te bepalen
- Hyperparameteronderzoek (leerparameters en optimalisatie)
- Meest geschikte modelselectie
- Raster zoeken
- Definitieve modelpresentatie en prestatie-evaluatie
- Let op: het raster zoeken zal enige tijd duren, dus dit kan worden voltooid buiten de tutorial tijd of de tutorial kan worden uitgevoerd in een flipped klaslokaal wijze van levering.
Omtrek
| Duur (Min) | Omschrijving |
|---|---|
| 10 | Een overzicht geven van de praktische en importerende datasets met de basisvoorbewerking |
| 10 | Modellen om topologieën te verkennen |
| 20 | Hyperparameteronderzoek met regularisatietechnieken |
| 10 | Raster zoeken (let op dat dit vooraf moet worden gedaan — hetzij door docent of studenten in omgekeerde modus, omdat het aanzienlijke tijd kan duren om live te draaien) |
| 5 | Definitieve modeldiscussie |
Erkenningen
Het Human-Centered AI Masters-programma werd mede gefinancierd door de Connecting Europe Facility van de Europese Unie in het kader van de subsidie CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.