Administrativní informace
| Název | Techniky regularizace |
| Trvání | 60 |
| Modul | B |
| Typ lekce | Přednáška |
| Soustředění | Technické – hluboké učení |
| Téma | Techniky regularizace |
Klíčová slova
Pravidelnost, Callbacks, GridSearch,
Vzdělávací cíle
- Prozkoumejte inicializátory hmotnosti
- Vyšetřit předpojatost
- Aplikujte odpadky a hluk
- Zpětná vazba implimentů
- Podpořte a implementujte GridSearch
- Aplikujte netradiční techniky přelévání
Očekávaná příprava
Vzdělávací akce, které mají být dokončeny před
Žádné.
Povinné pro studenty
Žádné.
Volitelné pro studenty
Žádné.
Reference a zázemí pro studenty
- John D Kelleher a Brain McNamee. (2018), Základy strojového učení pro prediktivní datovou analýzu, MIT Press.
- Michael Nielsen. (2015), neuronové sítě a hluboké učení, 1. Determinační tisk, San Francisco CA USA.
- Charu C. Aggarwal. (2018), Neural Networks and Deep Learning, 1. Springer
- Antonio Gulli, Sujit Pal. Hluboké učení s Keras, Packt, [ISBN: 9781787128422].
Doporučeno pro učitele
Žádné.
Materiály pro výuku
Pokyny pro učitele
Tato přednáška seznámí studenty se základy hyperparametrového ladění. Jako příklady použití a výsledků z regularizačních technik použijeme datový soubor sčítání lidu. Datová sada pro sčítání dospělých je problém binární klasifikace. Cílem této přednášky je představit několik forem regularizace, počínaje inicializátory hmotnosti, předpojatostí, co-adapcí, callbacky, rastrovým hledáním automatického hyperparametrového ladění a dalšími metodami regularizace. Cílem je identifikovat techniky, které podporují vývoj zobecněných modelů s omezenou spolupřizpůsobivostí, aby se naučili funkci, a nikoli data. Některé z těchto technik také zlepšují dobu tréninku, což může snížit výpočet potřebný pro větší modely.
Obrys
| Doba trvání (Min) | Popis |
|---|---|
| 10 | Inicializátory hmotnosti a zkreslení |
| 10 | Společné přizpůsobení |
| 10 | Zpětná vazba |
| 20 | GridSearch |
| 10 | Dodatečné kontroly |
Potvrzení
Program Human-Centered AI Masters byl spolufinancován Nástrojem Evropské unie pro propojení Evropy v rámci grantu CEF-TC-2020–1 Digitální dovednosti 2020-EU-IA-0068.