Haldusteave
| Ametinimetus | Hüperparameetri häälestamine |
| Kestus | 60 |
| Moodul | B |
| Õppetunni liik | Loeng |
| Keskendumine | Tehniline – sügav õpe |
| Teema | Hüperparameetri häälestamine |
Võtmesõnad
Hüperparameetri häälestamine, aktiveerimisfunktsioonid, kadu, ajastus, partii suurus,
Õpieesmärgid
- Uurida mõju võimsusele ja sügavusele
- Kogemus erinevate ajastute ja partiide suurusega
- Proovi erinevaid aktiveerimisfunktsioone ja õpikiirusi
Eeldatav ettevalmistamine
Õppeüritused, mis tuleb lõpetada enne
Kohustuslik õpilastele
Puudub.
Valikuline õpilastele
Puudub.
Viited ja taust õpilastele
- John D Kelleher ja Brain McNamee. (2018), Machine Learning for Predictive Data Analytics, MIT Press.
- Michael Nielsen. (2015), Neural Networks and Deep Learning, 1. Meelekindluse ajakirjandus, San Francisco CA USA.
- Charu C. Aggarwal. (2018), Neural Networks and Deep Learning, 1. Springer
- Antonio Gulli, Sujit Pal. Süvaõpe Keras, Packt, [ISBN: 9781787128422].
Soovitatav õpetajatele
Puudub.
Õppematerjalid
Juhised õpetajatele
See loeng tutvustab õpilastele hüperparameetri häälestamise põhialuseid. Erinevate hüpermeetrite häälestamise näidetena kasutame loendusandmete kogumit. Täiskasvanute loendusandmestik on binaarne klassifitseerimisprobleem. Rohkem selle andmekogumi kohta vastavas juhendajas. Selle loengu eesmärk on tutvustada mitmeid hüperparameetreid näidetega, kuidas nende hüperparameetrite muutmine võib aidata või takistada õppimist. Lisaks toome näiteid ala- ja ülepaigaldamise, nina ja jõudluse suurenemise kohta (treeningaeg ja mõnel juhul täpsus/kadu), kui kõik hüperparameetrid on ette nähtud. Me kasutame diagnostilised graafikud, et hinnata mõju hüperparameeter tunning ja eriti keskenduda kaotus, kus tuleb märkida, et moodul, mida me kasutame joonistada kadu on matplotlib.pyplot, seega telg on skaleeritud. See võib tähendada, et koolituse või katseandmete kadumise võrdlemisel ei pruugi olulised erinevused olla märkimisväärsed või vastupidi. Lisaks on esitatud mõned tellingute vabadused, näiteks Epochsi kasutamine kõigepealt (peaaegu seadustamistehnikana), säilitades samal ajal partii suuruse konstantsena. Ideaalis oleksid need koos, kuid selle loengu jaoks on nad eraldatud.
Kontuur
| Kestus (Min) | Kirjeldus |
|---|---|
| 5 | Ülevaade andmetest |
| 10 | Võimsus ja sügavus tunning (paigaldise all ja kohal) |
| 10 | Epohhid (koolitusel ja koolitusel) |
| 10 | Partii suurused (müra summutamiseks) |
| 10 | Aktiveerimisfunktsioonid (ja nende mõju jõudlusele – aeg ja täpsus) |
| 10 | Õppekiirused (vanilla, LR Decay, Momentum, adaptiivne) |
| 5 | Kokkuvõte edasiliikumise protsessist |
Tunnustused
Inimkeskse tehisintellekti magistriprogrammi kaasfinantseeris Euroopa Liidu Ühendamise Rahastu toetusega CEF-TC-2020–1 „Digioskused 2020“-EU-IA-0068.