Haldusteave
| Ametinimetus | Mudeli kompressioon |
| Kestus | 150 min |
| Moodul | C |
| Õppetunni liik | Praktiline |
| Keskendumine | Tehniline – tulevane tehisintellekt |
| Teema | Edusammud ML mudelites läbi HC objektiivi – tulemustele orienteeritud uuring |
Võtmesõnad
kompressiooni näidis, pügamine, kvantiseerimine, teadmiste destilleerimine,
Õpieesmärgid
- Mõista, kuidas rakendada mudeli tihendamise tehnikaid
- Lõikamise, kvantiseerimise ja teadmiste destilleerimise eelised
- Tutvumine kõrgetasemelise raamistikuga nagu TensorFlow
Eeldatav ettevalmistamine
Õppeüritused, mis tuleb lõpetada enne
Kohustuslik õpilastele
- Mudeli tihendamise kontseptsioonide ja tehnikate põhiteadmised
- Põhiteadmised sellest, kuidas saab hinnata masina ja süvaõppe mudelite jõudlust (nt täpsus, täpsus ja tagasikutsumine, F-skoor)
- Pythoni programmeerimiskeele tundmine
Valikuline õpilastele
- Teadmised TensorFlow raamistikust
Viited ja taust õpilastele
- Teadmised masinõppest ja närvivõrkude teooriast
Soovitatav õpetajatele
- TensorFlow raamistiku ja Pythoni programmeerimiskeele tundmine
- Anda praktiline ülevaade rakendustest, mida on vaja mudeli tihendamise tehnikate võimendamiseks
- Pop-up viktoriinide pakkumine
Õppematerjalid
Juhised õpetajatele
- Anna lühiülevaade Tensorflow 2.x
- Google Colabi kasutamine Jupyter sülearvutina praktiliseks rakenduseks
- Õpilased peavad kasutama iga ülesande jaoks määratud aega.
- Ülesanded 1–4 tuleks täita enne ülejäänud ülesannete määramist.
Õppetunni lühikirjeldus
| Kestus | Kirjeldus | Mõisted | Tegevus | Materjal |
|---|---|---|---|---|
| 0–10 min | Sissejuhatus kasutatud tööriistadesse ja kuidas käed teisega määrida | Vahendite tutvustus | Sissejuhatus peamistesse tööriistadesse | |
| 10–80 min | [Ülesanne 1 – ülesanne 3] Mudeli treenimine ja siis? Kuidas kasutada pügamist ja kvantifitseerimist töömudelitele ja võrrelda jõudlust | Lõikamine ja kvantiseerimine | Praktilised sessioonid ja töönäited | CoLab sülearvuti |
| 80–140 min | [Ülesanne 4 – ülesanne 6] Millal võiks olla kasulik teadmiste destilleerimine? Kuidas destilleerida teadmisi õpetajalt õpilasele | Teadmiste destilleerimine | Praktilised sessioonid ja töönäited | CoLab sülearvuti |
| 140–150 min | Järeldused, küsimused ja vastused | Kokkuvõte | Järeldused |
Tunnustused
- Rosario Catelli [CNR]
- Google Colab materjalid Pruning
- Google Colabi materjalid destillatsioonil
Inimkeskse tehisintellekti magistriprogrammi kaasfinantseeris Euroopa Liidu Ühendamise Rahastu toetusega CEF-TC-2020–1 „Digioskused 2020“-EU-IA-0068.