Administrativne informacije
| Naslov | Kompresija modela |
| Trajanje | 150 min |
| Modul | C |
| Vrsta lekcija | Praktičan |
| Fokus | Tehnička – buduća umjetna inteligencija |
| Tema | Napredak u ML modelima kroz HC objektiv – Rezultat orijentirana studija |
Ključne riječi
model kompresije, obrezivanja, kvantizacije, destilacije znanja,
Ciljevi učenja
- Razumjeti kako primijeniti tehnike kompresije modela
- Razumjeti prednosti rezidbe, kvantizacije i destilacije znanja
- Poznavanje okvira na visokoj razini kao što je TensorFlow
Očekivana priprema
Edukativni događaji koji će biti završeni prije
Obvezno za studente
- Osnovno razumijevanje koncepata i tehnika kompresije modela
- Osnovno razumijevanje načina na koji se može procijeniti učinkovitost modela stroja i dubokog učenja (npr. točnost, preciznost i opoziv, ocjena F)
- Poznavanje programskog jezika Python
Neobvezno za studente
- Poznavanje okvira TensorFlow
Preporuke i pozadina za studente
- Poznavanje teorije strojnog učenja i neuronskih mreža
Preporučeno nastavnicima
- Podsjetimo se znanja TensorFlow okvira i Python programskog jezika
- Pružiti praktičan pregled provedbe potrebnih za iskorištavanje tehnika kompresije modela
- Predložiti skočne kvizove
Nastavni materijali
Upute za učitelje
- Dajte kratak pregled Tensorflow 2.x
- Koristite Google Colab kao radno Jupyter prijenosno računalo za praktičnu primjenu
- Studenti moraju koristiti naznačeno vrijeme dodijeljeno za svaki zadatak.
- Zadatak od 1. do 4. trebao bi biti dovršen prije nego što se dodijele preostale zadaće.
Pregled lekcija
| Trajanje | Opis | Koncepti | Aktivnost | Materijal |
|---|---|---|---|---|
| 0 – 10 min | Uvod u alate koji se koriste i kako zaprljati ruke u sekundi | Uvod alata | Uvod u glavne alate | |
| 10 – 80 min | [Zadaća 1 – Zadatak 3] Osposobljavanje modela, a zatim? Kako primijeniti obrezivanje i kvantizaciju na radne modele i usporediti performanse | Obrezivanje i kvantizacija | Praktični sastanci i primjeri rada | CoLab prijenosno računalo |
| 80 – 140 min | [Zadaća 4 – Zadatak 6] Kada bi mogla biti korisna destilacija znanja? Kako prenijeti znanje od učitelja do učenika | Destilacija znanja | Praktični sastanci i primjeri rada | CoLab prijenosno računalo |
| 140 – 150 min | Zaključak, pitanja i odgovori | Sažetak | Zaključci |
Priznanja
- Rosario Catelli [CNR]
- Google Colab materijali na Pruningu
- Google Colab materijali na destilaciji
Diplomski studij umjetne inteligencije usmjeren na čovjeka sufinanciran je Instrumentom za povezivanje Europe Europske unije u okviru bespovratnih sredstava CEF-TC-2020 – 1 Digital Skills 2020-EU-IA-0068.