Administrativní informace
| Název | Modelová komprese |
| Trvání | 150 min |
| Modul | C |
| Typ lekce | Praktické |
| Soustředění | Technické – Budoucí UI |
| Téma | Pokroky v modelech ML prostřednictvím objektivu HC – Studie orientovaná na výsledky |
Klíčová slova
modelová komprese, prořezávání, kvantizace, destilace znalostí,
Vzdělávací cíle
- Pochopit, jak implementovat techniky komprese modelu
- Uchopte výhody prořezávání, kvantifikace a destilace znalostí
- Seznámit se s rámcem na vysoké úrovni, jako je TensorFlow
Očekávaná příprava
Vzdělávací akce, které mají být dokončeny před
Povinné pro studenty
- Základní porozumění konceptům a technikám komprese modelu
- Základní pochopení toho, jak lze hodnotit výkonnost modelů strojového a hlubokého učení (např. přesnost, přesnost a odvolání, skóre F)
- Znalost programovacího jazyka Python
Volitelné pro studenty
- Znalost rámce TensorFlow
Reference a zázemí pro studenty
- Znalost strojového učení a teorie neuronových sítí
Doporučeno pro učitele
- Připomeňte si znalost frameworku TensorFlow a programovacího jazyka Python
- Poskytnout praktický pohled na implementaci potřebné k využití technik komprese modelů
- Navrhnout pop-up kvízy
Materiály pro výuku
Pokyny pro učitele
- Stručný přehled Tensorflow 2.x
- Použijte Google Colab jako funkční poznámkový blok Jupyter pro praktické aplikace
- Studenti musí použít stanovený čas přidělený pro každý úkol.
- Úkoly 1 až 4 by měly být dokončeny před přiřazením zbývajících úkolů.
Nástin lekce
| Trvání | Popis | Koncepty | Aktivity | Materiál |
|---|---|---|---|---|
| 0–10 min | Úvod do použitých nástrojů a jak znečistit ruce za sekundu | Úvod nástrojů | Úvod do hlavních nástrojů | |
| 10–80 min | [Úkol 1 – Úkol 3] Trénink modelu a pak? Jak aplikovat prořezávání a kvantifikaci na pracovní modely a porovnat výkony | Prořezávání & kvantizace | Praktická část a pracovní příklady | Poznámkový blok CoLab |
| 80–140 min | [Úkol 4 – Úkol 6] Kdy by mohla být užitečná destilace znalostí? Jak destilovat znalosti z učitele na studenta | Destilace znalostí | Praktická část a pracovní příklady | Poznámkový blok CoLab |
| 140–150 min | Závěr, otázky a odpovědi | Shrnutí | Závěry |
Potvrzení
- Rosario Catelli [CNR]
- Materiály Google Colab o vypouštění
- Materiály Google Colab o destilaci
Program Human-Centered AI Masters byl spolufinancován Nástrojem Evropské unie pro propojení Evropy v rámci grantu CEF-TC-2020–1 Digitální dovednosti 2020-EU-IA-0068.