Faisnéis Riaracháin
| Teideal | Samhail Comhbhrú — Ríomhaireacht Edge |
| Fad ama | 45 nóiméad |
| Modúl | C |
| Cineál ceachta | Léacht |
| Fócas | Teicniúil — IS a bheidh ann amach anseo |
| Ábhar | Dul chun cinn i samhlacha ML trí lionsa HC — Staidéar atá dírithe ar thorthaí |
Eochairfhocail
comhbhrú, prúnáil, cainníochtú, driogadh eolais den tsamhail,
Spriocanna Foghlama
- Coincheap chomhbhrú na samhla a thuiscint
- An réasúnaíocht is bun leis na teicnící prúnála, cainníochtaithe agus driogtha eolais a sholáthar
- Ullmhú le haghaidh tuiscint ar chur chun feidhme bunúsach ag baint úsáide as creat ardleibhéil amhail TensorFlow
An tUllmhúchán a bhfuil coinne leis
Imeachtaí Foghlama le Críochnú Roimh
Éigeantach do Mhic Léinn
- Eolas ar an teoiric foghlama faoi mhaoirseacht
- Réamheolas ar choincheapa meaisínfhoghlama agus domhainfhoghlama a thug léachtaí roimhe seo
Roghnach do Mhic Léinn
- Eolas ar na hipearpharaiméadair is coitianta a bhaineann le próiseas tógála líonraí néaracha
Teistiméireachtaí agus cúlra do mhic léinn
- Driogadh eolais — Éasca
- Amhrán Han, et al. “Meáchain agus naisc araon a fhoghlaim le haghaidh líonraí éifeachtúla néaracha”. Corr abs/1506.02626. (2015).
- Amhrán Han, et al. “An Comhbhrú Dhomhain: Compressing Deep Neural Network with Pruning, Quantization Traened and Huffman Coding." An 4ú Comhdháil Idirnáisiúnta ar Ionadaíochtaí Foghlama, ICLR 2016, San Juan, Pórtó Rico, Bealtaine 2-4, 2016, Imeachtaí Rrack Comhdhála. 2016. Yanzhi Wang, et al. “Neamh-Struchtú DNN Meáchan Pruning — An bhfuil sé Tairbhiúil in Aon Ardán?”. Corr abs/1907.02124. (2019).
- Video comhrá Daniel. “claochladáin.zip: Claochladáin Comhbhrúite le Pruning agus Cainníochtú "
- Amhrán Han, et al. “Meáchain agus naisc araon a fhoghlaim le haghaidh líonraí éifeachtúla néaracha”. Corr abs/1506.02626. (2015).
- Davis W. Blalock, et al. “Cad é Staid an Líonra Neural Pruning?.” Imeachtaí maidir le Meaisínfhoghlaim agus Córais 2020, MLSys 2020, Austin, TX, Stáit Aontaithe Mheiriceá, Márta 2-4, 2020. mlsys.org, 2020.
- https://github.com/kingreza/quantization
- Amhrán Han, et al. “An Comhbhrú Dhomhain: Compressing Deep Neural Network with Pruning, Quantization Traened and Huffman Coding." An 4ú Comhdháil Idirnáisiúnta ar Ionadaíochtaí Foghlama, ICLR 2016, San Juan, Pórtó Rico, Bealtaine 2-4, 2016, Imeachtaí Rrack Comhdhála. 2016.
- Zhi Gang Liu, et al. “Líonraí Néaracha Ísealchruinne a Fhoghlaim gan Meastóir Díreach (STE).” Imeachtaí an Ochtú Comhdháil Chomhpháirteach Idirnáisiúnta maidir leis an Intleacht Shaorga is Fiche, CAI 2019, Macao, an tSín, Lúnasa 10-16, 2019. ijcai.org, 2019.
- Peiqi Wang, et al. “HitNet: Líonra Neural Athreatha Réidhe hibrideach." Airleacain i gCórais Próiseála Faisnéise Néaracha 31: Comhdháil Bhliantúil ar Chórais um Próiseáil Faisnéise Néaracha 2018, NeurIPS 2018, 3-8 Nollaig, 2018, Montréal, Ceanada. 2018.
- Cristian Bucila, et al. “Comhbhrú samhail.” Imeachtaí Chomhdháil Idirnáisiúnta ACM Déag ACM maidir le Fionnachtain Eolais agus Mianadóireacht Sonraí, Philadelphia, PA, SAM, Lúnasa 20-23, 2006. ACM, 2006.
- Geoffrey E. Hinton, et al. “An tEolas a Driogadh i Líonra Neural”. Corr abs/1503.02531. (2015).
- https://towardsdatascience.com/knowledge-distillation-simplified-dd4973dbc764
- https://www.ttic.edu/dl/dark14.pdf
- https://josehoras.github.io/knowledge-distillation/
Molta do Mhúinteoirí
Ábhair cheachta
Treoracha do Mhúinteoirí
- Léargas a thabhairt ar threochtaí agus ar an bhfáth a bhfuil samhlacha ag fás
- Tabhair samplaí agus cúiseanna cén fáth a bhfuil sé riachtanach samhlacha níos lú a bheith acu
- Forbhreathnú ar na teicnící, a gcuid buntáistí agus míbhuntáistí a chur ar fáil
- Mol míreanna aníos tráth na gceist
- Déan iarracht cloí leis an tábla ama
- Más féidir, tabhair níos mó ama don seisiún ceisteanna agus freagraí más gá
Is féidir leis an léacht tagairt a dhéanamh do chineálacha samhlacha, do mheastóireacht ar mhúnlaí, d’fheistiú na samhla agus do leas iomlán a bhaint as an tsamhail
Breac-chuntas
| Fad ama | Tuairisc | Coincheapa | Gníomhaíocht |
|---|---|---|---|
| 0-10 nóiméad | Réamhrá le teicnící le haghaidh comhbhrú samhail: cad é, cad atá i gceist, cathain agus cén fáth a bhfuil sé ag teastáil | Comhbhrú samhla | Réamhrá ar na príomhchoincheapa |
| 10-20 nóiméad | Prúnáil: coincheapa agus teicnící. Príomhbhealaí cur chuige i leith na prúnála | Prúnáil | A mhúin seisiún agus samplaí |
| 20-30 nóiméad | Cainníochtú: coincheapa agus teicnící. Príomhmhodhanna cur chuige i leith cainníochtaithe | Cainníochtú | A mhúin seisiún agus samplaí |
| 30-40 nóiméad | Driogadh eolais: coincheapa agus teicnící. Na príomhbhealaí cur chuige maidir le driogadh eolais | Driogadh eolais | A mhúin seisiún agus samplaí |
| 40-45 nóiméad | Conclúid, ceisteanna agus freagraí | Achoimre | Conclúidí |
Admhálacha
Gach údar de na foinsí a luaitear laistigh de na sleamhnáin.
Rinne Saoráid um Chónascadh na hEorpa den Aontas Eorpach Faoi Dheontas CEF-TC-2020-1 Scileanna Digiteacha 2020-AE-IA-0068 comhairgeadú ar an gclár Máistreachta intleachta saorga ar Tháinig an Duine air.