Haldusteave
| Ametinimetus | Trafovõrgud |
| Kestus | 60 minutit |
| Moodul | B |
| Õppetunni liik | Loeng |
| Keskendumine | Tehniline – sügav õpe |
| Teema | Trafo |
Võtmesõnad
järjestikune õppimine, seq2seq, tähelepanumehhanism, enesetähelepanu mehhanism, trafovõrk,
Õpieesmärgid
- Järjestikuste järjekordade (seq2seq) mudelite põhialuste õppimine
- Õppige tähelepanumehhanismi põhitõdesid
- Trafodega tutvumine
Eeldatav ettevalmistamine
Õppeüritused, mis tuleb lõpetada enne
Kohustuslik õpilastele
Valikuline õpilastele
Puudub.
Viited ja taust õpilastele
Puudub.
Soovitatav õpetajatele
Puudub.
Õppematerjalid
Juhised õpetajatele
Esimeses loengus kordame lühidalt seda, mida me õppisime varasemate järjestikuste andmete kohta (nt RNN-loengus). Seejärel arutame, et me õpime täna kolme peamist mõistet: järjekorramudelid, tähelepanumehhanism ja trafo. Esimesed kaks on vajalikud trafo mõiste mõistmiseks. Saate valmistada originaalpaberid ja näidata neid osalejatele.
Seq2seq: me räägime lühidalt peamistest mõistetest. Rõhutada tuleks erinevust õpetaja sundimise (koolituse) ja juhtumipõhise (vihje) vahel.
Lähtekoode tuleks arutada üksikasjalikult, ridade kaupa, nii et õpilased saavad kooditasemel mõista kontseptsiooni.
Loengu teises pooles tutvustatakse trafoarhitektuuri. Põhielemente arutatakse eraldi.
Kui teil on loengu lõpus aega jäänud, saate avada trafo TensorFlow õpetuse (link sellel lehel ja slaididel).
Kontuur
- Seq2seq mudelid
- Tähelepanumehhanism
- Trafod
| Kestus (Min) | Kirjeldus |
|---|---|
| 5 | Järjestikuste andmete sissetoomine |
| 7.5 | Järjestikuste järjekordade mudelid |
| 7.5 | Tähelepanumehhanism |
| 15 | Lähtekoodid |
| 20 | Trafo |
| 5 | Kokkuvõte ja järeldused |
Tunnustused
Balint Gyires-Tóth (Budapesti Tehnikaülikool)
Inimkeskse tehisintellekti magistriprogrammi kaasfinantseeris Euroopa Liidu Ühendamise Rahastu toetusega CEF-TC-2020–1 „Digioskused 2020“-EU-IA-0068.