Faisnéis Riaracháin
| Teideal | Líonraí Néaracha athfhillteacha |
| Fad ama | 60 nóiméad |
| Modúl | B |
| Cineál ceachta | Léacht |
| Fócas | Teicniúil — Foghlaim Dhomhain |
| Ábhar | Iolrach (Líonghréasáin Athreatha Néaracha (RNN), ais-éagothroime Trí Am (BPTT), Cuimhne Ghearrthéarmach Fadtéarmach (LSTM)) |
Eochairfhocail
Líonraí Néaracha athfhillteacha (RNN), ais-éagothroime Trí Am (BPTT), Cuimhne Ghearrthéarmach Fadtéarmach (LSTM),
Spriocanna Foghlama
- Bunghnéithe na Líonraí Néaracha Athreatha (RNN), an ais-iomadú Trí Am (BPTT) agus na Cuimhne Ghearrthéarmaí Fadtréimhseacha (LSTM) a fhoghlaim
An tUllmhúchán a bhfuil coinne leis
Imeachtaí Foghlama le Críochnú Roimh
Éigeantach do Mhic Léinn
- Athbhreithniú ar algartam ais-fhorleata
- Ian Goodfellow agus Yoshua Bengio agus Aaron Courville: Domhainfhoghlaim, Preas MIT, 2016, Caibidil 10
- François Chollet: Domhainfhoghlaim le Python, Manning Publications, 2017, Caibidil 6: Domhainfhoghlaim le haghaidh téacs agus seichimh
Roghnach do Mhic Léinn
Ceann ar bith.
Teistiméireachtaí agus cúlra do mhic léinn
Ceann ar bith.
Molta do Mhúinteoirí
Ceann ar bith.
Ábhair cheachta
Treoracha do Mhúinteoirí
Ag an tús, moltar forléargas ginearálta a thabhairt ar shonraí seicheamhacha. Anseo, is féidir leat plé a dhéanamh ar na príomhdhualgais a bhaineann le sonraí seicheamhacha a shamhaltú (lena n-áirítear réimse gabhdach, iltoiseach agus nádúr ilscála).
Níos déanaí a thabhairt isteach RNNanna ar dtús, leis na prionsabail bhunúsacha agus léiríonn sé go bhfuil oiliúint RNNanna tar éis unfold an-simlar chun oiliúint MLPs, ach an t-ionchur, arís agus arís eile maitrísí meáchain athfhillteacha agus aschur roinnte.
Tugaimid isteach BPTT (Ar ais iomadú le himeacht ama) agus an leagan teasctha.
Ansin, pléimid conas a dhéanann an fhadhb grádán vanishing RNNs neamhphraiticiúil.
D’fhonn an grádán vanishing a réiteach, ní mór dúinn an ailtireacht LSTM a thabhairt isteach, a bhfuil cuid chuimhne istigh aige (freagraítear freisin mar chill chuimhne), nach bhfuil aon activatoin acu — mar sin ní tharlaíonn grádán vanishing anseo. Cuir in iúl go soiléir i ndáiríre, go bhfuil an mheicníocht gating rialú fíor ag na sonraí.
Ag an chuid deiridh den léacht, léiríonn muid gur féidir LSTM (agus RNN, go deimhin) sraitheanna a chruachadh ar a chéile le ceann amháin nó dhá threo. (gréasáin aontreocha agus dhéthreocha)
Breac-chuntas
- Forléargas ar shonraí seicheamhacha
- Bunghnéithe athfhillteacha líonraí néaracha
- Ais-fhorleathadh le himeacht ama
- Grádán ag céimniú amach
- Cuimhne Ghearrthéarmach Fadtéarmach
- Sraitheanna RNN/LSTM a chruachadh
| Fad ama (Min) | Tuairisc |
|---|---|
| 10 | Sonraí seicheamhacha a thabhairt isteach |
| 15 | Líonraí néaracha athfhillteacha agus ais-fhorleathadh le himeacht ama |
| 5 | Grádáin trína n-imíonn loscadh in RNNanna |
| 20 | LSTManna |
| 5 | Sraitheanna RNN/LSTM a chruachadh |
| 5 | Conclúidí |
Admhálacha
Balint Gyires-Tóth (Ollscoil Teicneolaíochta agus Eacnamaíochta Bhúdaipeist)
Rinne Saoráid um Chónascadh na hEorpa den Aontas Eorpach Faoi Dheontas CEF-TC-2020-1 Scileanna Digiteacha 2020-AE-IA-0068 comhairgeadú ar an gclár Máistreachta intleachta saorga ar Tháinig an Duine air.