Διοικητικές πληροφορίες
| Τίτλος | Παραγωγή και εφαρμογή οπισθοπολλαπλασιασμού |
| Διάρκεια | 60 |
| Ενότητα | Β |
| Είδος μαθήματος | Διάλεξη |
| Εστίαση | Τεχνική — Βαθιά Μάθηση |
| Θέμα | Παραγωγή και εφαρμογή της ανατροφοδοτήσεως |
Λέξεις-κλειδιά
Οπισθοπολλαπλασιασμός, λειτουργίες ενεργοποίησης, γενεαλογία,
Μαθησιακοί στόχοι
- Αναπτύξτε μια κατανόηση της διαβάθμισης και του ρυθμού μάθησης
- Αντλεί την οπίσθια αναπαραγωγή για κρυμμένα και εξωτερικά στρώματα
- Οπισθοπολλαπλασιασμός αποσυνδέθηκε και συνδέθηκε χρησιμοποιώντας διαφορετικές λειτουργίες ενεργοποίησης
Αναμενόμενη προετοιμασία
Μαθησιακές εκδηλώσεις που πρέπει να ολοκληρωθούν πριν
Υποχρεωτικό για τους φοιτητές
- Αναθεώρηση του λογισμού (παράγωγα, μερικά παράγωγα, ο κανόνας της αλυσίδας)
Προαιρετικό για Φοιτητές
Καμία.
Αναφορές και υπόβαθρο για τους μαθητές
- John D Kelleher και Brain McNamee. (2018), Fundamentals of Machine Learning for Predictive Data Analytics, MIT Press.
- Ο Μάικλ Νίλσεν. (2015), Neural Networks and Deep Learning (Νευρωνικά δίκτυα και βαθιά μάθηση), 1. Αποφασιστικότητα Τύπος, San Francisco CA ΗΠΑ.
- Charu C. Aggarwal. (2018), Neural Networks and Deep Learning (Νευρωνικά δίκτυα και βαθιά μάθηση), 1. Σπρίνγκερ
- Αντόνιο Γκούλι, Σουτζίτ Παλ. Βαθιά μάθηση με Keras, Packt, [ISBN: 9781787128422].
Συνιστάται για εκπαιδευτικούς
Καμία.
Υλικό μαθήματος
Οδηγίες για τους εκπαιδευτικούς
Αυτή η διάλεξη θα εισαγάγει τους μαθητές στις βασικές αρχές του αλγορίθμου οπισθοπολλαπλασιασμού. Αυτή η διάλεξη θα ξεκινήσει με την έννοια της κατάρας της διάστασης που οδηγεί στην ανάγκη μιας ευρετικής προσέγγισης — ακολουθούμενη από την επισκόπηση του τρόπου με τον οποίο η διαβάθμιση μπορεί να χρησιμοποιηθεί για την προσαρμογή των βαρών. Αυτό στη συνέχεια εισάγει τον αλγόριθμο οπισθοπολλαπλασιασμού. Στη συνέχεια, εισάγουμε επίσης την υπερπαράμετρο του ρυθμού μάθησης και μια σύντομη εικόνα της επίδρασης των μεγάλων και μικρών τιμών (αυτό θα επεκταθεί στη διάλεξη 3). Στη συνέχεια, χρησιμοποιώντας το ίδιο εισαγωγικό δίκτυο από τη διάλεξη 1, εξάγουμε τον τύπο οπισθοπολλαπλασιασμού εξωτερικού στρώματος, και στη συνέχεια, τελικά, θα αντλήσουμε τον εσωτερικό αλγόριθμο οπισθοπολλαπλασιασμού στρώματος. Αυτή η διάλεξη ολοκληρώνεται με παραδείγματα διαφορετικών λειτουργιών ενεργοποίησης και πώς μπορεί να εφαρμοστεί ο αλγόριθμος. Το αντίστοιχο σεμινάριο θα περιλαμβάνει επιπρόσθετες εκδόσεις στυλό και χαρτί, πρακτικά παραδείγματα και τη χρήση κώδικα (μόνο Numpy και KERAS) για την εφαρμογή του αλγορίθμου οπισθοπολλαπλασιασμού.
- Η αρχική έννοια της ωμής επιλογής βάρους δύναμης, και η κατάρα της διάστασης
- Εισαγωγή στην κλίση και πώς αυτό αντιμετωπίζει το πρόβλημα των επαναληπτικών, ευρετικών προσαρμογών βάρους
- Γιατί το ποσοστό μάθησης είναι απαραίτητο και οι επιπτώσεις της επιλογής μικρών και μεγάλων αξιών
- Εξαγωγή της κλίσης (έτσι ο αλγόριθμος οπισθοπολλαπλασιασμού) για το στρώμα εξόδου με Sigmoid ως τη συνάρτηση εξωτερικής ενεργοποίησης
- Εξαγωγή της κλίσης (έτσι ο αλγόριθμος οπισθοπολλαπλασιασμού) για το κρυφό στρώμα με Sigmoid ως τη συνάρτηση εξωτερικής ενεργοποίησης
- Παρουσίαση του τελικού τύπου οπισθοπολλαπλασιασμού
- Χρησιμοποίηση των διαφορετικών λειτουργιών ενεργοποίησης (Εξωτερικό στρώμα: Γραμμικό, Sigmoid και Softmax· Κρυφό στρώμα: ReLU, sigmoid και TanH) στον αλγόριθμο οπισθοπολλαπλασιασμού
Σχεδιάγραμμα
| Διάρκεια (ελάχιστη) | Περιγραφή |
|---|---|
| 5 | Εισαγωγή στη μάθηση, την διαβάθμιση και το ποσοστό μάθησης |
| 20 | Παραγωγή του αλγορίθμου οπισθοπολλαπλασιασμού για το εξωτερικό στρώμα (Σιγμοειδές) |
| 20 | Παραγωγή του αλγορίθμου οπισθοπολλαπλασιασμού για το κρυφό στρώμα (Σιγμοειδές) |
| 10 | Εφαρμογή του αλγορίθμου οπισθοπολλαπλασιασμού και χρήση διαφορετικών λειτουργιών ενεργοποίησης για κάθε στρώμα |
| 5 | Ανακεφαλαιοποίηση στον αλγόριθμο οπισθοπολλαπλασιασμού |
Αναγνωρίσεις
Το πρόγραμμα Μάστερ τεχνητής νοημοσύνης με επίκεντρο τον άνθρωπο συγχρηματοδοτήθηκε από τον μηχανισμό «Συνδέοντας την Ευρώπη» της Ευρωπαϊκής Ένωσης στο πλαίσιο της επιχορήγησης CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.