Διοικητικές πληροφορίες
| Τίτλος | Αξιόπιστη μηχανική μάθηση |
| Διάρκεια | 60 λεπτά |
| Ενότητα | Β |
| Είδος μαθήματος | Διάλεξη |
| Εστίαση | Ηθική — Αξιόπιστη ΤΝ |
| Θέμα | Προβλήματα εμπιστευτικότητας, ακεραιότητας και διαθεσιμότητας στη μηχανική μάθηση |
Λέξεις-κλειδιά
Εχεμύθεια, Ακεραιότητα, Διαθεσιμότητα, Δηλητηρίαση, Αποφυγή, Προσθετικά παραδείγματα, Παραδείγματα Σπονδυλίων, Οπισθοπορεία, Εξηγησιμότητα αποφυγής, Εμπόριο-off,
Μαθησιακοί στόχοι
- Αποκτήστε μια γενική επισκόπηση των κύριων προβλημάτων ασφάλειας της μηχανικής μάθησης
- Κατανόηση των κύριων ζητημάτων εμπιστευτικότητας, ακεραιότητας και διαθεσιμότητας της μηχανικής μάθησης
- Διάκριση της φοροδιαφυγής, της δηλητηρίασης και των επιθέσεων κερκόπορτας
- Κατανόηση των επιθέσεων δηλητηρίασης καθαρής ετικέτας
- Αποκτήστε τη διαίσθηση των αντιμαχόμενων παραδειγμάτων και την πρακτική επίδρασή της μέσω παραδειγμάτων πραγματικής ζωής
- Επίδειξη των επιθέσεων διαθεσιμότητας από τεχνητά κατασκευασμένα παραδείγματα σφουγγαριών
- Κατανόηση της απειλής της φοροδιαφυγής εξηγησιμότητας
- Κατανόηση της αντιστάθμισης μεταξύ της ευρωστίας και της ποιότητας του μοντέλου
- Μάθετε τις αρχές του ελέγχου τεχνητής νοημοσύνης (ανθεκτικότητας)
Αναμενόμενη προετοιμασία
Μαθησιακές εκδηλώσεις που πρέπει να ολοκληρωθούν πριν
Υποχρεωτικό για τους φοιτητές
- Βασικά στη Μηχανική Μάθηση
Προαιρετικό για Φοιτητές
Καμία.
Αναφορές και υπόβαθρο για τους μαθητές
- WEBinar HCAIM σχετικά με την ευρωπαϊκή προσέγγιση για αξιόπιστη, ασφαλή και αξιόπιστη ΤΝ (διαθέσιμο στο YouTube)
- Αντιπαρατιθέμενα Παραδείγματα και Αντίπαλη Εκπαίδευση
- Αντιπαλότητα — Θεωρία και Πρακτική
- Επιθέσεις δηλητηρίασης κατά των διανυσματικών μηχανών υποστήριξης
- Πρακτικές επιθέσεις Black-Box κατά της μηχανικής μάθησης
- Προς την αξιολόγηση της ευρωστίας των νευρωνικών δικτύων
- Πιστοποιημένη αντιπαλότητα μέσω Randomized Smoothing
- Παραδείγματασφουγγαριών: Επιθέσεις ενεργειακής αδειοδότησης σε νευρωνικά δίκτυα
- Οι εξηγήσεις μπορούν να χειραγωγηθούν και η γεωμετρία είναι φταίξιμο
- Δηλητηριασμένοι βάτραχοι! Στοχευμένες επιθέσεις δηλητηρίασης καθαρής ετικέτας σε νευρωνικά δίκτυα
- Ολοκληρωμένη ανάλυση απορρήτου της βαθιάς μάθησης
- Προστασία προσωπικών δεδομένων και αξιόπιστη μηχανική μάθηση
Συνιστάται για εκπαιδευτικούς
Υλικό μαθήματος
Οδηγίες για τους εκπαιδευτικούς
Αυτό το μάθημα παρέχει μια επισκόπηση της ασφάλειας των συστημάτων μηχανικής μάθησης. Επικεντρώνεται σε επιθέσεις που είναι χρήσιμες για τον έλεγχο των μοντέλων μηχανικής μάθησης. Συνιστάται στους εκπαιδευτικούς να χρησιμοποιούν παραδείγματα πραγματικής ζωής για να καταδείξουν την πρακτική σημασία αυτών των τρωτών σημείων, ιδίως για ζητήματα που σχετίζονται με την προστασία της ιδιωτικής ζωής, των οποίων η πρακτική συνάφεια συχνά συζητείται και θεωρείται εμπόδιο στην ανθρώπινη ανάπτυξη. Οι μαθητές πρέπει να κατανοήσουν ότι οι κίνδυνοι για την προστασία της ιδιωτικής ζωής μπορούν επίσης να επιβραδύνουν την πρόοδο (τα μέρη που αντιμετωπίζουν κινδύνους εμπιστευτικότητας μπορεί να είναι απρόθυμα να μοιραστούν τα δεδομένα τους). Οι μαθητές μπορούν να κατανοήσουν τους διαφορετικούς κινδύνους ασφάλειας και ιδιωτικότητας των μοντέλων ML και μπορούν να αναπτύξουν περαιτέρω πιο πρακτικές δεξιότητες για τον έλεγχο των μοντέλων ML στις σχετικές πρακτικές εκδηλώσεις μάθησης, οι οποίες είναι:
- Πρακτικό: Ενίσχυση της ασφάλειας και της ευρωστίας των ΞΧ
- Πρακτικό: Εφαρμογή πλαισίων ελέγχου
- Πρακτικό: Εφαρμογή και αξιολόγηση τεχνικών διατήρησης της ιδιωτικής ζωής
- Πρακτικό: Πλαίσια ελέγχου της ιδιωτικής ζωής και της προστασίας των δεδομένων
Σχεδιάγραμμα
| Διάρκεια (ελάχ.) | Περιγραφή | Έννοιες |
|---|---|---|
| 5 | Τριάδα της CIA | CIA (εμπιστευτικότητα, διαπροσωπικότητα, διαθεσιμότητα) στη Μηχανική Μάθηση |
| 15 | Εμπιστευτικότητα | Επίθεση μελών, εκπαίδευση εξαγωγής δεδομένων. Το μοντέλο κλέβει. |
| 20 | Ακεραιότητα | Αποφυγή, δηλητηρίαση (στοχευμένη, μη στοχευμένη), αποφυγή εξηγησιμότητας, backdoors. |
| 15 | Διαθεσιμότητα | Δημιουργία παραδειγμάτων σφουγγαριών. |
| 5 | Συμπεράσματα |
Αναγνωρίσεις
Το πρόγραμμα Μάστερ τεχνητής νοημοσύνης με επίκεντρο τον άνθρωπο συγχρηματοδοτήθηκε από τον μηχανισμό «Συνδέοντας την Ευρώπη» της Ευρωπαϊκής Ένωσης στο πλαίσιο της επιχορήγησης CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.