Διοικητικές πληροφορίες
| Τίτλος | Κίνδυνοι τεχνητής νοημοσύνης και διαχείριση κινδύνων |
| Διάρκεια | 90 |
| Ενότητα | Β |
| Είδος μαθήματος | Διαδραστική συνεδρία |
| Εστίαση | Ηθική — Αξιόπιστη ΤΝ |
| Θέμα | Κίνδυνος |
Λέξεις-κλειδιά
AI Risk, Διαχείριση Κινδύνου, Διαχείριση Ανθεκτικότητας, Εξηγητέο AI, Ερμηνευτέο AI, Ασφάλεια, Ανθεκτικότητα, Διαφάνεια, Λογοδοσία,
Μαθησιακοί στόχοι
- Να αναγνωρίζουν, να αναλύουν και να συζητούν την αναγκαιότητα και τον ρόλο των δοκιμών ασφάλειας στην τεχνητή νοημοσύνη.
- Να χρησιμοποιούν έγγραφα, όπως ο νόμος για την τεχνητή νοημοσύνη, για να ταξινομούν τις περιπτώσεις χρήσης σε κατηγορίες κινδύνου.
- Συζητήστε σε βάθος και με κοινό ευρωπαϊκό λεξιλόγιο σχετικά με τον κίνδυνο τεχνητής νοημοσύνης και πώς μπορεί η ΤΝ να σχεδιαστεί με ασφάλεια και καλοσύνη, με τρόπους που δεν θα εκθέτουν τους ανθρώπους σε απαράδεκτους κινδύνους βλάβης, ακόμη και όταν η επικίνδυνη συμπεριφορά μπορεί να προωθήσει έναν στόχο του συστήματος.
- Ταξινόμηση των υποχρεώσεων των παρόχων και των χρηστών σε σχέση με τη διαχείριση κινδύνων ΤΝ.
- Συζητήστε τις απαιτήσεις για συστήματα ΤΝ υψηλού κινδύνου σύμφωνα με τον νόμο για την ΤΝ.
- Να επεξεργαστεί και να αναγνωρίσει συγκεκριμένους κινδύνους και ταξινομήσεις κινδύνου, οι οποίες αφορούν τα διάφορα στάδια του κύκλου ζωής της ΤΝ.
Αναμενόμενη προετοιμασία
Μαθησιακές εκδηλώσεις που πρέπει να ολοκληρωθούν πριν
Καμία.
Υποχρεωτικό για τους φοιτητές
- Ομάδα εμπειρογνωμόνων υψηλού επιπέδου για την τεχνητή νοημοσύνη (AI HLEG). (8 Απριλίου 2019). Ευρωπαϊκή Επιτροπή. «Κατευθυντήριες γραμμές δεοντολογίας για αξιόπιστη ΤΝ.
- Διάλεξη της HCAIM σχετικά με τον κίνδυνο και τον μετριασμό του κινδύνου
Προαιρετικό για Φοιτητές
- WEBinar HCAIM σχετικά με την ευρωπαϊκή προσέγγιση για αξιόπιστη, ασφαλή και αξιόπιστη ΤΝ (διαθέσιμο στο YouTube)
- HCAIM Webinar για τον ρόλο της ασφάλειας και της ιδιωτικής ζωής στη μηχανική μάθηση (διαθέσιμο στο YouTube)
Αναφορές και υπόβαθρο για τους μαθητές
- Ομάδα εμπειρογνωμόνων υψηλού επιπέδου για την τεχνητή νοημοσύνη (AI HLEG). (8 Απριλίου 2019). Ευρωπαϊκή Επιτροπή. «Κατευθυντήριες γραμμές δεοντολογίας για αξιόπιστη ΤΝ.
- Διάλεξη της HCAIM σχετικά με τον κίνδυνο και τον μετριασμό του κινδύνου
Συνιστάται για εκπαιδευτικούς
- Ευρωπαϊκή Επιτροπή: Πρόταση κανονισμού του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου για τη θέσπιση εναρμονισμένων κανόνων για την τεχνητή νοημοσύνη (πράξη για την τεχνητή νοημοσύνη), 2021
- Οργανισμός της Ευρωπαϊκής Ένωσης για την ασφάλεια στον κυβερνοχώρο, Μαλάτρας, A., Dede, G.,рAI προκλήσεις κυβερνοασφάλειας· τοπίο απειλών για την τεχνητή νοημοσύνη, Ευρωπαϊκός Οργανισμός για την Ασφάλεια Δικτύων και Πληροφοριών, 2020
- Ομάδα εμπειρογνωμόνων υψηλού επιπέδου για την τεχνητή νοημοσύνη (AI HLEG). (8 Απριλίου 2019). Ευρωπαϊκή Επιτροπή. «Κατευθυντήριες γραμμές δεοντολογίας για αξιόπιστη ΤΝ.»
- Κακόβουλες χρήσεις και καταχρήσεις της τεχνητής νοημοσύνης 2020, δημοσίευση της Ευρωπόλ
Υλικό μαθήματος
Οδηγίες για τους εκπαιδευτικούς
Αυτή η διαδραστική συνεδρία έχει ως στόχο να δημιουργήσει ένα κοινό λεξιλόγιο για τους μαθητές για να συζητήσουν τους κινδύνους και τη διαχείριση κινδύνων που σχετίζονται με την τεχνητή νοημοσύνη, ιδίως μέσω της προσέγγισης της ΕΕ για την τεχνητή νοημοσύνη με βάση τον κίνδυνο. Το υλικό που παρέχεται, καθώς και το συνολικό περίγραμμα και το χρονοδιάγραμμα της διαδραστικής συνεδρίας είναι ενδεικτικά και παρουσιάζονται με σκοπό την καλύτερη καθοδήγηση της συζήτησης με τους μαθητές. Όσο οι μαθησιακοί στόχοι επιτυγχάνονται, οι εκπαιδευτές ενθαρρύνονται να ακολουθήσουν τη φυσική ροή της συζήτησης.
Περιγραφή και χρονοδιάγραμμα της διαδραστικής συνόδου:
| Διάρκεια | Θέμα | Περιγραφή |
|---|---|---|
| 15 λεπτά | Εισαγωγή | Καθορισμός του κινδύνου. Προσέγγιση της ΕΕ όσον αφορά τη διαχείριση κινδύνων τεχνητής νοημοσύνης. Στρατηγικές διαχείρισης κινδύνων καθ’ όλη τη διάρκεια του κύκλου ζωής της τεχνητής νοημοσύνης. |
| 30 λεπτά | Ταξινόμηση του κινδύνου | Περιουσιακά στοιχεία ΤΝ και ταξινομία απειλών και πλαίσια διαχείρισης κινδύνου για την περιγραφή των τεχνικών χαρακτηριστικών σχεδιασμού για την ΤΝ. |
| 30 λεπτά | Μετριασμός του κινδύνου | Προσεγγίζοντας τον μετριασμό του κινδύνου χρησιμοποιώντας περιπτώσεις χρήσης και κοινό λεξιλόγιο, και μοντέλα αναφοράς για τη μόχλευση της συζήτησης. |
| 15 λεπτά | Καταληκτικές παρατηρήσεις | Συζήτηση με τους μαθητές. Ερωτήσεις και απαντήσεις. |
Δύο Webinars HCAIM είναι ιδιαίτερα σημαντικά για αυτή τη διαδραστική συνεδρία. Αυτά θα μπορούσαν να παρουσιαστούν πριν από τη συζήτηση ή μέρη τους θα μπορούσαν να παιχτούν για να διευκολύνουν τα θέματα και να διαχειριστούν τη σιωπή.
Αναγνωρίσεις
Αυτή η παρουσίαση αναπτύχθηκε από τους Δρ George Sharkov και Christina Todorova στο Ευρωπαϊκό Ινστιτούτο Λογισμικού — Κέντρο Ανατολικής Ευρώπης.
Η παρουσίαση χρησιμοποιεί διαφάνειες από παρουσίαση του Δρ Mihály Héder στο Τεχνολογικό και Οικονομικό Πανεπιστήμιο της Βουδαπέστης. Παρακαλώ, σκεφτείτε να ακολουθήσετε το έργο του.
Το πρόγραμμα Μάστερ τεχνητής νοημοσύνης με επίκεντρο τον άνθρωπο συγχρηματοδοτήθηκε από τον μηχανισμό «Συνδέοντας την Ευρώπη» της Ευρωπαϊκής Ένωσης στο πλαίσιο της επιχορήγησης CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.