Verwaltungsinformationen
| Titel | Datenschutz im maschinellen Lernen |
| Dauer | 90 min |
| Modulen | B |
| Unterrichtstyp | Vortrag |
| Fokussierung | Ethisch – vertrauenswürdige KI |
| Themenbereich | Privatleben |
Suchbegriffe
Gegnerische Modelle, Trainingsdatenextraktion, Mitgliederangriff, Modellextraktion,
Lernziele
- Verständnis von Datenschutzrisiken im maschinellen Lernen
- Unterscheiden Sie Trainingsdaten und Modellextraktionen Angriffe/Bedrohungen
- Lernen Sie adversariale Modellierung und Bedrohungsanalyse in KI
- Lernen Sie die Prinzipien von AI Privacy Auditing kennen
- Unterscheiden Sie Mitgliedschafts- und Rekonstruktionsangriffe
- Unterscheiden Sie Mitgliedschaftsangriff und Modellinversion
Erwartete Vorbereitung
Lernveranstaltungen, die vorab abgeschlossen werden müssen
Obligatorisch für Studenten
- Grundlagen des maschinellen Lernens,
- grundlegende lineare Algebra,
- Basisfunktionsanalyse
Optional für Studenten
Keine.
Referenzen und Hintergründe für Studierende
- Ein Überblick über den Datenschutz im maschinellen Lernen
- Datenschutz und vertrauenswürdiges maschinelles Lernen
- Mitgliedschaftsinferenzangriffe auf Machine Learning-Modelle
- Umfassende Datenschutzanalyse von Deep Learning: Passive und aktive White-Box-Inferenzangriffe auf zentralisiertes und föderiertes Lernen
- Extrahieren von Trainingsdaten aus großen Sprachmodellen
- Maschinelles Lernen mit Privatsphäre der Mitgliedschaft durch Adversarial Regularization
- Der geheime Sharer: Evaluierung und Erprobung von unbeabsichtigter Erinnerung an neuronale Netze
Empfohlen für Lehrer
Unterrichtsmaterialien
Anleitung für Lehrer
Dieser Kurs bietet eine allgemeine Einführung in verschiedene Vertraulichkeitsfragen des maschinellen Lernens. Lehrern wird empfohlen, anhand von Beispielen aus dem realen Leben die praktische Relevanz dieser Schwachstellen zu demonstrieren, insbesondere für datenschutzbezogene Themen, deren praktische Relevanz häufig diskutiert und als Hindernis für die menschliche Entwicklung betrachtet wird. Die Studierenden müssen verstehen, dass Datenschutzrisiken auch den Fortschritt verlangsamen können (Parteien, die mit Vertraulichkeitsrisiken konfrontiert sind, können zögern, ihre Daten zu teilen). Es konzentriert sich auf das grundlegende Verständnis, das erforderlich ist, um Datenschutzbedrohungen für die Prüfung von Machine-Learning-Modellen zu erkennen. Verwandte praktische Fähigkeiten können in praktischen Lernveranstaltungen weiterentwickelt werden:
- Praktisch: Anwendung und Bewertung von datenschutzerhaltenden Techniken
- Praktisch: Prüfungsrahmen der Privatsphäre und des Datenschutzes
Gliederung
| Dauer (min) | Beschreibung | Konzepte |
|---|---|---|
| 20 | Maschinelles Lernen: Zusammenfassung | Lernalgorithmus, Klassifikation, neuronale Netze, Gradientenabstieg, Vertrauenspunkte |
| 5 | Gegnerische Modelle | White-Box, Black-Box-Angriffe |
| 20 | Mitgliedschaftsangriff | Zielmodell, Angreifermodell, Differential Privacy |
| 20 | Modellinversion | Gradientenabstieg in Bezug auf Eingabedaten, Rekonstruktion des Klassendurchschnitts |
| 20 | Modellextraktion | Umschulung, Parameterrekonstruktion, Minderung |
| 5 | Schlussfolgerungen |
Danksagung
Das Human-Centered AI Masters-Programm wurde von der Fazilität „Connecting Europe“ der Europäischen Union im Rahmen des Zuschusses „CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068“ kofinanziert.