Administrative oplysninger
| Titel | Privatliv i maskinlæring |
| Varighed | 90 min. |
| Modul | B |
| Lektionstype | Forelæsning |
| Fokus | Etisk — pålidelig kunstig intelligens |
| Emne | Privatliv |
Nøgleord
Modstandsmodeller,Udtrækning af træningsdata, Medlemskabsangreb, Modeludtrækning,
Læringsmål
- Forståelse af risici for privatlivets fred i maskinlæring
- Skelne træningsdata og modeludtræk angreb/trusler
- Lær kontradiktorisk modellering og trusselsanalyse i AI
- Lær principperne for AI Privacy auditering
- Skelne mellem medlems- og genopbygningsangreb
- Skelne mellem medlemskab angreb og model inversion
Forventet forberedelse
Læringsbegivenheder, der skal fuldføres før
- Forelæsning: Introduktion til privatliv og risiko
- Forelæsning: Montering og optimering af modellen
- Forelæsning: Risiko- og risikoreduktion
- Forelæsning: Privatliv
- Forelæsning: Sonderende dataanalyse
- Forelæsning: Slutning og forudsigelse
- Forelæsning: Modelevaluering
- Forelæsning: Neurale netværk
- Forelæsning: Forståelse af data
Obligatorisk for studerende
- grundlæggende om maskinindlæring,
- lineær basisalgebra
- grundlæggende funktionsanalyse
Valgfrit for studerende
Ingen.
Referencer og baggrund for studerende
- Et overblik over privatliv i maskinlæring
- Datasikkerhed og pålidelig maskinlæring
- Medlemskabsslutningsangreb mod maskinlæringsmodeller
- Omfattende privatlivsanalyse af dyb læring: Passive og aktive whitebox-inferensangreb mod centraliseret og føderal læring
- Udtræk uddannelsesdata fra store sprogmodeller
- Maskinlæring med beskyttelse af personlige oplysninger ved hjælp af kontradiktorisk regulering
- Den hemmelige ejer: Evaluering og afprøvning af utilsigtet memorisering i neurale netværk
Anbefalet til lærerne
Undervisningsmaterialer
Instruktioner til lærerne
Dette kursus giver en generel introduktion til forskellige fortrolighedsspørgsmål i Machine learning. Det anbefales, at lærere bruger eksempler fra det virkelige liv til at påvise den praktiske relevans af disse sårbarheder, navnlig for spørgsmål vedrørende privatlivets fred, hvis praktiske relevans ofte drøftes og betragtes som en hindring for menneskelig udvikling. Studerende skal forstå, at privatlivsrisici også kan bremse fremskridt (parter, der står over for fortrolighedsrisici, kan være tilbageholdende med at dele deres data). Den fokuserer på den grundlæggende forståelse, der er nødvendig for at genkende trusler mod privatlivets fred med henblik på at revidere maskinlæringsmodeller. Relaterede praktiske færdigheder kan videreudvikles i forbindelse med mere praktiske læringsarrangementer:
- Praktisk: Anvendelse og evaluering af privatlivsbevarende teknikker
- Praktisk: Revision af rammer for privatlivets fred og databeskyttelse
Omrids
| Varighed (min) | Beskrivelse | Koncepter |
|---|---|---|
| 20 | Maskinlæring: Opsummering | Læringsalgoritme, Klassifikation, Neurale netværk, Gradient nedstigning, tillid score |
| 5 | Modstandermodeller | White-box, Black-box angreb |
| 20 | Angreb på medlemskab | Målmodel, Attacker-model, Differential Privacy |
| 20 | Modell inversion | Gradientnedgang med hensyn til inputdata, rekonstruktion af klassegennemsnit |
| 20 | Modeludsugning | Omskoling, ombygning af parametre, afbødning |
| 5 | Konklusioner |
Anerkendelser
Programmet Human-Centered AI Masters blev samfinansieret af Connecting Europe-faciliteten i Den Europæiske Union under tilskud CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.