Informații administrative
| Titlu | Confidențialitatea în Machine Learning |
| Durată | 90 min |
| Modulul | B |
| Tipul lecției | Prelegere |
| Focalizare | Etică – IA demnă de încredere |
| Subiect | Confidențialitate |
Cuvinte cheie
Modelele adversarilor, extracția datelor de formare, atacul membrilor, extracția modelului,
Obiective de învățare
- Înțelegerea riscurilor de confidențialitate în învățarea automată
- Distingeți datele de antrenament și atacurile/amenințările de extragere a modelului
- Aflați modelarea adversă și analiza amenințărilor în IA
- Aflați principiile auditului de confidențialitate AI
- Distingeți atacurile de apartenență și reconstrucție
- Distingeți atacul de membru și inversarea modelului
Pregătirea preconizată
Evenimente de învățare care urmează să fie finalizate înainte
- Prelegere: Introducere în confidențialitate și risc
- Prelegere: Montarea și optimizarea modelului
- Prelegere: Reducerea riscurilor și a riscurilor
- Prelegere: Confidențialitate
- Prelegere: Analiza datelor exploratorii
- Prelegere: Inferență și predicție
- Prelegere: Evaluarea modelului
- Prelegere: Rețele neuronale
- Prelegere: Înțelegerea datelor
Obligatoriu pentru studenți
- elementele de bază ale învățării automate,
- algebră liniară de bază,
- analiza funcțiilor de bază
Opțional pentru studenți
Nici unul.
Referințe și context pentru studenți
- O prezentare generală a confidențialității în învățarea mașinilor
- Confidențialitatea datelor și învățarea mașinilor de încredere
- Atacuri de deducție a membrilor împotriva modelelor de învățare automată
- Analizacuprinzătoare a confidențialității învățării profunde: Atacuri pasive și active de tip white-box împotriva învățării centralizate și federate
- Extragerea datelor de instruire din modele lingvistice mari
- Învățarea automată cu confidențialitatea membrilor utilizând regularizarea adversarilor
- Partajarea secretă: Evaluarea și testarea memorării neintenționate în rețelele neuronale
Recomandat pentru profesori
Materiale de lecție
Instrucțiuni pentru profesori
Acest curs oferă o introducere generală la diferite probleme de confidențialitate ale învățării automate. Profesorilor li se recomandă să utilizeze exemple din viața reală pentru a demonstra relevanța practică a acestor vulnerabilități, în special pentru aspectele legate de confidențialitate, a căror relevanță practică este adesea dezbătută și considerată ca un obstacol în calea dezvoltării umane. Elevii trebuie să înțeleagă că riscurile de confidențialitate pot încetini, de asemenea, progresul (părțile care se confruntă cu riscuri de confidențialitate pot fi reticente în a partaja datele lor). Acesta se concentrează pe înțelegerea de bază necesară pentru a recunoaște amenințările la adresa vieții private în scopul auditării modelelor de învățare automată. Competențele practice conexe pot fi dezvoltate în continuare în cadrul unor evenimente de învățare mai practice:
- Practică: Aplicarea și evaluarea tehnicilor de conservare a vieții private
- Practică: Cadrele de audit privind confidențialitatea și protecția datelor
Contur
| Durată (min) | Descriere | Concepte |
|---|---|---|
| 20 | Învățare automată: Recapitulare | Algoritm de învățare, clasificare, rețele neuronale, coborâre gradient, scoruri de încredere |
| 5 | Modele de adversari | Cutia albă, atacuri cu cutie neagră |
| 20 | Atacul membrilor | Modelul țintă, modelul atacatorului, confidențialitatea diferențială |
| 20 | Inversarea modelului | Coborârea gradientului în raport cu datele de intrare, reconstrucția mediei claselor |
| 20 | Extracția modelului | Reconversia, reconstrucția parametrilor, atenuarea efectelor |
| 5 | Concluzii |
Confirmări
Programul de masterat AI centrat pe om a fost cofinantat de Mecanismul pentru interconectarea Europei al Uniunii Europene sub Grantul CEF-TC-2020-1 Digital Skills 2020-EU-IA-0068.