Upravne informacije
| Naslov | Zasebnost v strojnem učenju |
| Trajanje | 90 min |
| Modul | B |
| Vrsta lekcije | Predavanje |
| Osredotočenost | Etična – zaupanja vredna umetna inteligenca |
| Tema | Zasebnost |
Ključne besede
Kontradiktorni modeli, pridobivanje podatkov o usposabljanju, napad članov, ekstrakcija modela,
Učni cilji
- Razumevanje tveganj za zasebnost pri strojnem učenju
- Razlikovati podatke o usposabljanju in izvlečke modelov napadov/grožnje
- Naučite se kontradiktornega modeliranja in analize groženj v umetni inteligenci
- Seznanite se z načeli revizije zasebnosti umetne inteligence
- Razlikovati med članskimi in obnovitvenimi napadi
- Ločite napad članstva in inverzijo modela
Pričakovana priprava
Učenje Dogodki, ki jih je treba dokončati pred
- Predavanje: Uvod v zasebnost in tveganje
- Predavanje: Opremljanje in optimizacija modela
- Predavanje: Zmanjševanje tveganja in tveganja
- Predavanje: Zasebnost
- Predavanje: Raziskovalna analiza podatkov
- Predavanje: Sklepanje in predvidevanje
- Predavanje: Vrednotenje modela
- Predavanje: Nevronske mreže
- Predavanje: Razumevanje podatkov
Obvezno za študente
- osnove strojnega učenja,
- osnovna linearna algebra,
- analiza osnovnih funkcij
Neobvezno za študente
Nobenega.
Reference in ozadje za študente
- Pregled zasebnosti pri strojnem učenju
- Zasebnost podatkov in zaupanja vredno strojno učenje
- Sklepanje o napadih na modele strojnega učenja
- Celovita analiza zasebnosti globokega učenja: Pasivni in aktivni napadi na centralizirano in združeno učenje
- Pridobivanje podatkov o usposabljanju iz velikih jezikovnih modelov
- Strojno učenje z zasebnostjo članstva z uporabo kontradiktorne ureditve
- Skrivni sodelavec: Ocenjevanje in testiranje nenamernega pomnjenja v nevronskih mrežah
Priporočeno za učitelje
Gradivo za učne ure
Navodila za učitelje
Ta tečaj ponuja splošen uvod v različna vprašanja zaupnosti strojnega učenja. Učiteljem se priporoča, da uporabijo primere iz resničnega življenja, da dokažejo praktično ustreznost teh šibkih točk, zlasti za vprašanja, povezana z zasebnostjo, katerih praktični pomen se pogosto obravnava kot ovira za človekov razvoj. Študenti morajo razumeti, da lahko tudi tveganja za zasebnost upočasnijo napredek (stranke, ki se soočajo s tveganjem zaupnosti, morda neradi delijo svoje podatke). Osredotoča se na osnovno razumevanje, ki je potrebno za prepoznavanje groženj zasebnosti za namene revizije modelov strojnega učenja. S tem povezane praktične spretnosti se lahko nadalje razvijajo na bolj praktičnih učnih dogodkih:
- Praktično: Uporaba in vrednotenje tehnik za ohranjanje zasebnosti
- Praktično: Revizijski okviri zasebnosti in varstva podatkov
Obris
| Trajanje (min) | Opis | Koncepti |
|---|---|---|
| 20 | Strojno učenje: Recap | Algoritem učenja, klasifikacija, nevronske mreže, Gradient spust, ocene zaupanja |
| 5 | Kontradiktorni modeli | Bela škatla, napadi Blackbox |
| 20 | Napad članstva | Ciljni model, model napadalca, diferencialna zasebnost |
| 20 | Inverzija modela | Gradientni spust glede na vhodne podatke, rekonstrukcija povprečja razreda |
| 20 | Ekstrakcija modela | Preusposabljanje, rekonstrukcija parametrov, ublažitev |
| 5 | Sklepi |
Priznanja
Program Masters umetne inteligence, ki je bil vključen v človeka, je bil sofinanciran z instrumentom za povezovanje Evrope Evropske unije v okviru nepovratnih sredstev (CEF-TC-2020–1 Digital Skills 2020-EU-IA-0068).