Haldusteave
| Ametinimetus | Privaatsus masinõppes |
| Kestus | 90 min |
| Moodul | B |
| Õppetunni liik | Loeng |
| Keskendumine | Eetiline – usaldusväärne tehisintellekt |
| Teema | Privaatsus |
Võtmesõnad
Vastased mudelid, Koolitusandmete väljavõte, Liikmerünnak, Näidiseväljavõtted,
Õpieesmärgid
- Privaatsusriskide mõistmine masinõppes
- Eristada koolitusandmeid ja mudeli väljavõtteid rünnakuid/ohte
- Õppige võistlevat modelleerimist ja ohuanalüüsi tehisintellektis
- Õppige tehisintellekti privaatsuse auditeerimise põhimõtteid
- Eristage liikmes- ja ülesehitusrünnakuid
- Eristage liikmeskonna rünnakut ja mudeli inversiooni
Eeldatav ettevalmistamine
Õppeüritused, mis tuleb lõpetada enne
Kohustuslik õpilastele
- masinõppe põhitõed,
- lineaarne algebra,
- põhifunktsiooni analüüs
Valikuline õpilastele
Puudub.
Viited ja taust õpilastele
- Ülevaade privaatsusest masinõppes
- Andmete privaatsus ja usaldusväärne masinõpe
- Liikmesusest tulenevad rünnakud masinõppe mudelite vastu
- Süvaõppe põhjalik eraelu puutumatuse analüüs: Passiivsed ja aktiivsed valge kasti järeldamisrünnakud tsentraliseeritud ja ühendatud õppimise vastu
- Koolitusandmete hankimine suurtest keelemudelitest
- Masinõpe koos liikmelisuse privaatsusega, kasutades võistlevat seadustamist
- Salajane jagaja: Soovimatu meeldejätmise hindamine ja testimine närvivõrkudes
Soovitatav õpetajatele
Õppematerjalid
Juhised õpetajatele
See kursus annab üldise sissejuhatuse erinevatele masinõppe konfidentsiaalsusküsimustele. Õpetajatel soovitatakse kasutada reaalseid näiteid, et näidata nende haavatavuste praktilist asjakohasust, eriti eraelu puutumatusega seotud küsimustes, mille praktilist asjakohasust arutatakse sageli ja mida peetakse inimarengu takistuseks. Õpilased peavad mõistma, et privaatsusriskid võivad ka progressi aeglustada (erapooled, kes seisavad silmitsi konfidentsiaalsusriskidega, võivad olla vastumeelsed oma andmete jagamisele). See keskendub põhiteadmistele, mis on vajalikud eraelu puutumatuse ohtude tuvastamiseks masinõppe mudelite auditeerimise eesmärgil. Sellega seotud praktilisi oskusi saab edasi arendada praktilisematel õppeüritustel:
- Praktiline: Privaatsuse säilitamise tehnikate rakendamine ja hindamine
- Praktiline: Eraelu puutumatuse ja andmekaitse auditeerimisraamistikud
Kontuur
| Kestus (min) | Kirjeldus | Mõisted |
|---|---|---|
| 20 | Masinõpe: Kokkuvõte | Õppealgoritm, klassifikatsiooni, närvivõrgud, Gradient laskumine, usalduse skoorid |
| 5 | Vastased mudelid | Valge kast, Black-box rünnakud |
| 20 | Liikmesuse rünnak | Sihtmudel, Attackeri mudel, diferentseeritud privaatsus |
| 20 | Mudeli inversioon | Gradient laskumine sisendandmete suhtes, klassi keskmise rekonstrueerimine |
| 20 | Mudeli ekstraheerimine | Ümberõpe, parameetrite rekonstrueerimine, leevendusmeetmed |
| 5 | Järeldused |
Tunnustused
Inimkeskse tehisintellekti magistriprogrammi kaasfinantseeris Euroopa Liidu Ühendamise Rahastu toetusega CEF-TC-2020–1 „Digioskused 2020“-EU-IA-0068.