Haldusteave
| Ametinimetus | Usaldusväärne masinõpe |
| Kestus | 60 min |
| Moodul | B |
| Õppetunni liik | Loeng |
| Keskendumine | Eetiline – usaldusväärne tehisintellekt |
| Teema | Konfidentsiaalsus, terviklikkus ja kättesaadavuse probleemid masinõppes |
Võtmesõnad
Konfidentsiaalsus, terviklikkus, Saadavus, Mürgistamine, Evasion, Adversarial Näited,Sponge näited, Tagauksed, Selgitusest kõrvalehoidumine, robustness, Trade-off,
Õpieesmärgid
- Saada üldine ülevaade masinõppe peamistest turvaprobleemidest
- Masinõppe peamiste konfidentsiaalsuse, terviklikkuse ja kättesaadavuse probleemide mõistmine
- Maksudest kõrvalehoidumise, mürgistuse ja tagauste rünnakute eristamine
- Puhta märgistusega mürgistushoogude mõistmine
- Saage võistlevate näidete intuitsioon ja selle praktiline mõju reaalsete näidete kaudu
- Kättesaadavuse rünnakute demonstreerimine kunstlikult konstrueeritud käsnade näidetega
- Selgitatavusest kõrvalehoidumise ohu mõistmine
- Töökindluse ja mudeli kvaliteedi vahelise kompromissi mõistmine
- Õppige tehisintellekti (robustness) auditeerimise põhimõtteid
Eeldatav ettevalmistamine
Õppeüritused, mis tuleb lõpetada enne
Kohustuslik õpilastele
- Põhitõed masinõppes
Valikuline õpilastele
Puudub.
Viited ja taust õpilastele
- HCAIM Webinar, mis käsitleb Euroopa lähenemisviisi usaldusväärsele, turvalisele ja usaldusväärsele tehisintellektile (saadaval YouTube’is)
- Võistlevad näited ja võistlev koolitus
- Võistlev tugevus – teooria ja praktika
- Mürgistusrünnakud tugivektori masinate vastu
- Praktilised Black-Box rünnakud masinõppe vastu
- Närvivõrkude töökindluse hindamine
- Sertifitseeritud Adversarial Robustness kaudu Randomized Smoothing
- Käsna näited: Energeetilised rünnakud närvivõrkudes
- Selgitusi saab manipuleerida ja geomeetria on süüdi
- Mürgised konnad! Puhta märgistusega mürgistusrünnakud närvivõrkudes
- Põhjalik privaatsusanalüüs süvaõppest
- Andmete privaatsus ja usaldusväärne masinõpe
Soovitatav õpetajatele
Õppematerjalid
Juhised õpetajatele
See kursus annab ülevaate masinõppesüsteemide turvalisusest. See keskendub rünnakutele, mis on kasulikud töökindluse masinõppe mudelite auditeerimiseks. Õpetajatel soovitatakse kasutada reaalseid näiteid, et näidata nende haavatavuste praktilist asjakohasust, eriti eraelu puutumatusega seotud küsimustes, mille praktilist asjakohasust arutatakse sageli ja mida peetakse inimarengu takistuseks. Õpilased peavad mõistma, et privaatsusriskid võivad ka progressi aeglustada (erapooled, kes seisavad silmitsi konfidentsiaalsusriskidega, võivad olla vastumeelsed oma andmete jagamisele). Õpilased saavad aru ML mudelite erinevatest turva- ja privaatsusriskidest ning saavad edasi arendada praktilisi oskusi ML mudelite auditeerimiseks seotud praktilistel õppeüritustel, mis on:
- Praktiline: MLi turvalisuse ja töökindluse suurendamine
- Praktiline: Auditiraamistike rakendamine
- Praktiline: Privaatsuse säilitamise tehnikate rakendamine ja hindamine
- Praktiline: Eraelu puutumatuse ja andmekaitse auditeerimisraamistikud
Kontuur
| Kestus (min) | Kirjeldus | Mõisted |
|---|---|---|
| 5 | CIA triad | CIA (konfidentsiaalsus, suhtlus, kättesaadavus) masinõppes |
| 15 | Konfidentsiaalsus | Liikmesuse rünnak, andmete väljavõtmise koolitus. Mudeli varastamine. |
| 20 | Terviklikkus | Kõrvalehoidmine, mürgistus (suunatud, suunamata), Evading selgitatavus, tagauksed. |
| 15 | Kättesaadavus | Käsnade näidete loomine. |
| 5 | Järeldused |
Tunnustused
Inimkeskse tehisintellekti magistriprogrammi kaasfinantseeris Euroopa Liidu Ühendamise Rahastu toetusega CEF-TC-2020–1 „Digioskused 2020“-EU-IA-0068.