Hallinnolliset tiedot
| Otsikko | Yksityisyys koneoppimisessa |
| Kesto | 90 min |
| Moduuli | B |
| Oppitunnin tyyppi | Luento |
| Keskittyminen | Eettinen – luotettava tekoäly |
| Aihe | Yksityisyys |
Avainsanoja
Vastustajamallit,Koulutustietojen poiminta,Järjestelmähyökkäys, Mallien louhinta,
Oppimistavoitteet
- Yksityisyysriskien ymmärtäminen koneoppimisessa
- Erota koulutustiedot ja mallien hyökkäykset/uhat
- Opi kontradiktorinen mallinnus ja uhka-analyysi tekoälyssä
- Tutustu tekoälyn tietosuojatarkastuksen periaatteisiin
- Erota jäsenyys- ja jälleenrakennushyökkäykset
- Erota jäsenyyshyökkäys ja mallin inversio
Odotettu valmistelu
Oppimistapahtumat valmistuvat ennen
Pakollinen opiskelijoille
- koneoppimisen perusteet,
- lineaarinen perusalgebra,
- Perusfunktioanalyysi
Valinnainen opiskelijoille
Ei mitään.
Referenssejä ja taustaa opiskelijoille
- Yleiskatsaus yksityisyyteen koneoppimisessa
- Tietosuoja ja luotettava koneoppiminen
- Jäsenyyden johtopäätökset koneoppimismalleja vastaan
- Syväoppimisen kattava tietosuoja-analyysi: Passiiviset ja aktiiviset valkoisen laatikon päättelyhyökkäykset keskitettyä ja federoitua oppimista vastaan
- Koulutustietojen poimiminen suurista kielimalleista
- Koneoppiminen jäsenyksityisyydellä kontradiktorisen laillistamisen avulla
- Salainen jakaja: Neuroverkoissa tapahtuvan tahattoman muistin arviointi ja testaaminen
Suositellaan opettajille
Oppituntimateriaalit
Ohjeita opettajille
Tämä kurssi tarjoaa yleisen johdannon koneoppimisen erilaisiin luottamuksellisuuskysymyksiin. Opettajille suositellaan, että he käyttävät tosielämän esimerkkejä osoittaakseen näiden haavoittuvuuksien käytännön merkityksen erityisesti yksityisyyteen liittyvissä kysymyksissä, joiden käytännön merkityksestä keskustellaan usein ja joita pidetään inhimillisen kehityksen esteenä. Opiskelijan on ymmärrettävä, että yksityisyysriskit voivat myös hidastaa edistymistä (salassapitoriskit voivat olla haluttomia jakamaan tietojaan). Siinä keskitytään perusymmärrykseen, jota tarvitaan yksityisyysuhkien tunnistamiseen koneoppimismallien auditointia varten. Asiaan liittyviä käytännön taitoja voidaan edelleen kehittää käytännön oppimistapahtumissa:
- Käytännönläheinen: Yksityisyyden suojaavien tekniikoiden soveltaminen ja arviointi
- Käytännönläheinen: Yksityisyyden suojaa ja tietosuojaa koskevat tarkastuspuitteet
Hahmotella
| Kesto (min) | Kuvaus | Käsitteet |
|---|---|---|
| 20 | Koneoppiminen: Yhteenveto | Oppimisalgoritmi, Luokitus, Neuraaliverkot, Gradient laskeutuminen, luottamuspisteet |
| 5 | Vastustajamallit | Valkoinen laatikko, Black-box hyökkäykset |
| 20 | Jäsenyyshyökkäys | Kohdemalli, hyökkääjämalli, Differential Privacy |
| 20 | Modell inversio | Gradientin laskeutuminen syöttötietojen osalta, luokan keskiarvon rekonstruktio |
| 20 | Mallin uutto | Uudelleenkoulutus, parametrien rekonstruointi, lieventäminen |
| 5 | Päätelmät |
Tunnustukset
Human-Centered AI Masters -ohjelmaa rahoitettiin Euroopan unionin Verkkojen Eurooppa -välineestä (CEF-TC-2020–1 Digital Skills 2020-EU-IA-0068).