Hallinnolliset tiedot
| Otsikko | Luotettava koneoppiminen |
| Kesto | 60 min |
| Moduuli | B |
| Oppitunnin tyyppi | Luento |
| Keskittyminen | Eettinen – luotettava tekoäly |
| Aihe | Koneoppimisen luottamuksellisuus, eheys ja käytettävyysongelmat |
Avainsanoja
Luottamuksellisuus, eheys, Saatavuus,Poisoning,Evasion,Adversarial Esimerkkejä,Sponge esimerkkejä, Takaovet, Selitettävyyskierto, Robustness, Trade-off,
Oppimistavoitteet
- Hanki yleiskuva koneoppimisen tärkeimmistä turvallisuusongelmista
- Koneoppimisen tärkeimpien luottamuksellisuus-, eheys- ja saatavuusongelmien ymmärtäminen
- Veronkierron, myrkytyksen ja takaovien hyökkäysten erottaminen toisistaan
- Puhdasleimaisten myrkytyshyökkäysten ymmärtäminen
- Hanki kontradiktoristen esimerkkien intuitio ja sen käytännön vaikutus tosielämän esimerkkien avulla
- Keinotekoisesti rakennettujen sieniesimerkkien käytettävyyshyökkäysten esittely
- Selitettävyyden välttämisen uhan ymmärtäminen
- Kestävyyden ja mallin laadun välisen kompromissin ymmärtäminen
- Opi tekoälyn (robustness) auditoinnin periaatteet
Odotettu valmistelu
Oppimistapahtumat valmistuvat ennen
Pakollinen opiskelijoille
- Koneoppimisen perusteet
Valinnainen opiskelijoille
Ei mitään.
Referenssejä ja taustaa opiskelijoille
- HCAIM-verkkoseminaari eurooppalaisesta lähestymistavasta kohti luotettavaa, turvallista ja luotettavaa tekoälyä (saatavana YouTubessa)
- Kontradiktoriset esimerkit ja kontradiktorinen koulutus
- Kontradiktorinen kestävyys – teoria ja käytäntö
- Myrkytys hyökkäykset vastaan tuki vektori koneita
- Käytännön Black-Box-hyökkäykset koneoppimista vastaan
- Hermoverkkojen vahvuuden arviointi
- Sertifioitu Adversarial Kestävyys Randomized Smoothing
- Sieniesimerkkejä: Energiaviiveisiin kohdistuvat hyökkäykset hermoverkkoihin
- Selityksiä voidaan manipuloida ja geometria on syyllinen
- Myrkkysammakot! Kohdennetut puhtaan merkin myrkytyshyökkäykset hermoverkkoihin
- Syväoppimisen kattava yksityisyysanalyysi
- Tietosuoja ja luotettava koneoppiminen
Suositellaan opettajille
Oppituntimateriaalit
Ohjeita opettajille
Tämä kurssi tarjoaa yleiskuvan koneoppimisjärjestelmien turvallisuudesta. Siinä keskitytään hyökkäyksiin, jotka ovat hyödyllisiä koneoppimismallien tarkastamisessa. Opettajille suositellaan, että he käyttävät tosielämän esimerkkejä osoittaakseen näiden haavoittuvuuksien käytännön merkityksen erityisesti yksityisyyteen liittyvissä kysymyksissä, joiden käytännön merkityksestä keskustellaan usein ja joita pidetään inhimillisen kehityksen esteenä. Opiskelijan on ymmärrettävä, että yksityisyysriskit voivat myös hidastaa edistymistä (salassapitoriskit voivat olla haluttomia jakamaan tietojaan). Opiskelija voi saada käsityksen ML-mallien erilaisista turvallisuus- ja yksityisyysriskeistä ja kehittää edelleen käytännön taitoja ML-mallien tarkastamiseksi niihin liittyvissä käytännön oppimistapahtumissa, jotka ovat:
- Käytännönläheinen: Rahanpesun torjunnan turvallisuuden ja luotettavuuden parantaminen
- Käytännönläheinen: Soveltaa tilintarkastuskehyksiä
- Käytännönläheinen: Yksityisyyden suojaavien tekniikoiden soveltaminen ja arviointi
- Käytännönläheinen: Yksityisyyden suojaa ja tietosuojaa koskevat tarkastuspuitteet
Hahmotella
| Kesto (min) | Kuvaus | Käsitteet |
|---|---|---|
| 5 | CIA triad | CIA (luottamuksellisuus, eheys, saatavuus) koneoppimisessa |
| 15 | Luottamuksellisuus | Jäsenyyshyökkäys, koulutustietojen poiminta. Malli varastaa. |
| 20 | Eheys | Petos, myrkytys (kohdistettu, kohdentamaton), häikäisevä selitettävyys, takaovet. |
| 15 | Saatavuus | Tuottaa sieniesimerkkejä. |
| 5 | Päätelmät |
Tunnustukset
Human-Centered AI Masters -ohjelmaa rahoitettiin Euroopan unionin Verkkojen Eurooppa -välineestä (CEF-TC-2020–1 Digital Skills 2020-EU-IA-0068).